सीमित न्यूनतम वर्ग: Difference between revisions

From Vigyanwiki
(Created page with "{{more citations needed|date=July 2018}} विवश कम से कम वर्गों में समाधान पर एक अतिरिक्त बाधा...")
 
No edit summary
Line 1: Line 1:
{{more citations needed|date=July 2018}}
विवश कम से कम वर्गों में समाधान पर अतिरिक्त बाधा के साथ रैखिक कम से कम वर्ग (गणित) समस्या को हल करता है।<ref>{{cite book |first=Takeshi |last=Amemiya |authorlink=Takeshi Amemiya |title=उन्नत अर्थमिति|location=Oxford |publisher=Basil Blackwell |year=1985 |isbn=0-631-15583-X |chapter=Model 1 with Linear Constraints |pages=20–26 }}</ref><ref name="BoydVandenberghe2018">{{cite book|first=Stephen |last=Boyd |first2=Lieven |last2=Vandenberghe|title=Introduction to Applied Linear Algebra: Vectors, Matrices, and Least Squares|url=https://books.google.com/books?id=IApaDwAAQBAJ&q=%22Constrained+least+squares%22|year=2018|publisher=Cambridge University Press|isbn=978-1-316-51896-0}}</ref> इसका मतलब है, अप्रतिबंधित समीकरण <math>\mathbf {X} \boldsymbol {\beta} = \mathbf {y}</math> यह सुनिश्चित करते हुए कि कुछ अन्य संपत्ति सुनिश्चित करते हुए (कम से कम वर्गों के अर्थ में) यथासंभव फिट होना चाहिए <math>\boldsymbol {\beta}</math> कायम रखा है।
 
विवश कम से कम वर्गों में समाधान पर एक अतिरिक्त बाधा के साथ एक रैखिक कम से कम वर्ग (गणित) समस्या को हल करता है।<ref>{{cite book |first=Takeshi |last=Amemiya |authorlink=Takeshi Amemiya |title=उन्नत अर्थमिति|location=Oxford |publisher=Basil Blackwell |year=1985 |isbn=0-631-15583-X |chapter=Model 1 with Linear Constraints |pages=20–26 }}</ref><ref name="BoydVandenberghe2018">{{cite book|first=Stephen |last=Boyd |first2=Lieven |last2=Vandenberghe|title=Introduction to Applied Linear Algebra: Vectors, Matrices, and Least Squares|url=https://books.google.com/books?id=IApaDwAAQBAJ&q=%22Constrained+least+squares%22|year=2018|publisher=Cambridge University Press|isbn=978-1-316-51896-0}}</ref> इसका मतलब है, अप्रतिबंधित समीकरण <math>\mathbf {X} \boldsymbol {\beta} = \mathbf {y}</math> यह सुनिश्चित करते हुए कि कुछ अन्य संपत्ति सुनिश्चित करते हुए (कम से कम वर्गों के अर्थ में) यथासंभव फिट होना चाहिए <math>\boldsymbol {\beta}</math> कायम रखा है।


ऐसी समस्याओं को कुशलतापूर्वक हल करने के लिए अक्सर विशेष-उद्देश्य वाले एल्गोरिदम होते हैं। व्यवरोधों के कुछ उदाहरण नीचे दिए गए हैं:
ऐसी समस्याओं को कुशलतापूर्वक हल करने के लिए अक्सर विशेष-उद्देश्य वाले एल्गोरिदम होते हैं। व्यवरोधों के कुछ उदाहरण नीचे दिए गए हैं:
* विवश सामान्यीकृत व्युत्क्रम न्यूनतम वर्ग: के तत्व <math>\boldsymbol {\beta}</math> बिल्कुल संतुष्ट होना चाहिए <math>\mathbf {L} \boldsymbol {\beta} = \mathbf {d}</math> (साधारण न्यूनतम वर्ग#बाधित अनुमान देखें)।
* विवश सामान्यीकृत व्युत्क्रम न्यूनतम वर्ग: के तत्व <math>\boldsymbol {\beta}</math> बिल्कुल संतुष्ट होना चाहिए <math>\mathbf {L} \boldsymbol {\beta} = \mathbf {d}</math> (साधारण न्यूनतम वर्ग#बाधित अनुमान देखें)।
* स्टोचैस्टिक (रैखिक रूप से) विवश न्यूनतम वर्ग: के तत्व <math>\boldsymbol {\beta}</math> संतुष्ट करना चाहिए <math>\mathbf {L} \boldsymbol {\beta} = \mathbf {d} + \mathbf {\nu}</math>, कहाँ <math>\mathbf {\nu}</math> यादृच्छिक चर का एक सदिश है जैसे कि <math>\operatorname{E}(\mathbf {\nu}) = \mathbf{0}</math> और <math>\operatorname{E}(\mathbf {\nu} \mathbf {\nu}^{\rm T}) = \tau^{2}\mathbf{I}</math>. यह प्रभावी रूप से [[पूर्व वितरण]] को लागू करता है <math>\boldsymbol {\beta}</math> और इसलिए [[बायेसियन रैखिक प्रतिगमन]] के बराबर है।<ref>{{cite book |first=Thomas B. |last=Fomby |first2=R. Carter |last2=Hill |first3=Stanley R. |last3=Johnson |title=उन्नत अर्थमितीय तरीके|location=New York |publisher=Springer-Verlag |edition=Corrected softcover |year=1988 |isbn=0-387-96868-7 |chapter=Use of Prior Information |pages=80–121 }}</ref>
* स्टोचैस्टिक (रैखिक रूप से) विवश न्यूनतम वर्ग: के तत्व <math>\boldsymbol {\beta}</math> संतुष्ट करना चाहिए <math>\mathbf {L} \boldsymbol {\beta} = \mathbf {d} + \mathbf {\nu}</math>, कहाँ <math>\mathbf {\nu}</math> यादृच्छिक चर का सदिश है जैसे कि <math>\operatorname{E}(\mathbf {\nu}) = \mathbf{0}</math> और <math>\operatorname{E}(\mathbf {\nu} \mathbf {\nu}^{\rm T}) = \tau^{2}\mathbf{I}</math>. यह प्रभावी रूप से [[पूर्व वितरण]] को लागू करता है <math>\boldsymbol {\beta}</math> और इसलिए [[बायेसियन रैखिक प्रतिगमन]] के बराबर है।<ref>{{cite book |first=Thomas B. |last=Fomby |first2=R. Carter |last2=Hill |first3=Stanley R. |last3=Johnson |title=उन्नत अर्थमितीय तरीके|location=New York |publisher=Springer-Verlag |edition=Corrected softcover |year=1988 |isbn=0-387-96868-7 |chapter=Use of Prior Information |pages=80–121 }}</ref>
* [[तिखोनोव नियमितीकरण]] कम से कम वर्ग: के तत्व <math>\boldsymbol {\beta}</math> संतुष्ट करना चाहिए <math>\| \mathbf {L} \boldsymbol {\beta} - \mathbf {y} \| \le \alpha </math> (चुनना <math>\alpha</math> वाई के शोर मानक विचलन के अनुपात में ओवरफिटिंग को रोकता है)।
* [[तिखोनोव नियमितीकरण]] कम से कम वर्ग: के तत्व <math>\boldsymbol {\beta}</math> संतुष्ट करना चाहिए <math>\| \mathbf {L} \boldsymbol {\beta} - \mathbf {y} \| \le \alpha </math> (चुनना <math>\alpha</math> वाई के शोर मानक विचलन के अनुपात में ओवरफिटिंग को रोकता है)।
* गैर-नकारात्मक न्यूनतम वर्ग (एनएनएलएस): वेक्टर <math>\boldsymbol {\beta}</math> आदेशित वेक्टर स्थान को संतुष्ट करना चाहिए <math>\boldsymbol {\beta} \geq \boldsymbol{0}</math> परिभाषित घटक-अर्थात, प्रत्येक घटक या तो सकारात्मक या शून्य होना चाहिए।
* गैर-नकारात्मक न्यूनतम वर्ग (एनएनएलएस): वेक्टर <math>\boldsymbol {\beta}</math> आदेशित वेक्टर स्थान को संतुष्ट करना चाहिए <math>\boldsymbol {\beta} \geq \boldsymbol{0}</math> परिभाषित घटक-अर्थात, प्रत्येक घटक या तो सकारात्मक या शून्य होना चाहिए।
Line 15: Line 13:


:<math>\hat{\boldsymbol {\beta}}_1 = \mathbf {X}_1^+ (\mathbf {y} - \mathbf {X}_2 \boldsymbol {\beta}_2)</math>
:<math>\hat{\boldsymbol {\beta}}_1 = \mathbf {X}_1^+ (\mathbf {y} - \mathbf {X}_2 \boldsymbol {\beta}_2)</math>
(कहाँ <sup>+</sup> मूर-पेनरोज़ स्यूडोइनवर्स को इंगित करता है) मूल अभिव्यक्ति में वापस (कुछ पुनर्व्यवस्था के बाद) एक समीकरण देता है जिसे विशुद्ध रूप से विवश समस्या के रूप में हल किया जा सकता है <math>\mathbf {\beta}_2</math>.
(कहाँ <sup>+</sup> मूर-पेनरोज़ स्यूडोइनवर्स को इंगित करता है) मूल अभिव्यक्ति में वापस (कुछ पुनर्व्यवस्था के बाद) समीकरण देता है जिसे विशुद्ध रूप से विवश समस्या के रूप में हल किया जा सकता है <math>\mathbf {\beta}_2</math>.


:<math> \mathbf{P} \mathbf {X}_2 \boldsymbol {\beta}_2 = \mathbf{P}\mathbf {y},</math>
:<math> \mathbf{P} \mathbf {X}_2 \boldsymbol {\beta}_2 = \mathbf{P}\mathbf {y},</math>

Revision as of 08:42, 27 April 2023

विवश कम से कम वर्गों में समाधान पर अतिरिक्त बाधा के साथ रैखिक कम से कम वर्ग (गणित) समस्या को हल करता है।[1][2] इसका मतलब है, अप्रतिबंधित समीकरण यह सुनिश्चित करते हुए कि कुछ अन्य संपत्ति सुनिश्चित करते हुए (कम से कम वर्गों के अर्थ में) यथासंभव फिट होना चाहिए कायम रखा है।

ऐसी समस्याओं को कुशलतापूर्वक हल करने के लिए अक्सर विशेष-उद्देश्य वाले एल्गोरिदम होते हैं। व्यवरोधों के कुछ उदाहरण नीचे दिए गए हैं:

  • विवश सामान्यीकृत व्युत्क्रम न्यूनतम वर्ग: के तत्व बिल्कुल संतुष्ट होना चाहिए (साधारण न्यूनतम वर्ग#बाधित अनुमान देखें)।
  • स्टोचैस्टिक (रैखिक रूप से) विवश न्यूनतम वर्ग: के तत्व संतुष्ट करना चाहिए , कहाँ यादृच्छिक चर का सदिश है जैसे कि और . यह प्रभावी रूप से पूर्व वितरण को लागू करता है और इसलिए बायेसियन रैखिक प्रतिगमन के बराबर है।[3]
  • तिखोनोव नियमितीकरण कम से कम वर्ग: के तत्व संतुष्ट करना चाहिए (चुनना वाई के शोर मानक विचलन के अनुपात में ओवरफिटिंग को रोकता है)।
  • गैर-नकारात्मक न्यूनतम वर्ग (एनएनएलएस): वेक्टर आदेशित वेक्टर स्थान को संतुष्ट करना चाहिए परिभाषित घटक-अर्थात, प्रत्येक घटक या तो सकारात्मक या शून्य होना चाहिए।
  • बॉक्स-विवश न्यूनतम वर्ग: वेक्टर आदेशित वेक्टर स्थान को संतुष्ट करना चाहिए , जिनमें से प्रत्येक को घटकवार परिभाषित किया गया है।
  • पूर्णांक-विवश न्यूनतम वर्ग: के सभी तत्व पूर्णांक होना चाहिए (वास्तविक संख्या के बजाय)।
  • चरण-विवश न्यूनतम वर्ग: के सभी तत्व वास्तविक संख्याएँ होनी चाहिए, या इकाई मापांक की समान जटिल संख्या से गुणा की जानी चाहिए।

यदि बाधा केवल कुछ चरों पर लागू होती है, तो मिश्रित समस्या को वियोज्य न्यूनतम वर्गों का उपयोग करके हल किया जा सकता है और अप्रतिबंधित (1) और विवश (2) घटकों का प्रतिनिधित्व करते हैं। फिर के लिए कम से कम वर्ग समाधान को प्रतिस्थापित करना , अर्थात।

(कहाँ + मूर-पेनरोज़ स्यूडोइनवर्स को इंगित करता है) मूल अभिव्यक्ति में वापस (कुछ पुनर्व्यवस्था के बाद) समीकरण देता है जिसे विशुद्ध रूप से विवश समस्या के रूप में हल किया जा सकता है .

कहाँ प्रक्षेपण मैट्रिक्स है। के विवश अनुमान के बाद वेक्टर उपरोक्त पद से प्राप्त होता है।

यह भी देखें

संदर्भ

  1. Amemiya, Takeshi (1985). "Model 1 with Linear Constraints". उन्नत अर्थमिति. Oxford: Basil Blackwell. pp. 20–26. ISBN 0-631-15583-X.
  2. Boyd, Stephen; Vandenberghe, Lieven (2018). Introduction to Applied Linear Algebra: Vectors, Matrices, and Least Squares. Cambridge University Press. ISBN 978-1-316-51896-0.
  3. Fomby, Thomas B.; Hill, R. Carter; Johnson, Stanley R. (1988). "Use of Prior Information". उन्नत अर्थमितीय तरीके (Corrected softcover ed.). New York: Springer-Verlag. pp. 80–121. ISBN 0-387-96868-7.