सीमित न्यूनतम वर्ग: Difference between revisions

From Vigyanwiki
No edit summary
No edit summary
Line 1: Line 1:
विवश कम से कम वर्गों में समाधान पर अतिरिक्त बाधा के साथ रैखिक कम से कम वर्ग (गणित) समस्या को हल करता है।<ref>{{cite book |first=Takeshi |last=Amemiya |authorlink=Takeshi Amemiya |title=उन्नत अर्थमिति|location=Oxford |publisher=Basil Blackwell |year=1985 |isbn=0-631-15583-X |chapter=Model 1 with Linear Constraints |pages=20–26 }}</ref><ref name="BoydVandenberghe2018">{{cite book|first=Stephen |last=Boyd |first2=Lieven |last2=Vandenberghe|title=Introduction to Applied Linear Algebra: Vectors, Matrices, and Least Squares|url=https://books.google.com/books?id=IApaDwAAQBAJ&q=%22Constrained+least+squares%22|year=2018|publisher=Cambridge University Press|isbn=978-1-316-51896-0}}</ref> इसका मतलब है, अप्रतिबंधित समीकरण <math>\mathbf {X} \boldsymbol {\beta} = \mathbf {y}</math> यह सुनिश्चित करते हुए कि कुछ अन्य संपत्ति सुनिश्चित करते हुए (कम से कम वर्गों के अर्थ में) यथासंभव फिट होना चाहिए <math>\boldsymbol {\beta}</math> कायम रखा है।
विवश कम से कम वर्गों में समाधान पर अतिरिक्त बाधा के साथ रैखिक कम से कम वर्ग (गणित) समस्या को हल करता है।<ref>{{cite book |first=Takeshi |last=Amemiya |authorlink=Takeshi Amemiya |title=उन्नत अर्थमिति|location=Oxford |publisher=Basil Blackwell |year=1985 |isbn=0-631-15583-X |chapter=Model 1 with Linear Constraints |pages=20–26 }}</ref><ref name="BoydVandenberghe2018">{{cite book|first=Stephen |last=Boyd |first2=Lieven |last2=Vandenberghe|title=Introduction to Applied Linear Algebra: Vectors, Matrices, and Least Squares|url=https://books.google.com/books?id=IApaDwAAQBAJ&q=%22Constrained+least+squares%22|year=2018|publisher=Cambridge University Press|isbn=978-1-316-51896-0}}</ref> इसका अर्थ है, अप्रतिबंधित समीकरण <math>\mathbf {X} \boldsymbol {\beta} = \mathbf {y}</math> यह सुनिश्चित करते हुए कि कुछ अन्य संपत्ति सुनिश्चित करते हुए (कम से कम वर्गों के अर्थ में) यथासंभव स्थित होना चाहिए <math>\boldsymbol {\beta}</math> कायम रखा है।


ऐसी समस्याओं को कुशलतापूर्वक हल करने के लिए अक्सर विशेष-उद्देश्य वाले एल्गोरिदम होते हैं। व्यवरोधों के कुछ उदाहरण नीचे दिए गए हैं:
ऐसी समस्याओं को कुशलतापूर्वक हल करने के लिए अधिकांशतः विशेष-उद्देश्य वाले एल्गोरिदम होते हैं। व्यवरोधों के कुछ उदाहरण नीचे दिए गए हैं:
* विवश सामान्यीकृत व्युत्क्रम न्यूनतम वर्ग: के तत्व <math>\boldsymbol {\beta}</math> बिल्कुल संतुष्ट होना चाहिए <math>\mathbf {L} \boldsymbol {\beta} = \mathbf {d}</math> (साधारण न्यूनतम वर्ग#बाधित अनुमान देखें)।
* समानता विवश न्यूनतम वर्ग: <math>\boldsymbol {\beta}</math> के तत्वों को निश्चित रूप से <math>\mathbf {L} \boldsymbol {\beta} = \mathbf {d}</math> को संतुष्ट करना चाहिए (साधारण न्यूनतम वर्ग देखें)।
* स्टोचैस्टिक (रैखिक रूप से) विवश न्यूनतम वर्ग: के तत्व <math>\boldsymbol {\beta}</math> संतुष्ट करना चाहिए <math>\mathbf {L} \boldsymbol {\beta} = \mathbf {d} + \mathbf {\nu}</math>, कहाँ <math>\mathbf {\nu}</math> यादृच्छिक चर का सदिश है जैसे कि <math>\operatorname{E}(\mathbf {\nu}) = \mathbf{0}</math> और <math>\operatorname{E}(\mathbf {\nu} \mathbf {\nu}^{\rm T}) = \tau^{2}\mathbf{I}</math>. यह प्रभावी रूप से [[पूर्व वितरण]] को लागू करता है <math>\boldsymbol {\beta}</math> और इसलिए [[बायेसियन रैखिक प्रतिगमन]] के बराबर है।<ref>{{cite book |first=Thomas B. |last=Fomby |first2=R. Carter |last2=Hill |first3=Stanley R. |last3=Johnson |title=उन्नत अर्थमितीय तरीके|location=New York |publisher=Springer-Verlag |edition=Corrected softcover |year=1988 |isbn=0-387-96868-7 |chapter=Use of Prior Information |pages=80–121 }}</ref>
*स्टोकेस्टिक (रैखिक रूप से) कम से कम सीमित वर्ग: <math>\boldsymbol {\beta}</math> के तत्वों को संतुष्ट होना चाहिए<math>\mathbf {L} \boldsymbol {\beta} = \mathbf {d} + \mathbf {\nu}</math> जहां <math>\mathbf {\nu}</math> यादृच्छिक चर का एक वेक्टर है जैसे कि <math>\operatorname{E}(\mathbf {\nu}) = \mathbf{0}</math> और <math>\operatorname{E}(\mathbf {\nu} \mathbf {\nu}^{\rm T}) = \tau^{2}\mathbf{I}</math> यह प्रभावी रूप से <math>\boldsymbol {\beta}</math> के लिए एक पूर्व वितरण प्रयुक्त करता है और इसलिए [[बायेसियन रैखिक प्रतिगमन]] के समान है।<ref>{{cite book |first=Thomas B. |last=Fomby |first2=R. Carter |last2=Hill |first3=Stanley R. |last3=Johnson |title=उन्नत अर्थमितीय तरीके|location=New York |publisher=Springer-Verlag |edition=Corrected softcover |year=1988 |isbn=0-387-96868-7 |chapter=Use of Prior Information |pages=80–121 }}</ref>
* [[तिखोनोव नियमितीकरण]] कम से कम वर्ग: के तत्व <math>\boldsymbol {\beta}</math> संतुष्ट करना चाहिए <math>\| \mathbf {L} \boldsymbol {\beta} - \mathbf {y} \| \le \alpha </math> (चुनना <math>\alpha</math> वाई के शोर मानक विचलन के अनुपात में ओवरफिटिंग को रोकता है)।
* [[तिखोनोव नियमितीकरण]] कम से कम वर्ग: के तत्व <math>\boldsymbol {\beta}</math> संतुष्ट करना चाहिए <math>\| \mathbf {L} \boldsymbol {\beta} - \mathbf {y} \| \le \alpha </math> (चुनना <math>\alpha</math> वाई के ध्वनि मानक विचलन के अनुपात में अधिक उपयुक्त को रोकता है)।
* गैर-नकारात्मक न्यूनतम वर्ग (एनएनएलएस): वेक्टर <math>\boldsymbol {\beta}</math> आदेशित वेक्टर स्थान को संतुष्ट करना चाहिए <math>\boldsymbol {\beta} \geq \boldsymbol{0}</math> परिभाषित घटक-अर्थात, प्रत्येक घटक या तो सकारात्मक या शून्य होना चाहिए।
*गैर-ऋणात्मक न्यूनतम वर्ग (एनएनएलएस): वेक्टर <math>\boldsymbol {\beta}</math> को सदिश असमानता <math>\boldsymbol {\beta} \geq \boldsymbol{0}</math> को घटकवार परिभाषित करना चाहिए—अर्थात्, प्रत्येक घटक को अवश्य ही सकारात्मक या शून्य हो।
* बॉक्स-विवश न्यूनतम वर्ग: वेक्टर <math>\boldsymbol {\beta}</math> आदेशित वेक्टर स्थान को संतुष्ट करना चाहिए <math> \boldsymbol{b}_\ell \leq \boldsymbol{\beta} \leq \boldsymbol{b}_u</math>, जिनमें से प्रत्येक को घटकवार परिभाषित किया गया है।
* बॉक्स-विवश न्यूनतम वर्ग: वेक्टर <math>\boldsymbol {\beta}</math> आदेशित वेक्टर स्थान को संतुष्ट करना चाहिए <math> \boldsymbol{b}_\ell \leq \boldsymbol{\beta} \leq \boldsymbol{b}_u</math>, जिनमें से प्रत्येक को घटकवार परिभाषित किया गया है।
* पूर्णांक-विवश न्यूनतम वर्ग: के सभी तत्व <math>\boldsymbol {\beta}</math> [[पूर्णांक]] होना चाहिए ([[वास्तविक संख्या]] के बजाय)।
* पूर्णांक-विवश न्यूनतम वर्ग: के सभी तत्व <math>\boldsymbol {\beta}</math> [[पूर्णांक]] होना चाहिए ([[वास्तविक संख्या]] के अतिरिक्त )।
* चरण-विवश न्यूनतम वर्ग: के सभी तत्व <math>\boldsymbol {\beta}</math> वास्तविक संख्याएँ होनी चाहिए, या इकाई मापांक की समान जटिल संख्या से गुणा की जानी चाहिए।
* चरण-विवश न्यूनतम वर्ग: के सभी तत्व <math>\boldsymbol {\beta}</math> वास्तविक संख्याएँ होनी चाहिए, या इकाई मापांक की समान जटिल संख्या से गुणा की जानी चाहिए।


यदि बाधा केवल कुछ चरों पर लागू होती है, तो मिश्रित समस्या को वियोज्य न्यूनतम वर्गों का उपयोग करके हल किया जा सकता है <math>\mathbf {X} = [\mathbf {X_1} \mathbf {X_2} ]</math> और <math>\mathbf {\beta}^{\rm T} = [\mathbf {\beta_1}^{\rm T} \mathbf {\beta_2}^{\rm T}]</math> अप्रतिबंधित (1) और विवश (2) घटकों का प्रतिनिधित्व करते हैं। फिर के लिए कम से कम वर्ग समाधान को प्रतिस्थापित करना <math>\mathbf {\beta_1}</math>, अर्थात।
:यदि बाधा केवल कुछ चरों पर प्रयुक्त होती है, तो मिश्रित समस्या को वियोज्य न्यूनतम वर्गों का उपयोग करके हल किया जा सकता है
<math>\mathbf {X} = [\mathbf {X_1} \mathbf {X_2} ]</math> और <math>\mathbf {X} = [\mathbf {X_1} \mathbf {X_2} ]</math> अप्रतिबंधित (1) और विवश (2) घटकों का प्रतिनिधित्व करते हैं। फिर <math>\hat{\boldsymbol {\beta}}_1 = \mathbf {X}_1^+ (\mathbf {y} - \mathbf {X}_2 \boldsymbol {\beta}_2)</math> के लिए कम से कम वर्ग समाधान को प्रतिस्थापित करना है।
(जहाँ + मूर-पेनरोज़ स्यूडोइनवर्स को इंगित करता है) मूल अभिव्यक्ति में वापस (कुछ पुनर्व्यवस्था के बाद) एक समीकरण देता है जिसे <math>\mathbf {\beta}_2</math> में विशुद्ध रूप से विवश समस्या के रूप में हल किया जा सकता है।


:<math>\hat{\boldsymbol {\beta}}_1 = \mathbf {X}_1^+ (\mathbf {y} - \mathbf {X}_2 \boldsymbol {\beta}_2)</math>
:<math> \mathbf{P} \mathbf {X}_2 \boldsymbol {\beta}_2 = \mathbf{P}\mathbf {y},</math>
(कहाँ <sup>+</sup> मूर-पेनरोज़ स्यूडोइनवर्स को इंगित करता है) मूल अभिव्यक्ति में वापस (कुछ पुनर्व्यवस्था के बाद) समीकरण देता है जिसे विशुद्ध रूप से विवश समस्या के रूप में हल किया जा सकता है <math>\mathbf {\beta}_2</math>.
जहाँ  <math>\mathbf{P}:=\mathbf{I}-\mathbf {X}_1 \mathbf {X}_1^+</math> [[प्रक्षेपण मैट्रिक्स]] है। के विवश अनुमान के बाद <math>\hat{\boldsymbol \beta}_2</math> वेक्टर <math>\hat{\boldsymbol {\beta}}_1</math> उपरोक्त पद से प्राप्त होता है।


:<math> \mathbf{P} \mathbf {X}_2 \boldsymbol {\beta}_2 = \mathbf{P}\mathbf {y},</math>
 
कहाँ <math>\mathbf{P}:=\mathbf{I}-\mathbf {X}_1 \mathbf {X}_1^+</math> [[प्रक्षेपण मैट्रिक्स]] है। के विवश अनुमान के बाद <math>\hat{\boldsymbol \beta}_2</math> वेक्टर <math>\hat{\boldsymbol {\beta}}_1</math> उपरोक्त पद से प्राप्त होता है।
'''मूल अभिव्यक्ति में वापस (कुछ पुनर्व्यवस्था के बाद) एक समीकरण देता है जिसे <math>\mathbf {\beta}_2</math> में विशुद्ध रूप से विवश समस्या के रूप में हल किया जा सकता है।'''


== यह भी देखें ==
== यह भी देखें ==

Revision as of 09:14, 27 April 2023

विवश कम से कम वर्गों में समाधान पर अतिरिक्त बाधा के साथ रैखिक कम से कम वर्ग (गणित) समस्या को हल करता है।[1][2] इसका अर्थ है, अप्रतिबंधित समीकरण यह सुनिश्चित करते हुए कि कुछ अन्य संपत्ति सुनिश्चित करते हुए (कम से कम वर्गों के अर्थ में) यथासंभव स्थित होना चाहिए कायम रखा है।

ऐसी समस्याओं को कुशलतापूर्वक हल करने के लिए अधिकांशतः विशेष-उद्देश्य वाले एल्गोरिदम होते हैं। व्यवरोधों के कुछ उदाहरण नीचे दिए गए हैं:

  • समानता विवश न्यूनतम वर्ग: के तत्वों को निश्चित रूप से को संतुष्ट करना चाहिए (साधारण न्यूनतम वर्ग देखें)।
  • स्टोकेस्टिक (रैखिक रूप से) कम से कम सीमित वर्ग: के तत्वों को संतुष्ट होना चाहिए जहां यादृच्छिक चर का एक वेक्टर है जैसे कि और यह प्रभावी रूप से के लिए एक पूर्व वितरण प्रयुक्त करता है और इसलिए बायेसियन रैखिक प्रतिगमन के समान है।[3]
  • तिखोनोव नियमितीकरण कम से कम वर्ग: के तत्व संतुष्ट करना चाहिए (चुनना वाई के ध्वनि मानक विचलन के अनुपात में अधिक उपयुक्त को रोकता है)।
  • गैर-ऋणात्मक न्यूनतम वर्ग (एनएनएलएस): वेक्टर को सदिश असमानता को घटकवार परिभाषित करना चाहिए—अर्थात्, प्रत्येक घटक को अवश्य ही सकारात्मक या शून्य हो।
  • बॉक्स-विवश न्यूनतम वर्ग: वेक्टर आदेशित वेक्टर स्थान को संतुष्ट करना चाहिए , जिनमें से प्रत्येक को घटकवार परिभाषित किया गया है।
  • पूर्णांक-विवश न्यूनतम वर्ग: के सभी तत्व पूर्णांक होना चाहिए (वास्तविक संख्या के अतिरिक्त )।
  • चरण-विवश न्यूनतम वर्ग: के सभी तत्व वास्तविक संख्याएँ होनी चाहिए, या इकाई मापांक की समान जटिल संख्या से गुणा की जानी चाहिए।
यदि बाधा केवल कुछ चरों पर प्रयुक्त होती है, तो मिश्रित समस्या को वियोज्य न्यूनतम वर्गों का उपयोग करके हल किया जा सकता है

और अप्रतिबंधित (1) और विवश (2) घटकों का प्रतिनिधित्व करते हैं। फिर के लिए कम से कम वर्ग समाधान को प्रतिस्थापित करना है। (जहाँ + मूर-पेनरोज़ स्यूडोइनवर्स को इंगित करता है) मूल अभिव्यक्ति में वापस (कुछ पुनर्व्यवस्था के बाद) एक समीकरण देता है जिसे में विशुद्ध रूप से विवश समस्या के रूप में हल किया जा सकता है।

जहाँ प्रक्षेपण मैट्रिक्स है। के विवश अनुमान के बाद वेक्टर उपरोक्त पद से प्राप्त होता है।


मूल अभिव्यक्ति में वापस (कुछ पुनर्व्यवस्था के बाद) एक समीकरण देता है जिसे में विशुद्ध रूप से विवश समस्या के रूप में हल किया जा सकता है।

यह भी देखें

संदर्भ

  1. Amemiya, Takeshi (1985). "Model 1 with Linear Constraints". उन्नत अर्थमिति. Oxford: Basil Blackwell. pp. 20–26. ISBN 0-631-15583-X.
  2. Boyd, Stephen; Vandenberghe, Lieven (2018). Introduction to Applied Linear Algebra: Vectors, Matrices, and Least Squares. Cambridge University Press. ISBN 978-1-316-51896-0.
  3. Fomby, Thomas B.; Hill, R. Carter; Johnson, Stanley R. (1988). "Use of Prior Information". उन्नत अर्थमितीय तरीके (Corrected softcover ed.). New York: Springer-Verlag. pp. 80–121. ISBN 0-387-96868-7.