हेस्सियन आव्यूह

गणित में, हेसियन आव्यूह सामान्यतः एक अदिश वैल्यू फलन (गणित) या अदिश क्षेत्र के द्वितीय क्रम के आंशिक अवकलज का एक वर्ग आव्यूह होता है। यह कई चर वाले फलन की स्थानीय वक्रता का वर्णन करता है। हेसियन आव्यूह को 19वीं शताब्दी में जर्मन गणितज्ञ लुडविग ओटो हेस्से द्वारा विकसित किया गया था और बाद में इसका नाम उनके नाम पर रखा गया था। हेस्से ने मूलतः कार्यात्मक सारणीक शब्द का प्रयोग किया था।

परिभाषाएँ और गुण

माना कि $f:\mathbb {R} ^{n}\to \mathbb {R}$ एक सदिश को इनपुट के रूप में लेने वाला एक फलन $\mathbf {x} \in \mathbb {R} ^{n}$ के रूप में होता है और एक अदिश राशि का आउटपुट $f(\mathbf {x} )\in \mathbb {R} .$ के रूप में है। यदि सभी दूसरे क्रम के आंशिक अवकलज $f$ एक्सिस्ट के रूप में होते है, तो $f$ का हेस्सियन आव्यूह $\mathbf {H}$ एक वर्ग $n\times n$ का आव्यूह है। जिसे सामान्यतः परिभाषित और व्यवस्थित किया जाता है।

$$\mathbf {H} _{f}={\begin{bmatrix}{\dfrac {\partial ^{2}f}{\partial x_{1}^{2}}}&{\dfrac {\partial ^{2}f}{\partial x_{1}\,\partial x_{2}}}&\cdots &{\dfrac {\partial ^{2}f}{\partial x_{1}\,\partial x_{n}}}\\[2.2ex]{\dfrac {\partial ^{2}f}{\partial x_{2}\,\partial x_{1}}}&{\dfrac {\partial ^{2}f}{\partial x_{2}^{2}}}&\cdots &{\dfrac {\partial ^{2}f}{\partial x_{2}\,\partial x_{n}}}\\[2.2ex]\vdots &\vdots &\ddots &\vdots \\[2.2ex]{\dfrac {\partial ^{2}f}{\partial x_{n}\,\partial x_{1}}}&{\dfrac {\partial ^{2}f}{\partial x_{n}\,\partial x_{2}}}&\cdots &{\dfrac {\partial ^{2}f}{\partial x_{n}^{2}}}\end{bmatrix}}.$$

अर्थात की एंट्री iवीं पंक्ति और jवाँ कॉलम के रूप में होते है।

$$(\mathbf {H} _{f})_{i,j}={\frac {\partial ^{2}f}{\partial x_{i}\,\partial x_{j}}}.$$

यदि इसके अतिरिक्त दूसरे आंशिक अवकलज सभी निरंतर रूप में होते है, तो हेसियन आव्यूह दूसरे अवकलज की समरूपता द्वारा एक सममित आव्यूह के रूप में होता है।

हेसियन आव्यूह के सारणीक को हेसियन सारणीक कहा जाता है।

किसी फलन का हेसियन आव्यूह $f$ फलन के ग्रेडियेंट के जैकोबियन आव्यूह का स्थानान्तरण $f$ है; जो कि $\mathbf {H} (f(\mathbf {x} ))=\mathbf {J} (\nabla f(\mathbf {x} ))^{T}.$के रूप में होता है।

अनुप्रयोग

इन्फ्लेक्शन बिंदु

यदि $f$ तीन चरों वाला एक होमोजीनीअस बहुपद है और इस प्रकार समीकरण $f=0$ एक समतल प्रक्षेप्य वक्र का इम्प्लिसिट समीकरण है। वक्र के इम्प्लिसिट बिंदु पूर्णतया नॉन सिंगुलर बिंदु के रूप में होते है, जहां हेसियन सारणीक शून्य रूप में होते है। यह बेज़ौट के प्रमेय का अनुसरण करता है और इस प्रकार घन समतल वक्र का इम्प्लिसिट बिंदु अधिकतम $9$ होता है। क्योंकि हेस्सियन सारणीक बहुपद की घात $3.$ है

द्वितीय-अवकलज परीक्षण

Main article: दूसरा आंशिक अवकलज परीक्षण

कॉन्वेक्स फलन का हेसियन आव्यूह धनात्मक सेमी डेफिनिट आव्यूह के रूप में होता है। इस गुणधर्म को परिष्कृत करने से हमें यह परीक्षण करने की अनुमति मिलती है कि क्या एक महत्वपूर्ण गणित बिंदु $x$ एक स्थानीय अधिकतम या स्थानीय न्यूनतम इस प्रकार का एक सैडल बिंदु होता है।

यदि हेस्सियन $x,$ धनात्मक -निश्चित आव्यूह है, तो $f$, $x.$पर एक पृथक स्थानीय न्यूनतम के रूप में प्राप्त होता है। यदि हेस्सियन $x,$पर ऋणात्मक-निश्चित है, तो $f$ पर एक पृथक स्थानीय अधिकतम प्राप्त करता है। $x.$ यदि हेसियन में धनात्मक और ऋणात्मक दोनों अभिलक्षणिक मान होते है, तो $x$, $f.$ के लिए एक सैडल बिंदु है। अन्यथा परीक्षण अनिर्णायक रूप में होते है, इसका तात्पर्य यह है कि स्थानीय न्यूनतम पर हेसियन धनात्मक-अर्धनिश्चित है और स्थानीय अधिकतम पर हेसियन ऋणात्मक-अर्धनिश्चित है।

धनात्मक सेमी डेफिनिट और ऋणात्मक सेमी डेफिनिट हेसियन के लिए परीक्षण अनिर्णायक रूप में होता है और इस प्रकार एक महत्वपूर्ण बिंदु जहां हेसियन सेमी डेफिनिट है लेकिन निश्चित नहीं है वह स्थानीय चरम या सैडल बिंदु होता है। चूंकि, मोर्स सिद्धांत के दृष्टिकोण से और भी बहुत कुछ कहा जा सकता है।

एक और दो चर के फलनों के लिए दूसरा अवकलज परीक्षण सामान्य स्थिति की तुलना में सरल है। एक चर में, हेसियन में बिल्कुल एक दूसरा अवकलज होता है। यदि यह धनात्मक है, तो $x$ एक स्थानीय न्यूनतम है और यदि यह ऋणात्मक है तो $x$ एक स्थानीय अधिकतम है। यदि यह शून्य है तो परीक्षण अनिर्णायक रूप में होता है। दो चरों में सारणीक का उपयोग किया जा सकता है, क्योंकि सारणीक अभिलक्षणिक मान ​​​​का उत्पाद है। यदि यह धनात्मक है तो अभिलक्षणिक मान ​​​​दोनों धनात्मक या दोनों ऋणात्मक रूप में होते है। यदि यह ऋणात्मक है तो दोनों अभिलक्षणिक मान ​​​​के भिन्न -भिन्न संकेत हैं। यदि यह शून्य है तो दूसरा-अवकलज परीक्षण अनिर्णायक रूप में होता है।

समान रूप से, दूसरे क्रम की स्थितियाँ जो स्थानीय न्यूनतम या अधिकतम के लिए पर्याप्त रूप में होती है, हेसियन के सिद्धांत ऊपरी-बाएँ माइनर रैखिक बीजगणित उप समुच्चय के डीटरमीनेट के अनुक्रम के संदर्भ में व्यक्त की जा सकती हैं; ये स्थितियाँ प्रतिबंधित अनुकूलन के लिए सीमावर्ती हेसियन के लिए अगले भाग में दी गई स्थितियों का एक विशेष स्थितिया है और इस प्रकार वह स्थिति जिसमें बाधाओं की संख्या शून्य है। विशेष रूप से, न्यूनतम के लिए पर्याप्त शर्त यह है कि ये सभी प्रमुख अवयस्क धनात्मक रूप में होते है, जबकि अधिकतम के लिए पर्याप्त शर्त यह है कि अवयस्क संकेत में वैकल्पिक, $1\times 1$ माइनर ऋणात्मक रूप में होते है।

क्रिटिकल बिंदु

यदि किसी फलन का ग्रेडिएंट आंशिक अवकलज का सदिश है और $f$ किसी बिंदु पर शून्य है। तो $\mathbf {x} ,$ $f$ का एक क्रिटिकल बिंदु या स्टेशनरी बिंदु है और इस प्रकार $\mathbf {x} .$ हेस्सियन का सारणीक कुछ सन्दर्भों में इसे डिस्क्रिमिनैंट कहा जाता है। यदि यह सारणिक शून्य है तो $\mathbf {x}$ को डीजेनेरेट क्रिटिकल बिंदु कहा जाता है या $f.$का एक नॉन मोर्स महत्वपूर्ण बिंदु $f.$है, जो कि अन्यथा यह नॉन डीजेनेरेट है, और $f.$ को मोर्स क्रिटिकल बिंदु कहा जाता है।

हेस्सियन आव्यूह मोर्स सिद्धांत और कैटास्ट्रोफे सिद्धांत में एक महत्वपूर्ण भूमिका निभाता है, क्योंकि इसके आव्यूह के कर्नेल और अभिलक्षणिक मान महत्वपूर्ण बिंदुओं के वर्गीकरण की अनुमति देते हैं।

हेसियन आव्यूह का डीटरमीनेट जब किसी फलन के महत्वपूर्ण बिंदु पर मूल्यांकन किया जाता है, तो फलन के गॉसियन वक्रता के बराबर होता है, जिसे मैनिफोल्ड के रूप में माना जाता है। उस बिंदु पर हेसियन के अभिलक्षणिक मान फलन की प्रमुख वक्रताएं होती है और अभिलक्षणिक सदिश वक्रता की प्रमुख दिशाओ के रूप में होती है। गॉसियन वक्रता § प्रमुख वक्रता से संबंध होता है।

ऑप्टिमाइजेशन का उपयोग

हेसियन आव्यूह का उपयोग न्यूटन प्रकार की विधियों के भीतर बड़े पैमाने पर गणितीय अनुकूलन समस्याओं में किया जाता है क्योंकि वे एक फलन के स्थानीय टेलर विस्तार के द्विघात शब्द के गुणांक के रूप में होते है। वह इस प्रकार है,

$$y=f(\mathbf {x} +\Delta \mathbf {x} )\approx f(\mathbf {x} )+\nabla f(\mathbf {x} )^{\mathrm {T} }\Delta \mathbf {x} +{\frac {1}{2}}\,\Delta \mathbf {x} ^{\mathrm {T} }\mathbf {H} (\mathbf {x} )\,\Delta \mathbf {x}$$

जहाँ $\nabla f$ ढाल है $\left({\frac {\partial f}{\partial x_{1}}},\ldots ,{\frac {\partial f}{\partial x_{n}}}\right).$ संपूर्ण हेसियन आव्यूह की गणना और भंडारण के लिए बिग थीटा की आवश्यकता होती है। जिससे कि $\Theta \left(n^{2}\right)$मेमोरी, जो उच्च-आयामी फलनों जैसे कि न्यूरल नेट्स के लॉस फलन, सशर्त यादृच्छिक क्षेत्र और बड़ी संख्या में मापदंडों के साथ अन्य सांख्यिकीय मॉडल के लिए संभव नहीं है। ऐसी स्थितियों के लिए ट्रंकेटेड-न्यूटन और अर्ध-न्यूटन कलन विधि विकसित की गई है। कलन विधि का लेटर समूह हेसियन के सन्निकटन का उपयोग करता है और इस प्रकार सबसे लोकप्रिय अर्ध-न्यूटन कलन विधि में से एक ब्रोयडेन-फ्लेचर-गोल्डफार्ब-शैनो कलन विधि है।

इस तरह के अनुमान इस तथ्य का उपयोग कर सकते हैं कि एक अनुकूलन कलन विधि हेसियन का उपयोग केवल एक रैखिक ऑपरेटर के रूप में करता है $\mathbf {H} (\mathbf {v} ),$ और पहले यह ध्यान देकर आगे बढ़ते है कि हेस्सियन ग्रेडिएंट के स्थानीय विस्तार के रूप में भी दिखाई देता है।

$$\nabla f(\mathbf {x} +\Delta \mathbf {x} )=\nabla f(\mathbf {x} )+\mathbf {H} (\mathbf {x} )\,\Delta \mathbf {x} +{\mathcal {O}}(\|\Delta \mathbf {x} \|^{2})$$

माना कि $\Delta \mathbf {x} =r\mathbf {v}$ कुछ अदिश राशि के लिए $r,$ के रूप में होता है

$$\mathbf {H} (\mathbf {x} )\,\Delta \mathbf {x} =\mathbf {H} (\mathbf {x} )r\mathbf {v} =r\mathbf {H} (\mathbf {x} )\mathbf {v} =\nabla f(\mathbf {x} +r\mathbf {v} )-\nabla f(\mathbf {x} )+{\mathcal {O}}(r^{2}),$$

यदि,

$$\mathbf {H} (\mathbf {x} )\mathbf {v} ={\frac {1}{r}}\left[\nabla f(\mathbf {x} +r\mathbf {v} )-\nabla f(\mathbf {x} )\right]+{\mathcal {O}}(r)$$

इसलिए यदि ग्रेडिएंट की गणना पहले ही की जा चुकी है, तो अनुमानित हेसियन की गणना अदिश ऑपरेशनों की एक रैखिक ग्रेडिएंट के आकार में संख्या द्वारा की जा सकती है और इस प्रकार प्रोग्राम के लिए सरल रूप में होते हुए भी यह सन्निकटन योजना संख्यात्मक रूप से स्थिर नहीं होती है और $r$ के कारण होने वाली त्रुटि को रोकने के लिए इसे छोटा करना होता है ${\mathcal {O}}(r)$ टर्म के रूप में है, लेकिन इसे घटाने से पहले टर्म में सटीकता खो जाती है।)

विशेष रूप से यादृच्छिक खोज अनुमान के संबंध में, ईवलूशन रणनीति का कोवेरीअन्स आव्यूह एक अदिश कारक और छोटे यादृच्छिक उतार-चढ़ाव तक हेसियन आव्यूह के व्युत्क्रम के अनुकूल होता है। यह परिणाम औपचारिक रूप से एकल पैरेंट रणनीति और एक स्थिर मॉडल के लिए सिद्ध किया जाता है, जैसे-जैसे जनसंख्या का आकार बढ़ता है द्विघात सन्निकटन पर निर्भर होता है।

अन्य अनुप्रयोग

हेसियन मैट्रिक्स का उपयोग आमतौर पर इमेज प्रोसेसिंग और कंप्यूटर विज़न में इमेज प्रोसेसिंग ऑपरेटरों को व्यक्त करने के लिए किया जाता है, गौसियन (एलओजी) ब्लॉब डिटेक्टर के लाप्लासियन को हेसियन (डीओएच) ब्लॉब डिटेक्टर और अदिश स्थान के डीटरमीनेट के रूप में देखें जाते है। इसका उपयोग अवरक्त स्पेक्ट्रोस्कोपी में विभिन्न आणविक आवृत्तियों की गणना करने के लिए सामान्य मोड विश्लेषण में किया जा सकता है। इसका उपयोग स्थानीय संवेदनशीलता और सांख्यिकीय डायग्नोस्टिक में भी किया जाता है।

सामान्यीकरण

बॉर्डर हेस्सियन

कुछ प्रतिबंधित ऑप्टिमाइज़ समस्याओं में दूसरे-अवकलज परीक्षण के लिए बॉर्डर वाले हेसियन का उपयोग किया जाता है। पहले से विचार किए गए फलन $f$ को देखते हुए किया गया था, लेकिन एक कॉन्सट्रेंट फलन $g$ को जोड़ा जाता है और इस प्रकार $g(\mathbf {x} )=c,$ बॉर्डर हेसियन लैग्रेंज गुणक का हेसियन है $\Lambda (\mathbf {x} ,\lambda )=f(\mathbf {x} )+\lambda [g(\mathbf {x} )-c]:$

यदि $m$ बाधाएं हैं, तो ऊपरी-बाएँ कोने में शून्य $m\times m$ का ब्लॉक और $m$ शीर्ष पर सीमा पंक्तियाँ और बाईं ओर $m$ बॉर्डर कॉलम होते है।

उपरोक्त नियम बताते हैं कि एक्स्ट्रेमा को एक धनात्मक निश्चित या ऋणात्मक निश्चित हेसियन द्वारा चित्रित किया जाता है, एक नॉन -सिंगुलर हेसियन के साथ महत्वपूर्ण बिंदुओं के बीच यह लागू नहीं हो सकता है। क्योंकि एक बॉर्डर हेसियन न तो ऋणात्मक निश्चित हो सकता है और न ही धनात्मक निश्चित हो सकता है, जैसा कि $\mathbf {z} ^{\mathsf {T}}\mathbf {H} \mathbf {z} =0$ यदि $\mathbf {z}$ कोई भी सदिश है जिसकी एकमात्र शून्य प्रविष्टि इसकी पहली है।

दूसरे अवकलज परीक्षण यहां सीमाबद्ध हेसियन के एक निश्चित समूह के डीटरमीनेट के संकेत पर प्रतिबंध लगा देता है और इस प्रकार $n-m$ सीमावर्ती हेस्सियन का उप समुच्चय, सहज रूप से, $m$ बाधाओं को समस्या को कम करने के बारे में सोचा जा सकता है जिससे कि $n-m$ मुक्त चर उदाहरण के लिए महत्तम मूल्यांकन $f\left(x_{1},x_{2},x_{3}\right)$ के अधीन $x_{1}+x_{2}+x_{3}=1$ के महत्तम मूल्यांकन को बिना किसी बाधा $f\left(x_{1},x_{2},1-x_{1}-x_{2}\right)$ के महत्तम मूल्यांकन तक कम किया जा सकता है।

विशेष रूप से, बॉर्डर हेसियन के प्रमुख माइनर ऊपरी बाएँ के लिए लिए न्यायसंगत उप समुच्चय के डीटरमीनेट के अनुक्रम पर संकेत की शर्तें लगाई जाती हैं, जिसके लिए सबसे पहले मुख्य माइनर $2m$ की उपेक्षा की जाती है और इस प्रकार सबसे छोटे माइनर को पहले काट दिया जाता है $2m+1$ पंक्तियाँ और स्तंभ, अगले में पहले काटे गए $2m+2$ पंक्तियाँ और स्तंभ और इसी तरह, अंतिम संपूर्ण बॉर्डर हेसियन के रूप में होते है; यदि $2m+1$ से बड़ा है $n+m,$ तो सबसे छोटा अग्रणी प्रमुख माइनर हेसियन के रूप में है। इस प्रकार $n-m$ विचार करने के लिए माइनर, प्रत्येक का मूल्यांकन विशिष्ट बिंदु पर कैंडिडेट समाधान कैलकुलस के रूप में किया जा रहा है। चूंकि स्थानीय अधिकतम के लिए पर्याप्त स्थिति यह है कि ये लघु अवयस्क $(-1)^{m+1}.$चिन्ह वाले सबसे छोटे चिन्ह के साथ वैकल्पिक रूप से साइन इन करते हैं और इस प्रकार स्थानीय न्यूनतम के लिए पर्याप्त स्थिति यह है कि इन सभी माइनर $(-1)^{m}.$का चिन्ह है जिससे कि अप्रतिबंधित स्थितियों में $m=0$ बिना सीमा वाले हेसियन के लिए क्रमशः ऋणात्मक निश्चित या धनात्मक निश्चित होने की शर्तों से मेल खाती हैं।

सदिश मान फलन

यदि $f$ के अतिरिक्त एक सदिश क्षेत्र $\mathbf {f} :\mathbb {R} ^{n}\to \mathbb {R} ^{m},$ है, तो यह है

$$\mathbf {f} (\mathbf {x} )=\left(f_{1}(\mathbf {x} ),f_{2}(\mathbf {x} ),\ldots ,f_{m}(\mathbf {x} )\right),$$

तो दूसरे आंशिक अवकलज का संग्रह $n\times n$ आव्यूह नहीं है, अपितु एक तीसरे क्रम का टेन्सर होता है। इसे $m$ हेस्सियन आव्यूह की एक सरणी के रूप में सोचा जा सकता है। जिससे कि $\mathbf {f}$ के प्रत्येक घटक इस प्रकार है,

$$\mathbf {H} (\mathbf {f} )=\left(\mathbf {H} (f_{1}),\mathbf {H} (f_{2}),\ldots ,\mathbf {H} (f_{m})\right).$$

जब यह टेंसर सामान्य हेसियन आव्यूह में बदल जाता है तो $m=1.$के रूप में होता है

मिश्रित स्थिति का सामान्यीकरण

कई जटिल चर के संदर्भ में, हेस्सियन को सामान्यीकृत किया जा सकता है। मान लीजिए कि $f\colon \mathbb {C} ^{n}\to \mathbb {C} ,$ और लिखा $f\left(z_{1},\ldots ,z_{n}\right).$ फिर सामान्यीकृत हेस्सियन के रूप में है ${\frac {\partial ^{2}f}{\partial z_{i}\partial {\overline {z_{j}}}}}.$ यदि $f$ एन-आयामी कॉची-रीमैन समीकरणों को संतुष्ट करता है, कॉची-रीमैन स्थितियां फिर मिश्रित हेसियन आव्यूह के समान रूप में शून्य है।

रीमैनियन मैनिफोल्ड्स का सामान्यीकरण

मान लीजिए कि $(M,g)$ एक रीमैनियन मैनिफोल्ड के रूप में बनें होते है और $\nabla$ इसका लेवी-सिविटा कनेक्शन के रूप में होते है। माना कि $f:M\to \mathbb {R}$ एक सुचारु फलन है इस प्रकार हेस्सियन टेंसर को परिभाषित करते है

$$\operatorname {Hess} (f)\in \Gamma \left(T^{*}M\otimes T^{*}M\right)\quad {\text{ by }}\quad \operatorname {Hess} (f):=\nabla \nabla f=\nabla df,$$

जहां यह इस तथ्य का लाभ उठाता है कि किसी फलन का पहला सहसंयोजक अवकलज उसके सामान्य अंतर के समान है और इस प्रकार स्थानीय निर्देशांक को चुना जाता है $\left\{x^{i}\right\}$ हेस्सियन के लिए एक स्थानीय अभिव्यक्ति देता है

$$\operatorname {Hess} (f)=\nabla _{i}\,\partial _{j}f\ dx^{i}\!\otimes \!dx^{j}=\left({\frac {\partial ^{2}f}{\partial x^{i}\partial x^{j}}}-\Gamma _{ij}^{k}{\frac {\partial f}{\partial x^{k}}}\right)dx^{i}\otimes dx^{j}$$

जहां $\Gamma _{ij}^{k}$ कनेक्शन के क्रिस्टोफ़ेल प्रतीक के रूप में हैं। हेस्सियन के लिए अन्य समकक्ष रूप इस प्रकार दिए गए हैं,

$$\operatorname {Hess} (f)(X,Y)=\langle \nabla _{X}\operatorname {grad} f,Y\rangle \quad {\text{ and }}\quad \operatorname {Hess} (f)(X,Y)=X(Yf)-df(\nabla _{X}Y).$$

यह भी देखें

• हेसियन आव्यूह का सारणीक एक सहसंयोजक है; बाइनरी फॉर्म का अपरिवर्तनीय देखें
• ध्रुवीकरण पहचान, हेसियन से जुड़ी तीव्र गणनाओं के लिए उपयोगी।
• Jacobian matrix
• Hessian equation

टिप्पणियाँ

अग्रिम पठन

• Lewis, David W. (1991). Matrix Theory. Singapore: World Scientific. ISBN 978-981-02-0689-5.
• Magnus, Jan R.; Neudecker, Heinz (1999). "The Second Differential". Matrix Differential Calculus : With Applications in Statistics and Econometrics (Revised ed.). New York: Wiley. pp. 99–115. ISBN 0-471-98633-X.

बाहरी संबंध

• "Hessian of a function", Encyclopedia of Mathematics, EMS Press, 2001 [1994]
• Weisstein, Eric W. "Hessian". MathWorld.