ग्राह्य निर्णय नियम: Difference between revisions
No edit summary |
No edit summary |
||
Line 1: | Line 1: | ||
{{Short description|Type of "good" decision rule in Bayesian statistics}}{{Bayesian statistics}} | {{Short description|Type of "good" decision rule in Bayesian statistics}}{{Bayesian statistics}} | ||
[[सांख्यिकीय निर्णय सिद्धांत]] में, एक [[निर्णय नियम|स्वीकार्य निर्णय नियम]] है जैसे कि कोई अन्य नियम नहीं है जो सदैव इससे अपेक्षाकृत | [[सांख्यिकीय निर्णय सिद्धांत]] में, एक [[निर्णय नियम|स्वीकार्य निर्णय नियम]] है जैसे कि कोई अन्य नियम नहीं है जो सदैव इससे अधिक अपेक्षाकृत होते है।<ref>[[Yadolah Dodge|Dodge, Y.]] (2003) ''The Oxford Dictionary of Statistical Terms''. OUP. {{ISBN|0-19-920613-9}} (entry for admissible decision function)</ref> (या कम से कम कभी-कभी बहुत सही और कभी कभी अधिक खराब) त्रुटिहीन अर्थ में "अधिक अच्छा" नीचे परिभाषित किया गया है। यह अवधारणा [[पेरेटो दक्षता]] के अनुरूप होती है। | ||
==परिभाषा== | ==परिभाषा== | ||
समुच्चय को परिभाषित करें (गणित) <math>\Theta\,</math>, <math>\mathcal{X}</math> और <math>\mathcal{A}</math>, जहाँ <math>\Theta\,</math> प्रकृति की अवस्थाएँ हैं, <math>\mathcal{X}</math> संभावित अवलोकन, और <math>\mathcal{A}</math> जो कार्य किया जा सकती है। अवलोकन <math>x \in \mathcal{X}\,\!</math> के रूप में वितरित किया जाता है <math>F(x\mid\theta)\,\!</math> और इसलिए प्रकृति की स्थिति के बारे में साक्ष्य प्रदान करता है <math>\theta\in\Theta\,\!</math>. निर्णय नियम एक फलन होता है<math>\delta:{\mathcal{X}}\rightarrow {\mathcal{A}}</math>, जहां अवलोकन करने पर <math>x\in \mathcal{X}</math>, हम फलन चुनते हैं <math>\delta(x)\in \mathcal{A}\,\!</math>. | समुच्चय को परिभाषित करें (गणित) <math>\Theta\,</math>, <math>\mathcal{X}</math> और <math>\mathcal{A}</math>, जहाँ <math>\Theta\,</math> प्रकृति की अवस्थाएँ हैं, <math>\mathcal{X}</math> संभावित अवलोकन, और <math>\mathcal{A}</math> जो कार्य किया जा सकती है। अवलोकन <math>x \in \mathcal{X}\,\!</math> के रूप में वितरित किया जाता है <math>F(x\mid\theta)\,\!</math> और इसलिए प्रकृति की स्थिति के बारे में साक्ष्य प्रदान करता है <math>\theta\in\Theta\,\!</math>. निर्णय नियम एक फलन होता है<math>\delta:{\mathcal{X}}\rightarrow {\mathcal{A}}</math>, जहां अवलोकन करने पर <math>x\in \mathcal{X}</math>, हम फलन चुनते हैं <math>\delta(x)\in \mathcal{A}\,\!</math>. | ||
हानि फलन को भी परिभाषित करें <math>L: \Theta \times \mathcal{A} \rightarrow \mathbb{R}</math>, जो निर्दिष्ट करता है कि कार्य करने पर हमें कितना | हानि फलन को भी परिभाषित करें <math>L: \Theta \times \mathcal{A} \rightarrow \mathbb{R}</math>, जो निर्दिष्ट करता है कि कार्य करने पर हमें कितना जोखिम होगा <math>a \in \mathcal{A}</math> जब प्रकृति की वास्तविक स्थिति होती है <math>\theta \in \Theta</math>. सामान्यतः हम डेटा देखने के बाद यह कार्य करेंगे <math>x \in \mathcal{X}</math>, जिससे की जोखिम हो <math>L(\theta,\delta(x))\,\!</math> (अपरंपरागत होते हुए भी उपयोगिता फलन के संदर्भ में निम्नलिखित परिभाषाओं को दोबारा बनाना संभव है, जो जोखिम का नकारात्मकहोता है।) | ||
जोखिम फलन को [[अपेक्षित मूल्य]] के रूप में परिभाषित करें | जोखिम फलन को [[अपेक्षित मूल्य]] के रूप में परिभाषित करें | ||
:<math>R(\theta,\delta)=\operatorname{E}_{F(x\mid\theta)}[{L(\theta,\delta(x))]}.\,\!</math> | :<math>R(\theta,\delta)=\operatorname{E}_{F(x\mid\theta)}[{L(\theta,\delta(x))]}.\,\!</math> | ||
चाहे कोई निर्णय नियम हो <math>\delta\,\!</math> जोखिम कम होना प्रकृति की वास्तविक स्थिति पर निर्भर करता है <math>\theta\,\!</math>. एक निर्णय नियम <math>\delta^*\,\!</math> प्रभुत्वकारी निर्णय नियम एक निर्णय नियम <math>\delta\,\!</math> यदि <math>R(\theta,\delta^*)\le R(\theta,\delta)</math> सभी के लिए <math>\theta\,\!</math>, और कुछ के लिए असमानता [[असमानता (गणित)]] | चाहे कोई निर्णय नियम हो <math>\delta\,\!</math> जोखिम कम होना प्रकृति की वास्तविक स्थिति पर निर्भर करता है <math>\theta\,\!</math>. एक निर्णय नियम <math>\delta^*\,\!</math> प्रभुत्वकारी निर्णय नियम एक निर्णय नियम <math>\delta\,\!</math> यदि <math>R(\theta,\delta^*)\le R(\theta,\delta)</math> सभी के लिए <math>\theta\,\!</math>, और कुछ के लिए असमानता [[असमानता (गणित)]] <math>\theta\,\!</math> होती है। | ||
एक निर्णय नियम स्वीकार्य है ( | एक निर्णय नियम स्वीकार्य है (जोखिम फलन के संबंध में) यदि जब कोई अन्य नियम उस पर प्रभावी न हो; अन्यथा यह अस्वीकार्य हो जाता है, इस प्रकार उपरोक्त आंशिक आदेश के संबंध में एक स्वीकार्य निर्णय नियम के [[अधिकतम तत्व]] होते है। | ||
एक अस्वीकार्य नियम को प्राथमिकता नहीं दी जाती है (सरलता या संगणनात्मक दक्षता के कारणों को छोड़कर), क्योंकि परिभाषा के अनुसार कुछ अन्य नियम हैं जो ''सभी'' | एक अस्वीकार्य नियम को प्राथमिकता नहीं दी जाती है (सरलता या संगणनात्मक दक्षता के कारणों को छोड़कर), क्योंकि परिभाषा के अनुसार कुछ अन्य नियम हैं जो ''सभी'' <math>\theta\,\!</math> के लिए समान या कम जोखिम प्राप्त होता है। किन्तु सिर्फ इसलिए कि एक नियम <math>\delta\,\!</math> स्वीकार्य होता है इसका मतलब यह नहीं है कि यह उपयोग करने के लिए एक अच्छा नियम है। स्वीकार्य होने का कोई अन्य एकल नियम नहीं है जो सदैव अच्छा या बेहतर हो - किन्तु अन्य स्वीकार्य नियम अधिकांश लोगों के लिए कम जोखिम प्राप्त कर सकते हैं <math>\theta\,\!</math> जो व्यवहार में घटित होता है। (नीचे चर्चा किया गया बेयस जोखिम स्पष्ट रूप से विचार करने का एक विधि है <math>\theta\,\!</math> व्यवहार में घटित होता है।) | ||
==बेयस नियम और सामान्यीकृत बेयस नियम== | ==बेयस नियम और सामान्यीकृत बेयस नियम== | ||
Line 38: | Line 38: | ||
सबसे पहले, यह पिछले अनुभाग के बेयस नियम दृष्टिकोण से भिन्न प्रतीत हो सकता है, सामान्यीकरण नहीं। चूँकि, ध्यान दें कि बेयस जोखिम पहले ही औसत हो चुका है <math>\Theta\,\!</math> बायेसियन में, और उम्मीद समाप्त होने पर बेयस जोखिम की भरपाई की जा सकती है <math>\mathcal{X}</math> अपेक्षित हानि का (जहाँ <math>x\sim\theta\,\!</math> और <math>\theta\sim\pi\,\!</math>) सामान्यतः , <math>\delta\,\!</math> अपेक्षित हानि की इस अपेक्षा को कम करता है (अर्थात्, एक बेयस नियम है) यदि और केवल यदि यह प्रत्येक के लिए अपेक्षित हानि को कम करता है <math>x \in \mathcal{X}</math> अलग से (अर्थात, सामान्यीकृत बेयस नियम होता है)। | सबसे पहले, यह पिछले अनुभाग के बेयस नियम दृष्टिकोण से भिन्न प्रतीत हो सकता है, सामान्यीकरण नहीं। चूँकि, ध्यान दें कि बेयस जोखिम पहले ही औसत हो चुका है <math>\Theta\,\!</math> बायेसियन में, और उम्मीद समाप्त होने पर बेयस जोखिम की भरपाई की जा सकती है <math>\mathcal{X}</math> अपेक्षित हानि का (जहाँ <math>x\sim\theta\,\!</math> और <math>\theta\sim\pi\,\!</math>) सामान्यतः , <math>\delta\,\!</math> अपेक्षित हानि की इस अपेक्षा को कम करता है (अर्थात्, एक बेयस नियम है) यदि और केवल यदि यह प्रत्येक के लिए अपेक्षित हानि को कम करता है <math>x \in \mathcal{X}</math> अलग से (अर्थात, सामान्यीकृत बेयस नियम होता है)। | ||
तो फिर सामान्यीकृत बेयस नियम की धारणा में सुधार क्यों है? यह वास्तव में बेयस नियम की धारणा के बराबर है जब एक बेयस नियम सम्मलित होता है <math>x\,\!</math> सकारात्मक संभावना है. चूँकि ,यदि बेयस जोखिम अनंत होता है (सभी के लिए) तो कोई बेयस नियम सम्मलित नहीं है <math>\delta\,\!</math>). इस स्थिति में सामान्यीकृत बेयस नियम को परिभाषित करना अभी भी उपयोगी है <math>\delta\,\!</math>, जो कम से कम न्यूनतम-अपेक्षित- | तो फिर सामान्यीकृत बेयस नियम की धारणा में सुधार क्यों है? यह वास्तव में बेयस नियम की धारणा के बराबर है जब एक बेयस नियम सम्मलित होता है <math>x\,\!</math> सकारात्मक संभावना है. चूँकि ,यदि बेयस जोखिम अनंत होता है (सभी के लिए) तो कोई बेयस नियम सम्मलित नहीं है <math>\delta\,\!</math>). इस स्थिति में सामान्यीकृत बेयस नियम को परिभाषित करना अभी भी उपयोगी है <math>\delta\,\!</math>, जो कम से कम न्यूनतम-अपेक्षित-जोखिम वाले कार्य चुनता है <math>\delta(x)\!\,</math> उन लोगों के लिए <math>x\,\!</math> जिसके लिए एक सीमित-अपेक्षित-हानि कार्य सम्मलित होता है। इसके अतिरिक्त, एक सामान्यीकृत बेयस नियम वांछनीय हो सकता है क्योंकि इसमें न्यूनतम-अपेक्षित-जोखिम वाली कार्य का चयन करना होगा <math>\delta(x)\,\!</math> हरएक के लिए <math>x\,\!</math>, जबकि एक बेयस नियम को एक सेट पर इस नीति से विचलित होने की अनुमति दी जाएगी <math>X \subseteq \mathcal{X}</math> बेयस जोखिम को प्रभावित किए बिना माप 0 का होता है। | ||
अधिक महत्वपूर्ण बात यह है कि कभी-कभी अनुचित पूर्व का उपयोग करना सुविधाजनक होता है <math>\pi(\theta)\,\!</math>. इस स्थिति में, बेयस जोखिम भी अच्छी तरह से परिभाषित नहीं है, न ही कोई अच्छी तरह से परिभाषित वितरण है <math>x\,\!</math>. चूँकि , पश्च <math>\pi(\theta\mid x)\,\!</math>-और इसलिए अपेक्षित हानि-प्रत्येक के लिए अच्छी तरह से परिभाषित हो सकती है <math>x\,\!</math>, जिससे की सामान्यीकृत बेयस नियम को परिभाषित करना अभी भी संभव हो | अधिक महत्वपूर्ण बात यह है कि कभी-कभी अनुचित पूर्व का उपयोग करना सुविधाजनक होता है <math>\pi(\theta)\,\!</math>. इस स्थिति में, बेयस जोखिम भी अच्छी तरह से परिभाषित नहीं है, न ही कोई अच्छी तरह से परिभाषित वितरण है <math>x\,\!</math>. चूँकि , पश्च <math>\pi(\theta\mid x)\,\!</math>-और इसलिए अपेक्षित हानि-प्रत्येक के लिए अच्छी तरह से परिभाषित हो सकती है <math>x\,\!</math>, जिससे की सामान्यीकृत बेयस नियम को परिभाषित करना अभी भी संभव हो सकता है। | ||
===(सामान्यीकृत) बेयस नियमों की स्वीकार्यता=== | ===(सामान्यीकृत) बेयस नियमों की स्वीकार्यता=== |
Revision as of 11:09, 7 July 2023
Part of a series on |
Bayesian statistics |
---|
Posterior = Likelihood × Prior ÷ Evidence |
Background |
Model building |
Posterior approximation |
Estimators |
Evidence approximation |
Model evaluation |
|
सांख्यिकीय निर्णय सिद्धांत में, एक स्वीकार्य निर्णय नियम है जैसे कि कोई अन्य नियम नहीं है जो सदैव इससे अधिक अपेक्षाकृत होते है।[1] (या कम से कम कभी-कभी बहुत सही और कभी कभी अधिक खराब) त्रुटिहीन अर्थ में "अधिक अच्छा" नीचे परिभाषित किया गया है। यह अवधारणा पेरेटो दक्षता के अनुरूप होती है।
परिभाषा
समुच्चय को परिभाषित करें (गणित) , और , जहाँ प्रकृति की अवस्थाएँ हैं, संभावित अवलोकन, और जो कार्य किया जा सकती है। अवलोकन के रूप में वितरित किया जाता है और इसलिए प्रकृति की स्थिति के बारे में साक्ष्य प्रदान करता है . निर्णय नियम एक फलन होता है, जहां अवलोकन करने पर , हम फलन चुनते हैं .
हानि फलन को भी परिभाषित करें , जो निर्दिष्ट करता है कि कार्य करने पर हमें कितना जोखिम होगा जब प्रकृति की वास्तविक स्थिति होती है . सामान्यतः हम डेटा देखने के बाद यह कार्य करेंगे , जिससे की जोखिम हो (अपरंपरागत होते हुए भी उपयोगिता फलन के संदर्भ में निम्नलिखित परिभाषाओं को दोबारा बनाना संभव है, जो जोखिम का नकारात्मकहोता है।)
जोखिम फलन को अपेक्षित मूल्य के रूप में परिभाषित करें
चाहे कोई निर्णय नियम हो जोखिम कम होना प्रकृति की वास्तविक स्थिति पर निर्भर करता है . एक निर्णय नियम प्रभुत्वकारी निर्णय नियम एक निर्णय नियम यदि सभी के लिए , और कुछ के लिए असमानता असमानता (गणित) होती है।
एक निर्णय नियम स्वीकार्य है (जोखिम फलन के संबंध में) यदि जब कोई अन्य नियम उस पर प्रभावी न हो; अन्यथा यह अस्वीकार्य हो जाता है, इस प्रकार उपरोक्त आंशिक आदेश के संबंध में एक स्वीकार्य निर्णय नियम के अधिकतम तत्व होते है।
एक अस्वीकार्य नियम को प्राथमिकता नहीं दी जाती है (सरलता या संगणनात्मक दक्षता के कारणों को छोड़कर), क्योंकि परिभाषा के अनुसार कुछ अन्य नियम हैं जो सभी के लिए समान या कम जोखिम प्राप्त होता है। किन्तु सिर्फ इसलिए कि एक नियम स्वीकार्य होता है इसका मतलब यह नहीं है कि यह उपयोग करने के लिए एक अच्छा नियम है। स्वीकार्य होने का कोई अन्य एकल नियम नहीं है जो सदैव अच्छा या बेहतर हो - किन्तु अन्य स्वीकार्य नियम अधिकांश लोगों के लिए कम जोखिम प्राप्त कर सकते हैं जो व्यवहार में घटित होता है। (नीचे चर्चा किया गया बेयस जोखिम स्पष्ट रूप से विचार करने का एक विधि है व्यवहार में घटित होता है।)
बेयस नियम और सामान्यीकृत बेयस नियम
बेयस नियम
लेट् प्रकृति की अवस्थाओं पर संभाव्यता वितरण बनता है। बायेसियन संभाव्यता दृष्टिकोण से, हम इसे पूर्व वितरण के रूप में मानेंगे। अर्थात्, डेटा के अवलोकन से पहले, यह प्रकृति की अवस्थाओं पर हमारा माना हुआ संभाव्यता वितरण होता है। आवृत्ति संभाव्यता के लिए, यह केवल एक फलन होता है ऐसी किसी विशेष व्याख्या के बिना निर्णय नियम का बेयस जोखिम इसके संबंध में अपेक्षा होती है
- anta
एक निर्णय नियम वह न्यूनतम करता है के संबंध में बेयस अनुमानक कहा जाता है ऐसे एक से अधिक बेयस नियम हो सकते हैं। यदि बेयस जोखिम सभी के लिए अनंत होते है , तो कोई बेयस नियम परिभाषित नहीं होता है।
सामान्यीकृत बेयस नियम
निर्णय सिद्धांत के बायेसियन दृष्टिकोण में, देखा गया निर्धारित माना जाता है। जबकि बारंबारवादी दृष्टिकोण (अर्थात , जोखिम) संभावित नमूनों पर औसत रहता है, बायेसियन देखे गए नमूने को सही कर देगा और परिकल्पनाओं पर औसत । इस प्रकार, बायेसियन दृष्टिकोण हमारे अवलोकन के लिए विचार करने योग्य होता है अपेक्षित हानि होती है
जहाँ अपेक्षा पीछे के भाग से अधिक होता है दिया गया ( और बेयस प्रमेय का उपयोग करके प्राप्त होता है)।
प्रत्येक दिए गए के लिए अपेक्षित हानि को स्पष्ट करना अलग से, हम एक निर्णय नियम को परिभाषित कर सकते हैं प्रत्येक के लिए निर्दिष्ट करके एक कार्यवाही जो अपेक्षित हानि को कम करता है। इसके संबंध में इसे सामान्यीकृत बेयस नियम के रूप में जाना जाता है । एक से अधिक सामान्यीकृत बेयस नियम हो सकते हैं, क्योंकि कई विकल्प हो सकते हैं जिससे वही अपेक्षित हानि प्राप्त होती है।
सबसे पहले, यह पिछले अनुभाग के बेयस नियम दृष्टिकोण से भिन्न प्रतीत हो सकता है, सामान्यीकरण नहीं। चूँकि, ध्यान दें कि बेयस जोखिम पहले ही औसत हो चुका है बायेसियन में, और उम्मीद समाप्त होने पर बेयस जोखिम की भरपाई की जा सकती है अपेक्षित हानि का (जहाँ और ) सामान्यतः , अपेक्षित हानि की इस अपेक्षा को कम करता है (अर्थात्, एक बेयस नियम है) यदि और केवल यदि यह प्रत्येक के लिए अपेक्षित हानि को कम करता है अलग से (अर्थात, सामान्यीकृत बेयस नियम होता है)।
तो फिर सामान्यीकृत बेयस नियम की धारणा में सुधार क्यों है? यह वास्तव में बेयस नियम की धारणा के बराबर है जब एक बेयस नियम सम्मलित होता है सकारात्मक संभावना है. चूँकि ,यदि बेयस जोखिम अनंत होता है (सभी के लिए) तो कोई बेयस नियम सम्मलित नहीं है ). इस स्थिति में सामान्यीकृत बेयस नियम को परिभाषित करना अभी भी उपयोगी है , जो कम से कम न्यूनतम-अपेक्षित-जोखिम वाले कार्य चुनता है उन लोगों के लिए जिसके लिए एक सीमित-अपेक्षित-हानि कार्य सम्मलित होता है। इसके अतिरिक्त, एक सामान्यीकृत बेयस नियम वांछनीय हो सकता है क्योंकि इसमें न्यूनतम-अपेक्षित-जोखिम वाली कार्य का चयन करना होगा हरएक के लिए , जबकि एक बेयस नियम को एक सेट पर इस नीति से विचलित होने की अनुमति दी जाएगी बेयस जोखिम को प्रभावित किए बिना माप 0 का होता है।
अधिक महत्वपूर्ण बात यह है कि कभी-कभी अनुचित पूर्व का उपयोग करना सुविधाजनक होता है . इस स्थिति में, बेयस जोखिम भी अच्छी तरह से परिभाषित नहीं है, न ही कोई अच्छी तरह से परिभाषित वितरण है . चूँकि , पश्च -और इसलिए अपेक्षित हानि-प्रत्येक के लिए अच्छी तरह से परिभाषित हो सकती है , जिससे की सामान्यीकृत बेयस नियम को परिभाषित करना अभी भी संभव हो सकता है।
(सामान्यीकृत) बेयस नियमों की स्वीकार्यता
संपूर्ण वर्ग प्रमेयों के अनुसार, हल्की परिस्थितियों में प्रत्येक स्वीकार्य नियम एक (सामान्यीकृत) बेयस नियम है (कुछ पूर्व के संबंध में) -संभवतः एक अनुचित—जो वितरण का पक्ष लेता है जहां वह नियम कम जोखिम प्राप्त करता है)। इस प्रकार, बारंबारतावादी निर्णय सिद्धांत में केवल (सामान्यीकृत) बेयस नियमों पर विचार करना पर्याप्त है।
इसके विपरीत, जबकि उचित पूर्ववर्ती संबंध में बेयस नियम वस्तुतः सदैव स्वीकार्य होते हैं, पूर्व संभाव्यता अनुचित पूर्ववर्ती के अनुरूप सामान्यीकृत बेयस नियमों को स्वीकार्य प्रक्रियाएं प्रदान करने की आवश्यकता नहीं होती है। स्टीन का उदाहरण ऐसी ही एक प्रसिद्ध स्थिति होती है।
उदाहरण
जेम्स-स्टीन अनुमानक गॉसियन यादृच्छिक सदिश के माध्य का एक गैर-रेखीय अनुमानक है जिसे माध्य-वर्ग त्रुटि हानि फलन के संबंध में सामान्य न्यूनतम वर्ग तकनीक होने पर या बेहतर प्रदर्शन करने के लिए दिखाया जा सकता है।[2] इस प्रकार इस संदर्भ में न्यूनतम वर्ग अनुमान एक स्वीकार्य अनुमान प्रक्रिया नहीं है। सामान्य वितरण से जुड़े कुछ अन्य मानक अनुमान भी अस्वीकार्य होते हैं: उदाहरण के लिए, जनसंख्या माध्य और विचरण अज्ञात होने पर नमूना मूल्याकंन करना होता है।[3]
टिप्पणियाँ
- ↑ Dodge, Y. (2003) The Oxford Dictionary of Statistical Terms. OUP. ISBN 0-19-920613-9 (entry for admissible decision function)
- ↑ Cox & Hinkley 1974, Section 11.8
- ↑ Cox & Hinkley 1974, Exercise 11.7
संदर्भ
- Cox, D. R.; Hinkley, D. V. (1974). Theoretical Statistics. Wiley. ISBN 0-412-12420-3.
- Berger, James O. (1980). Statistical Decision Theory and Bayesian Analysis (2nd ed.). Springer-Verlag. ISBN 0-387-96098-8.
- DeGroot, Morris (2004) [1st. pub. 1970]. Optimal Statistical Decisions. Wiley Classics Library. ISBN 0-471-68029-X.
- Robert, Christian P. (1994). The Bayesian Choice. Springer-Verlag. ISBN 3-540-94296-3.