अनुमानक का पूर्वाग्रह

इस विषय के व्यापक सूचना के लिए, अभिनति (सांख्यिकी) देखें।

सांख्यिकी में, अनुमानक (या अभिनति फलन) का अभिनति इस अनुमानक के अपेक्षित मान और अनुमानित पैरामीटर के वास्तविक मान के बीच का अंतर है। शून्य अभिनति वाला अनुमानक या निर्णय नियम अनभिनत कहलाता है। सांख्यिकी में, "अभिनति" एक अनुमानक की एक वस्तुगत गुण है। अभिनति संगति से एक अलग अवधारणा है: सुसंगत अनुमानक संभाव्यता में पैरामीटर के वास्तविक मान में अभिसरण करते हैं, लेकिन अभिनतपूर्ण या अनभिनत हो सकते हैं; अधिक जानकारी के लिए अभिनति बनाम निरंतरता देखें।

अन्य सभी समान होने के कारण, अनभिनत अनुमानक अभिनति अनुमानक के लिए अधिकतम है, हालांकि व्यवहार में, अभिनति अनुमानक (सामान्य रूप से छोटे अभिनति के साथ) प्रायः उपयोग किए जाते हैं। जब अभिनति अनुमानक का उपयोग किया जाता है, तो अभिनति की सीमा की गणना की जाती है। अभिनति अनुमानक का उपयोग विभिन्न कारणों से किया जा सकता है: क्योंकि जनसंख्या के बारे में और धारणाओं के बिना अनभिनत अनुमानक सम्मिलित नहीं है; क्योंकि एक अनुमानक की गणना करना कठिन है (मानक विचलन के अनभिनत अनुमान के रूप में); क्योंकि केंद्रीय प्रवृत्ति के विभिन्न समाधानों के संबंध में अभिनति अनुमानक अनभिनत हो सकता है; क्योंकि एक पक्षपाती अनुमानक निष्पक्ष अनुमानकों (विशेष रूप से अवमूल्यन अनुमानक में) की तुलना में कुछ हानि फलन (विशेष रूप से औसत वर्ग त्रुटि) का कम मान देता है; या क्योंकि कुछ स्थितियों में अनभिनत होना बहुत प्रबल स्थिति है, और केवल अनभिनत अनुमानक उपयोगी नहीं होते हैं।

अभिनति को औसत (अपेक्षित मान) के अतिरिक्त माध्यिका के संबंध में भी मापा जा सकता है, इस स्थिति में सामान्य औसत-निष्पक्षता गुण से औसत-निष्पक्षता को अलग करता है। गैर-रैखिक डेटा परिवर्तन (सांख्यिकी) के अंतर्गत माध्य-निष्पक्षता संरक्षित नहीं है, हालांकि औसत-निष्पक्षता है (देखें § रूपांतरणों का प्रभाव); उदाहरण के लिए, प्रतिदर्श प्रसरण जनसंख्या विचरण के लिए अभिनति अनुमानक है। ये सभी नीचे सचित्र हैं।

परिभाषा

मान लीजिए कि हमारे पास एक सांख्यिकीय मॉडल है, जिसे वास्तविक संख्या θ द्वारा परिचालित किया गया है, जो देखे गए डेटा , $P_{\theta }(x)=P(x\mid \theta )$ के लिए प्रायिकता बंटन को उत्पन्न करता है और एक आँकड़ा ${\hat {\theta }}$ जो किसी भी देखे गए डेटा $x$ के आधार पर θ के अनुमानक के रूप में कार्य करता है अर्थात्, हम मानते हैं कि हमारा डेटा किसी अज्ञात बंटन $P(x\mid \theta )$ का अनुसरण करता है (जहां θ एक निश्चित, अज्ञात स्थिरांक है जो इस बंटन का हिस्सा है), और फिर हम कुछ अनुमानक ${\hat {\theta }}$ का निर्माण करते हैं मानचित्रों ने डेटा को उन मानों पर देखा जो हम आशा करते हैं कि वे θ के समीप हैं। ${\hat {\theta }}$ का 'अभिनति' के सापेक्ष $\theta$ परिभाषित किया जाता है^[1]

\operatorname {Bias} ({\hat {\theta }},\theta )=\operatorname {Bias} _{\theta }[\,{\hat {\theta }}\,]=\operatorname {E} _{x\mid \theta }[\,{\hat {\theta }}\,]-\theta =\operatorname {E} _{x\mid \theta }[\,{\hat {\theta }}-\theta \,],

जहाँ $\operatorname {E} _{x\mid \theta }$ बंटन पर अपेक्षित मान $P(x\mid \theta )$ दर्शाता है (अर्थात, सभी संभावित अवलोकनों का औसत $x$ ) दूसरा समीकरण अनुसरण करता है क्योंकि θ सशर्त वितरण $P(x\mid \theta )$ के संबंध में मापने योग्य है

अनुमानक को अनभिनत कहा जाता है यदि इसका अभिनति पैरामीटर θ के सभी मानों के लिए शून्य के बराबर है, या समतुल्य है, यदि अनुमानक का अपेक्षित मान पैरामीटर के समान होता है।^[2]

अनुमानक के गुणों से संबंधित अनुकरण प्रयोग में, अनुमानित अंतर का उपयोग करके अनुमानक के अभिनति का आकलन किया जा सकता है।

उदाहरण

प्रतिदर्श विचरण

यादृच्छिक चर का प्रतिदर्श प्रसरण अनुमानक अभिनति के दो स्वरूप को प्रदर्शित करता है: सबसे पहले, सहज अनुमानक अभिनति है, जिसे मापन कारक द्वारा सही किया जा सकता है; दूसरा, अनभिनत अनुमानक माध्य औसत वर्ग त्रुटि (एमएसई) के स्थिति में इष्टतम नहीं है, जिसे एक अलग पैमाने के कारक का उपयोग करके कम किया जा सकता है, जिसके परिणामस्वरूप अनभिनत अनुमानक की तुलना में कम एमएसई वाला अभिनति अनुमानक होता है। मूर्त रूप से, सामान्य अनुमानक औसत वर्ग विचलन का योग करते हैं और n से विभाजित होते हैं, जो अभिनति है। इसके अतिरिक्त n − 1 से विभाजित करने पर अनभिनत अनुमानक प्राप्त होता है। इसके विपरीत, माध्य औसत वर्ग त्रुटि को एक अलग संख्या (बंटन के आधार पर) से विभाजित करके कम किया जा सकता है, लेकिन इसका परिणाम अभिनति अनुमानक होता है। यह संख्या सदैव n − 1 से बड़ी होती है, इसलिए इसे अवमूल्यन अनुमानक के रूप में जाना जाता है, क्योंकि यह अनभिनत अनुमानक को शून्य की ओर अधिसंकुचन है; सामान्य बंटन के लिए इष्टतम मान n + 1 है।

मान लीजिए कि X₁, ..., X_n स्वतंत्र हैं और समान रूप से वितरित (i.i.d.) यादृच्छिक चर हैं जिनकी अपेक्षा μ और विचरण σ2 है। यदि प्रतिदर्श माध्य और असंशोधित प्रतिदर्श प्रसरण को इस प्रकार परिभाषित किया गया है

{\overline {X}}\,={\frac {1}{n}}\sum _{i=1}^{n}X_{i}\qquad S^{2}={\frac {1}{n}}\sum _{i=1}^{n}{\big (}X_{i}-{\overline {X}}\,{\big )}^{2}\qquad

तब S² σ² का अभिनति अनुमानक है, क्योंकि

\begin{aligned} E [S^{2}] & = E [\frac{1}{n} \sum_{i = 1}^{n} {(X_{i} - \bar{X})}^{2}] = E [\frac{1}{n} \sum_{i = 1}^{n} {((X_{i} - μ) - (\bar{X} - μ))}^{2}] \\ = E [\frac{1}{n} \sum_{i = 1}^{n} ({(X_{i} - μ)}^{2} - 2 (\bar{X} - μ) (X_{i} - μ) + {(\bar{X} - μ)}^{2})] \\ = E [\frac{1}{n} \sum_{i = 1}^{n} {(X_{i} - μ)}^{2} - \frac{2}{n} (\bar{X} - μ) \sum_{i = 1}^{n} (X_{i} - μ) + \frac{1}{n} {(\bar{X} - μ)}^{2} \sum_{i = 1}^{n} 1] \\ = E [\frac{1}{n} \sum_{i = 1}^{n} {(X_{i} - μ)}^{2} - \frac{2}{n} (\bar{X} - μ) \sum_{i = 1}^{n} ( \end{aligned}

जारी रखने के लिए, हम ध्यान दें कि

\mu

घटाकर के दोनों ओर से

{\overline {X}}={\frac {1}{n}}\sum _{i=1}^{n}X_{i}

, हम पाते हैं

{\begin{aligned}{\overline {X}}-\mu ={\frac {1}{n}}\sum _{i=1}^{n}X_{i}-\mu ={\frac {1}{n}}\sum _{i=1}^{n}X_{i}-{\frac {1}{n}}\sum _{i=1}^{n}\mu \ ={\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-\mu ).\\[8pt]\end{aligned}}

अर्थ, (तिर्यक-गुणन द्वारा) $n\cdot ({\overline {X}}-\mu )=\sum _{i=1}^{n}(X_{i}-\mu )$ . फिर, पहला बन जाता है:

\begin{aligned} E [S^{2}] & = E [\frac{1}{n} \sum_{i = 1}^{n} {(X_{i} - μ)}^{2} - \frac{2}{n} (\bar{X} - μ) \sum_{i = 1}^{n} (X_{i} - μ) + {(\bar{X} - μ)}^{2}] \\ = E [\frac{1}{n} \sum_{i = 1}^{n} {(X_{i} - μ)}^{2} - \frac{2}{n} (\bar{X} - μ) \cdot n \cdot (\bar{X} - μ) + {(\bar{X} - μ)}^{2}] \\ = E [\frac{1}{n} \sum_{i = 1}^{n} {(X_{i} - μ)}^{2} - 2 {(\bar{X} - μ)}^{2} + {(\bar{X} - μ)}^{2}] \\ = E [\frac{1}{n} \sum_{i = 1}^{n} {(X_{i} - μ)}^{2} - {(\bar{X} - μ)}^{2}] \\ = E [\frac{1}{n} \sum_{i = 1}^{n} {(X_{i} - μ)}^{2}] - E [(\bar{X} - \end{aligned}

इसे निम्नलिखित सूत्र को ध्यान में रखते हुए देखा जा सकता है, जो उपरोक्त असंशोधित प्रतिदर्श भिन्नता की अपेक्षा के लिए असमानता में शब्द के लिए भिन्नता # असंबद्ध चर के योग (बिनेमे फॉर्मूला) | बायनेमे फॉर्मूला से निम्नानुसार है:

\operatorname {E} {\big [}({\overline {X}}-\mu )^{2}{\big ]}={\frac {1}{n}}\sigma ^{2}

.

दूसरे शब्दों में, असंशोधित प्रतिदर्श प्रसरण का अपेक्षित मान जनसंख्या प्रसरण σ के बराबर नहीं होता है², जब तक कि सामान्यीकरण कारक से गुणा न किया जाए। दूसरी ओर, प्रतिदर्श माध्य अनभिनत है^[3] जनसंख्या का अनुमानक मतलब μ।^[2]

ध्यान दें कि प्रतिदर्श भिन्नता की सामान्य परिभाषा है $S^{2}={\frac {1}{n-1}}\sum _{i=1}^{n}(X_{i}-{\overline {X}}\,)^{2}$ , और यह जनसंख्या विचरण का अनभिनत अनुमानक है।

बीजगणितीय रूप से बोलते हुए, $\operatorname {E} [S^{2}]$ अनभिनत है क्योंकि:

{\begin{aligned}\operatorname {E} [S^{2}]&=\operatorname {E} \left[{\frac {1}{n-1}}\sum _{i=1}^{n}{\big (}X_{i}-{\overline {X}}{\big )}^{2}\right]={\frac {n}{n-1}}\operatorname {E} \left[{\frac {1}{n}}\sum _{i=1}^{n}{\big (}X_{i}-{\overline {X}}{\big )}^{2}\right]\\[8pt]&={\frac {n}{n-1}}\left(1-{\frac {1}{n}}\right)\sigma ^{2}=\sigma ^{2},\\[8pt]\end{aligned}}

जहां दूसरी पंक्ति में संक्रमण अभिनति अनुमानक के लिए उपरोक्त व्युत्पन्न परिणाम का उपयोग करता है। इस प्रकार $\operatorname {E} [S^{2}]=\sigma ^{2}$ , और इसलिए $S^{2}={\frac {1}{n-1}}\sum _{i=1}^{n}(X_{i}-{\overline {X}}\,)^{2}$ जनसंख्या विचरण का अनभिनत अनुमानक है, σ^{2</उप>। प्रसरण के अभिनति (असंशोधित) और अनभिनत अनुमानों के बीच के अनुपात को बेसेल के सुधार के रूप में जाना जाता है।}

कारण यह है कि एक असंशोधित प्रतिदर्श प्रसरण, S², इस तथ्य से अभिनति है कि प्रतिदर्श माध्य μ के लिए एक सामान्य न्यूनतम वर्ग (OLS) अनुमानक है: ${\overline {X}}$ वह संख्या है जो योग बनाती है $\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}$ जितना संभव हो उतना छोटा। अर्थात, जब इस योग में किसी अन्य संख्या को जोड़ा जाता है, तो योग केवल बढ़ सकता है। विशेष रूप से, पसंद $\mu \neq {\overline {X}}$ देता है,

{\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}<{\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-\mu )^{2},

और तब

{\begin{aligned}\operatorname {E} [S^{2}]&=\operatorname {E} {\bigg [}{\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}{\bigg ]}<\operatorname {E} {\bigg [}{\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-\mu )^{2}{\bigg ]}=\sigma ^{2}.\end{aligned}}

उपरोक्त चर्चा को ज्यामितीय शब्दों में समझा जा सकता है: वेक्टर ${\vec {C}}=(X_{1}-\mu ,\ldots ,X_{n}-\mu )$ की दिशा में प्रक्षेपित करके माध्य भाग और विचरण भाग में विघटित किया जा सकता है ${\vec {u}}=(1,\ldots ,1)$ और उस दिशा के ओर्थोगोनल पूरक हाइपरप्लेन। एक को मिलता है ${\vec {A}}=({\overline {X}}-\mu ,\ldots ,{\overline {X}}-\mu )$ भाग के लिए ${\vec {u}}$ और ${\vec {B}}=(X_{1}-{\overline {X}},\ldots ,X_{n}-{\overline {X}})$ पूरक भाग के लिए। चूंकि यह एक ओर्थोगोनल अपघटन है, पाइथागोरस प्रमेय कहता है $|{\vec {C}}|^{2}=|{\vec {A}}|^{2}+|{\vec {B}}|^{2}$ , और अपेक्षाओं को लेकर हम प्राप्त करते हैं $n\sigma ^{2}=n\operatorname {E} \left[({\overline {X}}-\mu )^{2}\right]+n\operatorname {E} [S^{2}]$ , ऊपर के रूप में (लेकिन times $n$ ). यदि का बंटन ${\vec {C}}$ घूर्णी रूप से सममित है, जैसे कि जब $X_{i}$ गॉसियन से नमूने लिए जाते हैं, फिर औसतन, साथ में आयाम ${\vec {u}}$ करने के लिए योगदान देते है $|{\vec {C}}|^{2}$ समान रूप से $n-1$ दिशाओं के लिए लंबवत ${\vec {u}}$ , ताकि $\operatorname {E} \left[({\overline {X}}-\mu )^{2}\right]={\frac {\sigma ^{2}}{n}}$ और $\operatorname {E} [S^{2}]={\frac {(n-1)\sigma ^{2}}{n}}$ . यह वास्तव में सामान्य तौर पर सच है, जैसा कि ऊपर बताया गया है।

प्वासों प्रायिकता का अनुमान लगाना

किसी भी अनभिनत अनुमानक की तुलना में अभिनति अनुमानक के अधिकतम होने का एक और अधिक चरम मामला पोइसन बंटन से उत्पन्न होता है।^[4]^[5] मान लीजिए कि एक्स के पास अपेक्षा λ के साथ पॉइसन बंटन है। मान लीजिए कि यह अनुमान लगाना चाहता है

\operatorname {P} (X=0)^{2}=e^{-2\lambda }\quad

आकार 1 के एक नमूने के साथ। (उदाहरण के लिए, जब एक टेलीफोन स्विचबोर्ड पर आने वाली कॉल को पॉइसन प्रक्रिया के रूप में मॉडल किया जाता है, और λ प्रति मिनट कॉल की औसत संख्या है, तो ई^−2λ संभावना है कि अगले दो मिनट में कोई कॉल नहीं आएगी।)

चूंकि अनभिनत अनुमानक की अपेक्षा δ(X) अनुमान के बराबर है, अर्थात

\operatorname {E} (\delta (X))=\sum _{x=0}^{\infty }\delta (x){\frac {\lambda ^{x}e^{-\lambda }}{x!}}=e^{-2\lambda },

अनभिनत अनुमानक बनाने वाले डेटा का एकमात्र कार्य है

\delta (x)=(-1)^{x}.\,

इसे देखने के लिए, ध्यान दें कि ई को विघटित करते समय^−λ अपेक्षा के लिए उपरोक्त अभिव्यक्ति से, शेष राशि e का टेलर श्रृंखला विस्तार है^−λ साथ ही, उपज देने वाला ई^−λई^{−λ</सुप> = ई^−2λ (एक्सपोनेंशियल फंक्शन के लक्षण देखें)।}

यदि एक्स का प्रेक्षित मान 100 है, तो अनुमान 1 है, हालांकि अनुमानित मात्रा का सही मान 0 के करीब होने की संभावना है, जो विपरीत चरम है। और, यदि X को 101 माना जाता है, तो अनुमान और भी बेतुका है: यह -1 है, हालांकि अनुमानित मात्रा धनात्मक होनी चाहिए।

(अभिनति) अधिकतम संभावना

e^{-2{X}}\quad

इस अनभिनत अनुमानक से कहीं अधिकतम है। न केवल इसका मान सदैव धनात्मक होता है बल्कि यह इस अर्थ में भी अधिक सटीक होता है कि इसका माध्य औसत वर्ग त्रुटि है

e^{-4\lambda }-2e^{\lambda (1/e^{2}-3)}+e^{\lambda (1/e^{4}-1)}\,

छोटा है; के अनभिनत अनुमानक के एमएसई की तुलना करें

1-e^{-4\lambda }.\,

एमएसई वास्तविक मान λ के कार्य हैं। अधिकतम-संभावना अनुमानक का अभिनति है:

e^{-2\lambda }-e^{\lambda (1/e^{2}-1)}.\,

असतत समान बंटन का अधिकतम

अधिकतम-संभावना अनुमानकों का अभिनति पर्याप्त हो सकता है। एक ऐसे स्थिति पर विचार करें जहां 1 से n तक के n टिकटों को एक बॉक्स में रखा गया है और एक को यादृच्छिक रूप से चयन किया गया है, एक मान X दे रहा है। यदि n अज्ञात है, तो n का अधिकतम-संभावना अनुमानक X है, भले ही अपेक्षा X दिया हुआ n केवल (n + 1)/2 है; हम केवल निश्चित हो सकते हैं कि n कम से कम X है और शायद अधिक है। इस स्थिति में, प्राकृतिक अनभिनत अनुमानक 2X − 1 है।

माध्य-अनभिनत अनुमानक

1947 में जॉर्ज डब्ल्यू ब्राउन द्वारा माध्य-अनभिनत आकलनकर्ताओं के सिद्धांत को पुनर्जीवित किया गया था:^[6]

एक-आयामी पैरामीटर θ का एक अनुमान औसत-निष्पक्ष कहा जाएगा, यदि, निश्चित θ के लिए, अनुमान के वितरण का औसत मान θ पर है; अर्थात, अनुमान उतनी ही बार कम करके निर्धारित किया जाता है जितनी बार यह अधिक अनुमान लगाता है। यह आवश्यकता अधिकांश उद्देश्यों के लिए औसत-निष्पक्ष आवश्यकता को पूरा करने के लिए प्रतीत होती है और इसकी अतिरिक्त संपत्ति है कि यह एक-से-एक परिवर्तन के अंर्तगत अपरिवर्तनीय है।

मध्य-अनभिनत आकलनकर्ताओं के और गुणों को लेहमन, बिरनबाउम, वैन डेर वार्ट और फनज़ागल द्वारा नोट किया गया है।^{[citation needed]} विशेष रूप से, औसत-अनभिनत अनुमानक ऐसे स्थितियों में सम्मिलित होते हैं जहां माध्य-अनभिनत और अधिकतम संभावना | अधिकतम-संभावना अनुमानक सम्मिलित नहीं होते हैं। वे अंतःक्षेपी फलन|एक-से-एक परिवर्तन के अंतर्गत अपरिवर्तनीय हैं।

प्रायिकता बंटन के लिए मध्य-अनभिनत अनुमानक के निर्माण के तरीके हैं जिनमें मोनोटोन संभावना अनुपात है। -अनभिनत आकलनकर्ता)।^[7]^[8] ऐसी ही एक प्रक्रिया माध्य-अनभिनत आकलनकर्ताओं के लिए राव-ब्लैकवेल प्रक्रिया का एक एनालॉग है: माध्य-अनभिनत अनुमान के लिए राव-ब्लैकवेल प्रक्रिया की तुलना में प्रक्रिया प्रायिकता बंटन के एक छोटे वर्ग के लिए है, लेकिन हानि-कार्यों के एक बड़े वर्ग के लिए है।^[8]

अन्य हानि कार्यों के संबंध में अभिनति

कोई न्यूनतम-विचरण माध्य-अनभिनत अनुमानक औसत वर्ग-त्रुटि हानि फलन (माध्य-अनभिनत अनुमानकों के बीच) के संबंध में जोखिम (सांख्यिकी) (अपेक्षित हानि) को कम करता है, जैसा कि गॉस द्वारा देखा गया है।^[9] एक न्यूनतम-औसत निरपेक्ष विचलन मध्य-अनभिनत आकलनकर्ता पूर्ण मान हानि फलन (मध्य-अनभिनत अनुमानकों के बीच) के संबंध में जोखिम को कम करता है, जैसा कि लाप्लास द्वारा देखा गया है।^[9]^[10] अन्य नुकसान कार्यों का उपयोग सांख्यिकी में किया जाता है, विशेष रूप से प्रबल सांख्यिकी में।^[9]^[11]

रूपांतरों का प्रभाव

अविभाजित मापदंडों के लिए, मध्य-अनभिनत अनुमानक डेटा परिवर्तन (सांख्यिकी) के अंतर्गत मध्य-अनभिनत रहते हैं जो ऑर्डर (या रिवर्स ऑर्डर) को संरक्षित करते हैं। ध्यान दें कि, जब एक माध्य-अनभिनत अनुमानक पर रूपांतरण लागू किया जाता है, तो परिणाम को इसके संगत जनसंख्या सांख्यिकी का माध्य-अनभिनत अनुमानक नहीं होना चाहिए। जेन्सेन की असमानता से, परिवर्तन के रूप में एक उत्तल कार्य सकारात्मक अभिनति पेश करेगा, जबकि एक अवतल कार्य नकारात्मक अभिनति पेश करेगा, और मिश्रित उत्तलता का कार्य विशिष्ट कार्य और बंटन के आधार पर किसी भी दिशा में अभिनति पेश कर सकता है। यही है, एक गैर-रैखिक फलन एफ और पैरामीटर पी के एक औसत-अनभिनत अनुमानक यू के लिए, समग्र अनुमानक एफ (यू) को एफ (पी) का एक औसत-अनभिनत अनुमानक नहीं होना चाहिए। उदाहरण के लिए, जनसंख्या विचरण के अनभिनत अनुमानक का वर्गमूल है not जनसंख्या मानक विचलन का माध्य-अनभिनत अनुमानक: अनभिनत प्रतिदर्श प्रसरण का वर्गमूल, सही प्रतिदर्श मानक विचलन, अभिनति है। अभिनति अनुमानक के प्रतिदर्श बंटन और परिवर्तन पर निर्भर करता है, और गणना करने के लिए काफी सम्मिलित हो सकता है - इस स्थिति में चर्चा के लिए मानक विचलन का अनभिनत अनुमान देखें।

अभिनति, विचरण और माध्य औसत वर्ग त्रुटि

पैरामीटर β के लिए दो वैकल्पिक अनुमानकों का प्रतिदर्शकरण बंटन₀. हालांकि बी₁<सुप स्टाइल = स्थिति: सापेक्ष; बायां: -8pt; शीर्ष: -1pt; >^ अनभिनत है, यह स्पष्ट रूप से अभिनति β से हीन है₂<सुप स्टाइल = स्थिति: सापेक्ष; बायां: -8pt; शीर्ष: -1pt; >^।

रिज प्रतिगमन एक ऐसी तकनीक का उदाहरण है जहां थोड़ा सा अभिनति होने से वेरियंस में काफी कमी आ सकती है, और समग्र रूप से अधिक विश्वसनीय अनुमान लग सकते हैं।

जबकि अभिनति अनुमानक और अंतर्निहित पैरामीटर के बीच अपेक्षित औसत अंतर को मापता है, प्रतिदर्श में यादृच्छिकता के कारण परिमित नमूने के आधार पर अनुमानक अतिरिक्त रूप से पैरामीटर से अलग होने की उम्मीद कर सकता है।

एक अनुमानक जो अभिनति को कम करता है, आवश्यक रूप से औसत वर्ग त्रुटि को कम नहीं करेगा। एक उपाय जिसका उपयोग दोनों प्रकार के अंतरों को दर्शाने के लिए किया जाता है, वह माध्य वर्ग त्रुटि है,^[1]: $\operatorname {MSE} ({\hat {\theta }})=\operatorname {E} {\big [}({\hat {\theta }}-\theta )^{2}{\big ]}.$ यह अभिनति के वर्ग के बराबर दिखाया जा सकता है, साथ ही विचरण:^[1]: ${\begin{aligned}\operatorname {MSE} ({\hat {\theta }})=&(\operatorname {E} [{\hat {\theta }}]-\theta )^{2}+\operatorname {E} [\,({\hat {\theta }}-\operatorname {E} [\,{\hat {\theta }}\,])^{2}\,]\\=&(\operatorname {Bias} ({\hat {\theta }},\theta ))^{2}+\operatorname {Var} ({\hat {\theta }})\end{aligned}}$ जब पैरामीटर एक वेक्टर होता है, तो एक समान अपघटन लागू होता है:^[12]

\operatorname {MSE} ({\hat {\theta }})=\operatorname {trace} (\operatorname {Cov} ({\hat {\theta }}))+\left\Vert \operatorname {Bias} ({\hat {\theta }},\theta )\right\Vert ^{2}

जहाँ $\operatorname {trace} (\operatorname {Cov} ({\hat {\theta }}))$ अनुमानक के सहप्रसरण मैट्रिक्स का निशान (विकर्ण योग) है और $\left\Vert \operatorname {Bias} ({\hat {\theta }},\theta )\right\Vert ^{2}$ वर्ग वेक्टर मानदंड है।

उदाहरण: जनसंख्या विचरण का अनुमान

उदाहरण के लिए,^[13] मान लीजिए फॉर्म का अनुमानक

T^{2}=c\sum _{i=1}^{n}\left(X_{i}-{\overline {X}}\,\right)^{2}=cnS^{2}

उपरोक्त के अनुसार जनसंख्या विचरण के लिए मांगा गया है, लेकिन इस बार एमएसई को कम करने के लिए:

{\begin{aligned}\operatorname {MSE} =&\operatorname {E} \left[(T^{2}-\sigma ^{2})^{2}\right]\\=&\left(\operatorname {E} \left[T^{2}-\sigma ^{2}\right]\right)^{2}+\operatorname {Var} (T^{2})\end{aligned}}

यदि चर X₁ ... एक्स_n एक सामान्य बंटन का पालन करें, फिर एनएस²/प² का n − 1 स्वतंत्रता की डिग्री के साथ ची-वर्ग बंटन है, जो देता है:

\operatorname {E} [nS^{2}]=(n-1)\sigma ^{2}{\text{ and }}\operatorname {Var} (nS^{2})=2(n-1)\sigma ^{4}.

इसलिए

\operatorname {MSE} =(c(n-1)-1)^{2}\sigma ^{4}+2c^{2}(n-1)\sigma ^{4}

थोड़े से बीजगणित के साथ यह पुष्टि की जा सकती है कि यह c = 1/(n + 1) है जो इस संयुक्त नुकसान फलन को कम करता है, अतिरिक्त c = 1/(n − 1) जो अभिनति के वर्ग को कम करता है।

सामान्य रूप से यह केवल प्रतिबंधित वर्गों की समस्याओं में होता है कि एक अनुमानक होगा जो पैरामीटर मानों से स्वतंत्र रूप से एमएसई को कम करता है।

हालांकि यह बहुत आम है कि अभिनति-विचरण व्यापार को माना जा सकता है, जैसे कि अभिनति में एक छोटी सी वृद्धि भिन्नता में बड़ी कमी के लिए कारोबार की जा सकती है, जिसके परिणामस्वरूप समग्र रूप से अधिक वांछनीय अनुमानक होता है।

बायेसियन व्यू

अधिकांश बेयसियन अपने अनुमानों के निष्पक्षता (कम से कम औपचारिक प्रतिदर्शकरण-सिद्धांत के अर्थ में) के बारे में असंबद्ध हैं। उदाहरण के लिए, गेलमैन और कोउथर्स (1995) लिखते हैं: बायेसियन दृष्टिकोण से, निष्पक्षता का सिद्धांत बड़े नमूनों की सीमा में उचित है, लेकिन अन्यथा यह संभावित रूप से भ्रामक है।^[14] मौलिक रूप से, बायेसियन सांख्यिकी और उपरोक्त प्रतिदर्शकरण-सिद्धांत दृष्टिकोण के बीच का अंतर यह है कि प्रतिदर्शकरण-सिद्धांत दृष्टिकोण में पैरामीटर को निश्चित रूप में लिया जाता है, और फिर डेटा के पूर्वानुमानित प्रतिदर्श बंटन के आधार पर एक आंकड़े के प्रायिकता बंटन पर विचार किया जाता है। बायेसियन के लिए, हालांकि, यह वह डेटा है जो ज्ञात और निश्चित है, और यह अज्ञात पैरामीटर है जिसके लिए बेयस प्रमेय का उपयोग करके प्रायिकता बंटन का निर्माण करने का प्रयास किया जाता है:

p(\theta \mid D,I)\propto p(\theta \mid I)p(D\mid \theta ,I)

यहां दूसरा शब्द, अज्ञात पैरामीटर मान θ दिए गए डेटा की संभावना फलन, केवल प्राप्त डेटा और डेटा जनरेशन प्रक्रिया के मॉडलिंग पर निर्भर करता है। हालाँकि, बायेसियन गणना में पहला शब्द भी सम्मिलित है, θ के लिए पूर्व संभावना, जो डेटा के आने से पहले विश्लेषक को θ के बारे में जानने या संदेह करने वाली हर चीज का हिसाब लेता है। यह जानकारी प्रतिदर्शकरण-सिद्धांत दृष्टिकोण में कोई भूमिका नहीं निभाती है; वास्तव में इसे सम्मिलित करने के किसी भी प्रयास को डेटा द्वारा विशुद्ध रूप से बताए गए अभिनति से दूर माना जाएगा। इस हद तक कि बायेसियन गणनाओं में पूर्व सूचना सम्मिलित है, इसलिए यह अनिवार्य रूप से अपरिहार्य है कि उनके परिणाम प्रतिदर्शकरण सिद्धांत के संदर्भ में अनभिनत नहीं होंगे।

लेकिन एक बायेसियन दृष्टिकोण के परिणाम प्रतिदर्शकरण सिद्धांत के दृष्टिकोण से भिन्न हो सकते हैं, भले ही बायेसियन पूर्व में एक गैर-सूचनात्मक अपनाने की कोशिश करता हो।

उदाहरण के लिए, फिर से एक अज्ञात जनसंख्या प्रसरण σ के अनुमान पर विचार करें^{अज्ञात माध्य के साथ सामान्य बंटन का 2}, जहां अपेक्षित हानि फलन में c को अनुकूलित करना वांछित है

\operatorname {ExpectedLoss} =\operatorname {E} \left[\left(cnS^{2}-\sigma ^{2}\right)^{2}\right]=\operatorname {E} \left[\sigma ^{4}\left(cn{\tfrac {S^{2}}{\sigma ^{2}}}-1\right)^{2}\right]

इस समस्या के लिए असूचनात्मक पूर्व का एक मानक विकल्प मानक विचलन पैरामीटर के साथ जेफरीज़ पूर्व#गाऊसी बंटन है, $\scriptstyle {p(\sigma ^{2})\;\propto \;1/\sigma ^{2}}$ , जो ln(σ²).

इसे पहले अपनाने का एक परिणाम यह है कि स²/प² एक महत्वपूर्ण मात्रा है, अर्थात S का प्रायिकता बंटन²/प² केवल S पर निर्भर करता है²/प², S के मान से स्वतंत्र² या पृ²:

p\left({\tfrac {S^{2}}{\sigma ^{2}}}\mid S^{2}\right)=p\left({\tfrac {S^{2}}{\sigma ^{2}}}\mid \sigma ^{2}\right)=g\left({\tfrac {S^{2}}{\sigma ^{2}}}\right)

हालांकि, जबकि

\operatorname {E} _{p(S^{2}\mid \sigma ^{2})}\left[\sigma ^{4}\left(cn{\tfrac {S^{2}}{\sigma ^{2}}}-1\right)^{2}\right]=\sigma ^{4}\operatorname {E} _{p(S^{2}\mid \sigma ^{2})}\left[\left(cn{\tfrac {S^{2}}{\sigma ^{2}}}-1\right)^{2}\right]

इसके विपरीत

\operatorname {E} _{p(\sigma ^{2}\mid S^{2})}\left[\sigma ^{4}\left(cn{\tfrac {S^{2}}{\sigma ^{2}}}-1\right)^{2}\right]\neq \sigma ^{4}\operatorname {E} _{p(\sigma ^{2}\mid S^{2})}\left[\left(cn{\tfrac {S^{2}}{\sigma ^{2}}}-1\right)^{2}\right]

— जब उम्मीद को σ के प्रायिकता बंटन पर ले लिया जाता है² दिया हुआ S², जैसा कि एस के अतिरिक्त बायेसियन स्थिति में है² दिए गए p², अब कोई σ नहीं ले सकता⁴ एक स्थिरांक के रूप में और इसका गुणनखंडन करें। इसका परिणाम यह है कि, प्रतिदर्शकरण-सिद्धांत गणना की तुलना में, बायेसियन गणना σ के बड़े मानों पर अधिक भार डालती है।², सही से ध्यान में रखते हुए (चूंकि प्रतिदर्शकरण-सिद्धांत गणना नहीं कर सकता) कि इस औसत वर्ग-हानि फलन के अंतर्गत σ के बड़े मानों को कम आंकने का परिणाम है^{σ के छोटे मानों को अधिक आंकने की तुलना में 2} औसत वर्ग-नुकसान के संदर्भ में अधिक महंगा है^{2</उप>।}

कार्य-आउट बायेसियन गणना σ के पश्च प्रायिकता बंटन के लिए स्वतंत्रता की n − 1 डिग्री के साथ एक मापन्ड व्युत्क्रम ची-वर्ग बंटन देता है।^{2</उप>। सीएनएस होने पर अपेक्षित नुकसान कम हो जाता है^{2</सुप> = <पी²>; यह तब होता है जब c = 1/(n − 3).}}

यहां तक कि एक अनौपचारिक पूर्व के साथ, इसलिए, बायेसियन गणना समान प्रतिदर्श-सिद्धांत गणना के समान अपेक्षित-नुकसान न्यूनतम परिणाम नहीं दे सकती है।

यह भी देखें

↑ ^1.0 ^1.1 ^1.2 Kozdron, Michael (March 2016). "Evaluating the Goodness of an Estimator: Bias, Mean-Square Error, Relative Efficiency (Chapter 3)" (PDF). stat.math.uregina.ca. Retrieved 2020-09-11.
↑ ^2.0 ^2.1 Taylor, Courtney (January 13, 2019). "निष्पक्ष और पक्षपाती अनुमानक". ThoughtCo (in English). Retrieved 2020-09-12.
↑ Richard Arnold Johnson; Dean W. Wichern (2007). अनुप्रयुक्त बहुभिन्नरूपी सांख्यिकीय विश्लेषण. Pearson Prentice Hall. ISBN 978-0-13-187715-3. Retrieved 10 August 2012.
↑ J. P. Romano and A. F. Siegel (1986) Counterexamples in Probability and Statistics, Wadsworth & Brooks / Cole, Monterey, California, USA, p. 168
↑ Hardy, M. (1 March 2003). "एक प्रबुद्ध प्रति उदाहरण". American Mathematical Monthly. 110 (3): 234–238. arXiv:math/0206006. doi:10.2307/3647938. ISSN 0002-9890. JSTOR 3647938.
↑ Brown (1947), page 583
↑ Pfanzagl, Johann (1979). "उपद्रव मापदंडों की उपस्थिति में इष्टतम औसत निष्पक्ष अनुमानकों पर". The Annals of Statistics. 7 (1): 187–193. doi:10.1214/aos/1176344563.
↑ ^8.0 ^8.1 Brown, L. D.; Cohen, Arthur; Strawderman, W. E. (1976). "अनुप्रयोगों के साथ सख्त मोनोटोन संभावना अनुपात के लिए एक पूर्ण वर्ग प्रमेय". Ann. Statist. 4 (4): 712–722. doi:10.1214/aos/1176343543.
↑ ^9.0 ^9.1 ^9.2 Dodge, Yadolah, ed. (1987). Statistical Data Analysis Based on the L₁-Norm and Related Methods. Papers from the First International Conference held at Neuchâtel, August 31–September 4, 1987. Amsterdam: North-Holland. ISBN 0-444-70273-3.
↑ Jaynes, E. T. (2007). Probability Theory : The Logic of Science. Cambridge: Cambridge Univ. Press. p. 172. ISBN 978-0-521-59271-0.
↑ Klebanov, Lev B.; Rachev, Svetlozar T.; Fabozzi, Frank J. (2009). "Loss Functions and the Theory of Unbiased Estimation". सांख्यिकी में मजबूत और गैर-मजबूत मॉडल. New York: Nova Scientific. ISBN 978-1-60741-768-2.
↑ Taboga, Marco (2010). "संभाव्यता सिद्धांत और गणितीय सांख्यिकी पर व्याख्यान".
↑ DeGroot, Morris H. (1986). प्रायिकता अौर सांख्यिकी (2nd ed.). Addison-Wesley. pp. 414–5. ISBN 0-201-11366-X. But compare it with, for example, the discussion in Casella; Berger (2001). Statistical Inference (2nd ed.). Duxbury. p. 332. ISBN 0-534-24312-6.
↑ Gelman, A.; et al. (1995). बायेसियन डेटा विश्लेषण. Chapman and Hall. p. 108. ISBN 0-412-03991-5.

संदर्भ

Brown, George W. "On Small-Sample Estimation." The Annals of Mathematical Statistics, vol. 18, no. 4 (Dec., 1947), pp. 582–585. JSTOR 2236236.
Lehmann, E. L. "A General Concept of Unbiasedness" The Annals of Mathematical Statistics, vol. 22, no. 4 (Dec., 1951), pp. 587–592. JSTOR 2236928.
Allan Birnbaum, 1961. "A Unified Theory of Estimation, I", The Annals of Mathematical Statistics, vol. 32, no. 1 (Mar., 1961), pp. 112–135.
Van der Vaart, H. R., 1961. "Some Extensions of the Idea of Bias" The Annals of Mathematical Statistics, vol. 32, no. 2 (June 1961), pp. 436–447.
Pfanzagl, Johann. 1994. Parametric Statistical Theory. Walter de Gruyter.
Stuart, Alan; Ord, Keith; Arnold, Steven [F.] (2010). Classical Inference and the Linear Model. Kendall's Advanced Theory of Statistics. Vol. 2A. Wiley. ISBN 978-0-4706-8924-0..
Voinov, Vassily [G.]; Nikulin, Mikhail [S.] (1993). Unbiased estimators and their applications. Vol. 1: Univariate case. Dordrect: Kluwer Academic Publishers. ISBN 0-7923-2382-3.
Voinov, Vassily [G.]; Nikulin, Mikhail [S.] (1996). Unbiased estimators and their applications. Vol. 2: Multivariate case. Dordrect: Kluwer Academic Publishers. ISBN 0-7923-3939-8.
Klebanov, Lev [B.]; Rachev, Svetlozar [T.]; Fabozzi, Frank [J.] (2009). Robust and Non-Robust Models in Statistics. New York: Nova Scientific Publishers. ISBN 978-1-60741-768-2.

बाहरी संबंध

"Unbiased estimator", Encyclopedia of Mathematics, EMS Press, 2001 [1994]^{[clarification needed]}

[:0-1] 1.0 ^1.1 ^1.2 Kozdron, Michael (March 2016). "Evaluating the Goodness of an Estimator: Bias, Mean-Square Error, Relative Efficiency (Chapter 3)" (PDF). stat.math.uregina.ca. Retrieved 2020-09-11.

[:1-2] 2.0 ^2.1 Taylor, Courtney (January 13, 2019). "निष्पक्ष और पक्षपाती अनुमानक". ThoughtCo (in English). Retrieved 2020-09-12.

[JohnsonWichern2007-3] Richard Arnold Johnson; Dean W. Wichern (2007). अनुप्रयुक्त बहुभिन्नरूपी सांख्यिकीय विश्लेषण. Pearson Prentice Hall. ISBN 978-0-13-187715-3. Retrieved 10 August 2012.

[4] J. P. Romano and A. F. Siegel (1986) Counterexamples in Probability and Statistics, Wadsworth & Brooks / Cole, Monterey, California, USA, p. 168

[5] Hardy, M. (1 March 2003). "एक प्रबुद्ध प्रति उदाहरण". American Mathematical Monthly. 110 (3): 234–238. arXiv:math/0206006. doi:10.2307/3647938. ISSN 0002-9890. JSTOR 3647938.

[6] Brown (1947), page 583

[7] Pfanzagl, Johann (1979). "उपद्रव मापदंडों की उपस्थिति में इष्टतम औसत निष्पक्ष अनुमानकों पर". The Annals of Statistics. 7 (1): 187–193. doi:10.1214/aos/1176344563.

[BrownEtAl-8] 8.0 ^8.1 Brown, L. D.; Cohen, Arthur; Strawderman, W. E. (1976). "अनुप्रयोगों के साथ सख्त मोनोटोन संभावना अनुपात के लिए एक पूर्ण वर्ग प्रमेय". Ann. Statist. 4 (4): 712–722. doi:10.1214/aos/1176343543.

[Dodge-9] 9.0 ^9.1 ^9.2 Dodge, Yadolah, ed. (1987). Statistical Data Analysis Based on the L₁-Norm and Related Methods. Papers from the First International Conference held at Neuchâtel, August 31–September 4, 1987. Amsterdam: North-Holland. ISBN 0-444-70273-3.

[10] Jaynes, E. T. (2007). Probability Theory : The Logic of Science. Cambridge: Cambridge Univ. Press. p. 172. ISBN 978-0-521-59271-0.

[11] Klebanov, Lev B.; Rachev, Svetlozar T.; Fabozzi, Frank J. (2009). "Loss Functions and the Theory of Unbiased Estimation". सांख्यिकी में मजबूत और गैर-मजबूत मॉडल. New York: Nova Scientific. ISBN 978-1-60741-768-2.

[taboga-12] Taboga, Marco (2010). "संभाव्यता सिद्धांत और गणितीय सांख्यिकी पर व्याख्यान".

[13] DeGroot, Morris H. (1986). प्रायिकता अौर सांख्यिकी (2nd ed.). Addison-Wesley. pp. 414–5. ISBN 0-201-11366-X. But compare it with, for example, the discussion in Casella; Berger (2001). Statistical Inference (2nd ed.). Duxbury. p. 332. ISBN 0-534-24312-6.

[14] Gelman, A.; et al. (1995). बायेसियन डेटा विश्लेषण. Chapman and Hall. p. 108. ISBN 0-412-03991-5.

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

[11]

[12]

[13]

[14]

v t e Biases
Cognitive biases	Acquiescence Ambiguity Anchoring Attentional Attribution Actor–observer Correspondence Authority Automation Availability Mean world Belief Blind spot Choice-supportive Confirmation Commitment Compassion fade Congruence Courtesy Cultural Distinction Dunning–Kruger Egocentric Curse of knowledge Emotional Extrinsic incentives Fading affect Framing Frequency Halo effect Hindsight Horn effect Hostile attribution Impact Implicit In-group Mere-exposure effect Negativity Normalcy Omission Optimism Out-group homogeneity Outcome Overton window Precision Present Pro-innovation Response Restraint Self-serving Social comparison Social influence bias Status quo Substitution Time-saving Trait ascription Turkey illusion von Restorff effect Zero-risk In animals
Statistical biases	Estimator Forecast Healthy user Information Psychological Lead time Length time Non-response Observer Omitted-variable Participation Recall Sampling Selection Self-selection Social desirability Spectrum Survivorship Systematic error Systemic Verification Wet
Other biases	Academic Funding FUTON Inductive Infrastructure Inherent In education Media False balance Vietnam War Norway South Asia Sweden United States Arab–Israeli conflict Ukraine Net Political bias Publication Reporting White hat
Bias reduction	Cognitive bias mitigation Debiasing Heuristics in judgment and decision-making
Lists: General · Memory

Anonymous

Search

अनुमानक का पूर्वाग्रह

Namespaces

More

Page actions

Contents

परिभाषा

उदाहरण

प्रतिदर्श विचरण

प्वासों प्रायिकता का अनुमान लगाना

असतत समान बंटन का अधिकतम

माध्य-अनभिनत अनुमानक

अन्य हानि कार्यों के संबंध में अभिनति

रूपांतरों का प्रभाव

अभिनति, विचरण और माध्य औसत वर्ग त्रुटि

उदाहरण: जनसंख्या विचरण का अनुमान

बायेसियन व्यू

यह भी देखें

टिप्पणियाँ

संदर्भ

बाहरी संबंध

Navigation

Navigation

Wiki tools

Wiki tools

Anonymous

Search

अनुमानक का पूर्वाग्रह

परिभाषा

उदाहरण

प्रतिदर्श विचरण

प्वासों प्रायिकता का अनुमान लगाना

असतत समान बंटन का अधिकतम

माध्य-अनभिनत अनुमानक

अन्य हानि कार्यों के संबंध में अभिनति

रूपांतरों का प्रभाव

अभिनति, विचरण और माध्य औसत वर्ग त्रुटि

उदाहरण: जनसंख्या विचरण का अनुमान

बायेसियन व्यू

यह भी देखें

टिप्पणियाँ

संदर्भ

बाहरी संबंध

Navigation

Wiki tools

Page tools

Other projects

Categories