सीमांत संभावना

सीमांत संभावना एक संभावना फलन है जिसे पैरामीटर स्थान पर एकीकृत किया गया है। बायेसियन सांख्यिकी में, यह पूर्व संभाव्यता से नमूनाकरण (सांख्यिकी) उत्पन्न करने की संभावना का प्रतिनिधित्व करता है और इसलिए इसे अधिकांशतः मॉडल साक्ष्य या केवल साक्ष्य के रूप में जाना जाता है।

अवधारणा

स्वतंत्र समान रूप से वितरित डेटा बिंदुओं के एक समूह को देखते हुए $\mathbf {X} =(x_{1},\ldots ,x_{n}),$ जहाँ $x_{i}\sim p(x|\theta )$ कुछ संभाव्यता वितरण के अनुसार $\theta$ द्वारा पैरामीटर किया गया है जहां $\theta$ स्वयं एक वितरण द्वारा वर्णित एक यादृच्छिक चर है, अर्थात $\theta \sim p(\theta \mid \alpha ),$ सामान्यतः सीमांत संभावना पूछती है कि संभावना $p(\mathbf {X} \mid \alpha )$ क्या है, जहां $\theta$ सीमांत वितरण (एकीकृत) किया गया है:

$p(\mathbf {X} \mid \alpha )=\int _{\theta }p(\mathbf {X} \mid \theta )\,p(\theta \mid \alpha )\ \operatorname {d} \!\theta$

उपरोक्त परिभाषा बायेसियन सांख्यिकी के संदर्भ में व्यक्त की गई है, जिस स्थिति में $p(\theta \mid \alpha )$ को पूर्व घनत्व कहा जाता है और $p(\mathbf {X} \mid \theta )$ संभावना है। सीमांत संभावना एक ज्यामितीय अर्थ में डेटा और पूर्व के मध्य सहमति की मात्रा निर्धारित करती है, जिसे डे कार्वाल्हो एट अल में स्पष्ट बनाया गया है। (2019) मौलिक (फ़्रीक्वेंटिस्ट) आँकड़ों में, सीमांत संभावना की अवधारणा एक संयुक्त पैरामीटर $\theta =(\psi ,\lambda )$ के संदर्भ में होती है जहाँ $\psi$ ब्याज का वास्तविक पैरामीटर है, और $\lambda$ एक गैर-दिलचस्प उपद्रव पैरामीटर है। यदि $\lambda$ के लिए संभाव्यता वितरण उपस्थित है, तो अधिकांशतः $\lambda$ को हाशिए पर रखकर केवल $\psi$ के संदर्भ में संभावना फलन पर विचार करना वांछनीय होता है:

${\mathcal {L}}(\psi ;\mathbf {X} )=p(\mathbf {X} \mid \psi )=\int _{\lambda }p(\mathbf {X} \mid \lambda ,\psi )\,p(\lambda \mid \psi )\ \operatorname {d} \!\lambda$

दुर्भाग्य से, सीमांत संभावनाओं की गणना करना सामान्यतः कठिन होता है। स्पष्ट समाधान वितरण के छोटे वर्ग के लिए जाने जाते हैं, विशेषतः जब हाशिए पर रखा गया पैरामीटर डेटा के वितरण से पहले संयुग्मित होता है। अन्य स्थितियों में, किसी प्रकार की संख्यात्मक एकीकरण विधि की आवश्यकता होती है, या तब सामान्य विधि जैसे गॉसियन एकीकरण या मोंटे कार्लो विधि, या सांख्यिकीय समस्याओं के लिए विशेष विधि जैसे लाप्लास सन्निकटन, गिब्स नमूनाकरण/मेट्रोपोलिस-हेस्टिंग्स_एल्गोरिदम नमूनाकरण, या ईएम एल्गोरिदम के लिए विशेष विधि की आवश्यकता होती है।

उपरोक्त विचारों को एकल यादृच्छिक चर (डेटा बिंदु) $x$ पर क्रियान्वित करना भी संभव है, बायेसियन संदर्भ में, अवलोकनों के समूह के अतिरिक्त, यह डेटा बिंदु के पूर्व पूर्वानुमानित वितरण के सामान्तर है।

अनुप्रयोग

बायेसियन मॉडल तुलना

बायेसियन मॉडल तुलना में, सीमांत चर $\theta$ एक विशेष प्रकार के मॉडल के लिए पैरामीटर हैं, और शेष चर $M$ मॉडल की पहचान है। इस स्थितियों में, सीमांत संभावना मॉडल प्रकार दिए गए डेटा की संभावना है जो किसी विशेष मॉडल पैरामीटर को नहीं मानती है। मॉडल मापदंडों के लिए $\theta$ लिखना, मॉडल $M$ के लिए सीमांत संभावना है

$p(\mathbf {X} \mid M)=\int p(\mathbf {X} \mid \theta ,M)\,p(\theta \mid M)\,\operatorname {d} \!\theta$

इसी संदर्भ में मॉडल साक्ष्य शब्द का प्रयोग सामान्यतः किया जाता है। यह मात्रा महत्वपूर्ण है क्योंकि एक मॉडल M₁ के विरुद्ध दूसरे मॉडल M₂ के लिए पश्च विषम अनुपात में सीमांत संभावनाओं का अनुपात सम्मिलित होता है, तथाकथित बेयस कारक:

${\frac {p(M_{1}\mid \mathbf {X} )}{p(M_{2}\mid \mathbf {X} )}}={\frac {p(M_{1})}{p(M_{2})}}\,{\frac {p(\mathbf {X} \mid M_{1})}{p(\mathbf {X} \mid M_{2})}}$

जिसे योजनाबद्ध रूप से इस प्रकार बताया जा सकता है

पोस्टीरियर ऑड्स = पूर्व ऑड्स × बेयस फैक्टर

यह भी देखें

• अनुभवजन्य बेयस विधियाँ
• लिंडले का विरोधाभास
• सीमांत संभाव्यता
• बायेसियन सूचना मानदंड

संदर्भ

• Charles S. Bos. "A comparison of marginal likelihood computation methods". In W. Härdle and B. Ronz, editors, COMPSTAT 2002: Proceedings in Computational Statistics, pp. 111–117. 2002. (Available as a preprint on the web: [1])
• de Carvalho, Miguel; Page, Garritt; Barney, Bradley (2019). "On the geometry of Bayesian inference". Bayesian Analysis. 14 (4): 1013‒1036. (Available as a preprint on the web: [2])
• Lambert, Ben (2018). "The devil is in the denominator". A Student's Guide to Bayesian Statistics. Sage. pp. 109–120. ISBN 978-1-4739-1636-4.
• The on-line textbook: Information Theory, Inference, and Learning Algorithms, by David J.C. MacKay.