स्थिरता (सीखने का सिद्धांत): Difference between revisions

Latest revision as of 14:08, 14 August 2023

स्टेबिलिटी, जिसे एल्गोरिथम स्टेबिलिटी भी कहा जाता है, संगणनात्मक शिक्षण सिद्धांत में एक अनुमान है, जिसमें बताया जाता है कि मशीन लर्निंग एल्गोरिदम का आउटपुट अपने इनपुट के छोटे से परिवर्तनों के साथ कैसे बदलता है। एक स्टेबल लर्निंग एल्गोरिदम वह होता है जिसके द्वारा पूर्वानुमान किए गए परिणाम में कम बदलाव होता है जब प्रशिक्षण डेटा में थोड़े से संशोधन किया जाता है।

उदाहरण के रूप में, एक मशीन लर्निंग एल्गोरिदम को समझने के लिए, हम एक यांत्रिकी वर्णमाला के हस्तलिखित अक्षरों को पहचानने के लिए प्रशिक्षण देने के लिए उपयुक्त हैं, जिसमें 1000 हस्तलिखित अक्षरों के उदाहरण और उनके लेबल "A" से "Z" तक होते हैं। यह प्रशिक्षण सेट है। इस प्रशिक्षण सेट को संशोधित करने का विधि एक उदाहरण छोड़ देना है, जिससे हस्तलिखित पत्रों और उनके लेबल के केवल 999 उदाहरण उपलब्ध हों। एक स्टेबल लर्निंग एल्गोरिदम द्वारा उत्पन्न किया गया विश्लेषक दोनों 1000-घटक और 999-घटक प्रशिक्षण सेट के साथ एक समान विश्लेषक उत्पन्न करेगा।

प्राकृतिक भाषा प्रसंस्करण से लेकर भौतिकी और इंजीनियरिंग में व्युत्क्रम समस्याओं तक, कई प्रकार की सीखने की समस्याओं के लिए स्टेबिलिटी का अध्ययन किया जा सकता है, क्योंकि यह सीखी जा रही जानकारी के प्रकार के अतिरिक्त सीखने की प्रक्रिया का एक गुण है। 2000 के दशक में कम्प्यूटेशनल शिक्षण सिद्धांत में स्टेबिलिटी के अध्ययन को महत्व मिला जब इसे सामान्यीकरण के साथ संबंध दिखाया गया कि सीखने के एल्गोरिदम के बड़े वर्गों के लिए, विशेष रूप से अनुभवजन्य जोखिम न्यूनतमकरण एल्गोरिदम, के लिए कुछ प्रकार की स्टेबिलिटी अच्छे सामान्यीकरण को सुनिश्चित करती है।

इतिहास

मशीन लर्निंग सिस्टम के डिज़ाइन में एक मुख्य लक्ष्य है कि लर्निंग एल्गोरिदम नए उदाहरणों पर भी सही विधि से प्रदर्शन करे, या उसके बाद भी सही पूर्वानुमानित कर सके, जब उसे एक सीमित संख्या के उदाहरणों पर प्रशिक्षित किया जाता है। 1990 के दशक में, पर्यवेक्षित शिक्षण एल्गोरिदम के लिए सामान्यीकरण सीमा प्राप्त करने में मील के पत्थर प्राप्त किए गए। सामान्यीकरण को सिद्ध करने के लिए ऐतिहासिक रूप से उपयोग की जाने वाली तकनीक यह दिखाने के लिए थी कि एक एल्गोरिदम सुसंगत अनुमानक था, जो अनुभवजन्य मात्राओं के समान अभिसरण गुणों को उनके साधनों में उपयोग करता था। इस तकनीक का उपयोग अनुभवजन्य जोखिम न्यूनीकरण ईआरएम एल्गोरिदम के बड़े वर्ग के लिए सामान्यीकरण सीमा प्राप्त करने के लिए किया गया था। ईआरएम एल्गोरिदम वह है जो एक परिकल्पना समष्टि से एक समाधान $H$ का चयन करता है। इस तरह से प्रशिक्षण सेट $S$ पर अनुभवजन्य त्रुटि को कम किया जा सके।

ईआरएम बाइनरी वर्गीकरण एल्गोरिदम के लिए व्लादिमीर वापनिक द्वारा सिद्ध किया गया एक सामान्य परिणाम यह है कि किसी भी लक्ष्य फ़ंक्शन और इनपुट वितरण के लिए, किसी भी परिकल्पना समष्टि $H$ वीसी आयाम के साथ वीसी-आयाम $d$ , और $n$ प्रशिक्षण उदाहरणों में, यदि एक एल्गोरिदम सत्यापनशील है तो वह प्रशिक्षण त्रुटि को सच्ची त्रुटि से अधिकतम $O\left({\sqrt {\frac {d}{n}}}\right)$ उत्पन्न सकता है। परिणाम को बाद में फ़ंक्शन वर्गों के साथ लगभग-ईआरएम एल्गोरिदम तक बढ़ा दिया गया, जिनमें अद्वितीय मिनिमाइज़र नहीं हैं।

वापनिक के काम में, जिसे जिन्हें वीसी सिद्धांत के रूप में जाना गया, एक सीखने वाले एल्गोरिदम के सामान्यीकरण और सीखने जा रहे फ़ंक्शन के विश्वासयोग्यता समष्टि $H$ के गुणों के बीच एक संबंध स्थापित किया गया। यद्यपि, इन परिणामों को असीमित वीसी-आयाम के परिकल्पना समष्टिों वाले एल्गोरिदम पर लागू नहीं किया जा सका। दूसरे शब्दों मे कहें तो, ये परिणाम उस समय लागू नहीं किए जा सकते थे जब शिक्षित हो रही जानकारी की जटिलता बहुत ज्यादा थी और उसे मापने की संभावना नहीं थी। कुछ सबसे सरल मशीन लर्निंग एल्गोरिदम, जैसे रीज्रेशन के लिए, हिपोथिसिस स्पेस का वीसी आयाम अनिश्चित होता है। दूसरा उदाहरण है भाषा शिक्षण एल्गोरिदम जो असीमित लंबाई के वाक्यों को प्रस्तुत कर सकते हैं।

स्टेबिलिटी विश्लेषण 2000 के दशक में कम्प्यूटेशनल शिक्षण सिद्धांत के लिए विकसित किया गया था और यह सामान्यीकरण सीमा प्राप्त करने के लिए एक वैकल्पिक विधि है। एक एल्गोरिदम की स्टेबिलिटी शिक्षण प्रक्रिया की एक गुणवत्ता है, जो कि सीधे हिपोथिसिस स्पेस $H$ , की एक प्रत्यक्ष गुणवत्ता नहीं है, और वीसी-आयाम के साथ असीमित या अनिर्दिष्ट हिपोथिसिस स्पेस के एल्गोरिदमों में मूल्यांकन किया जा सकता है, जैसे जैसे कि नियरेस्ट नेबर। एक स्टेबल लर्निंग एल्गोरिदम वह होता है जिसमें प्रशिक्षण सेट को थोड़े से संशोधित करने पर अधिगत फ़ंक्शन में अत्यधिक परिवर्तित नहीं होता है, उदाहरण के लिए किसी उदाहरण को छोड़ देने से लीव वन आउट त्रुटि के माप का उपयोग क्रॉस वैलिडेशन लीव वन आउट एल्गोरिदम में एक एल्गोरिदम की स्टेबिलिटी का मूल्यांकन करने के लिए किया जाता है, जिससे की लॉस फ़ंक्शन के संबंध में इस तरह, स्टेबिलिटी विश्लेषण मशीन लर्निंग में संवेदनशीलता विश्लेषण का एक अनुप्रयोग है।

क्लासिक परिणामों का सारांश

शिक्षण सिद्धांत में स्टेबिलिटी की प्रारंभिक विवरण एंड्री निकोलाइविच तिखोनोव द्वारा शिक्षण मैप $L$ , की सततता के संबंध में की गई थी। यह उनके काम का एक महत्वपूर्ण भाग था जो उन्होंने शिक्षण सिद्धांत के क्षेत्र में किया था।
1979 में डेव्रोय और वाग्नर ने देखा कि एक एल्गोरिदम का लीव-वन-आउट व्यवहार संख्या में छोटे परिवर्तनों के प्रति उसकी संवेदनशीलता से संबंधित होता है।^[1]
1999 - किर्न्स और रॉन ने परिमित वीसी-आयाम और स्टेबिलिटी के बीच संबंध की खोज की।^[2]
2002 - एक ऐतिहासिक पेपर में, बाउस्केट और एलिसिफ़ ने एक सीखने के एल्गोरिदम की समान परिकल्पना स्टेबिलिटी की धारणा का प्रस्ताव रखा और दिखाया कि यह कम सामान्यीकरण त्रुटि का संकेत देता है। यद्यपि, समान परिकल्पना स्टेबिलिटी एक मजबूत स्थिति है जो एल्गोरिदम के बड़े वर्गों पर लागू नहीं होती है, जिसमें केवल दो कार्यों की परिकल्पना समष्टि के साथ ईआरएम एल्गोरिदम भी सम्मिलित है।^[3]
2002 - कुटिन और नियोगी ने स्टेबिलिटी के कई कमजोर रूपों के लिए सामान्यीकरण सीमाएं प्रदान करके बाउस्केट और एलिसिफ़ के परिणामों को बढ़ाया, जिसे उन्होंने लगभग-हर जगह स्टेबिलिटी कहा। इसके अतिरिक्त, उन्होंने संभवतः अनुमानित रूप से सही सेटिंग में ईआरएम एल्गोरिदम में स्टेबिलिटी और स्टेबिलिटी के बीच संबंध स्थापित करने में प्रारंभिक कदम उठाया।^[4]
2004 - पोगियो एट अल।स्टेबिलिटी और ईआरएम स्टेबिलिटी के बीच एक सामान्य संबंध स्थापित हुआ। उन्होंने लीव-वन-आउट-स्टेबिलिटी का एक सांख्यिकीय रूप प्रस्तावित किया, जिसे उन्होंने सीवीईईलू स्टेबिलिटी कहा, और दिखाया कि यह a सीमित लॉसवर्गों में सामान्यीकरण के लिए पर्याप्त है, और b वर्ग हानि, पूर्ण मूल्य और बाइनरी वर्गीकरण लॉसजैसे कुछ लॉसकार्यों के लिए ईआरएम एल्गोरिदम की स्टेबिलिटी के लिए पर्याप्त है।^[5]
2010 - शैलेव श्वार्ट्ज एट अल ने परिकल्पना समष्टि और लॉसवर्ग के बीच जटिल संबंधों के कारण वाप्निक के मूल परिणामों में समस्याएं देखी गईं। वे स्टेबिलिटी की धारणाओं पर चर्चा करते हैं जो विभिन्न लॉसवर्गों और पर्यवेक्षित और गैर-पर्यवेक्षित सीखने के विभिन्न प्रकारों का समावेश करती हैं।।^[6]
2016 - मोरिट्ज हार्ट और सहकर्मियों ने निश्चित धारणाओं पर आधारित हिपोथिसिस और प्रत्येक इंस्टेंस को मॉडल को अपडेट करने के लिए कितनी बार उपयोग किया जाता है, इसे मध्यस्थता का सिद्धांत सिद्ध किया है। वे ग्रैडिएंट डिसेंट की स्थिरता को सिद्ध करने में सफल रहे। ^[7]

प्रारंभिक परिभाषाएँ

हम सीखने के एल्गोरिदम प्रशिक्षण सेट से संबंधित कई शब्दों को परिभाषित करते हैं, ताकि हम स्टेबिलिटी को कई तरीकों से परिभाषित कर सकें और क्षेत्र से प्रमेय प्रस्तुत कर सकें।

एक मशीन लर्निंग एल्गोरिदम, जिसे लर्निंग मैप $L$ के रूप में भी जाना जाता है , एक प्रशिक्षण डेटा सेट को मैप करता है, जो एक फ़ंक्शन पर $f$ से $X$ को $Y$ लेबल किए गए उदाहरणों का एक सेट $(x,y)$ है, जहाँ $X$ और $Y$ प्रशिक्षण उदाहरणों के एक ही समष्टि पर हैं। फलन $f$ फलनों के एक परिकल्पना समष्टि से चुने गए हैं जिन्हें $H$ कहा जाता है .

एक एल्गोरिदम जिससे सिखाई जाती है, उसके प्रशिक्षण सेट को निर्धारित किया जाता है जिसे निम्नलिखित रूप में प्रस्तुत किया जा सकता है:

$S={z_{1}=(x_{1},\ y_{1})\ ,..,\ z_{m}=(x_{m},\ y_{m})}$

जहां $m$ विशेष और $Z=X\times Y$ हैं। यह नामांकन एक अज्ञात वितरण D से आपसी स्वतंत्र और एक साथ प्राप्त किए गए हैं।

इस प्रकार, शिक्षण मानचित्र $L$ को $Z_{m}$ से $H$ तक एक मैपिंग के रूप में परिभाषित किया जाता है, जो एक प्रशिक्षण सेट $S$ को एक फ़ंक्शन $f_{S}$ से मानचित्रित करता है, जो $X$ से $Y$ तक है। यहां, हम केवल स्टैटिक एल्गोरिदम को ध्यान में रखते हैं जिसमें $L$ $S$ के संबंध में सममितिक है, अर्थात् यह प्रशिक्षण सेट में तत्वों के क्रम पर निर्भर नहीं करता है। इसके अतिरिक्त, हम मानते हैं कि सभी फ़ंक्शन मापनीय हैं और सभी सेट गणनीय हैं।

$f$ परिकल्पना की हानि $V$ एक उदाहरण $z=(x,y)$ के संबंध में पुनः $V(f,z)=V(f(x),y)$ के रूप में परिभाषित किया गया है

$f$ की अनुभवजन्य त्रुटि $I_{S}[f]={\frac {1}{n}}\sum V(f,z_{i})$ है।

$f$ की वास्तविक त्रुटि $I[f]=\mathbb {E} _{z}V(f,z)$ है। आकार m के एक प्रशिक्षण सेट S को देखते हुए, हम सभी i = 1....m के लिए, निम्नानुसार संशोधित प्रशिक्षण सेट बनाएंगे:

i-वें तत्व को हटाकर

$S^{|i}=\{z_{1},...,\ z_{i-1},\ z_{i+1},...,\ z_{m}\}$

i-वें तत्व को प्रतिस्थापित करके

$S^{i}=\{z_{1},...,\ z_{i-1},\ z_{i}',\ z_{i+1},...,\ z_{m}\}$

स्टेबिलिटी की परिभाषाएँ

परिकल्पना स्टेबिलिटी

एक एल्गोरिदम $L$ लॉसफ़ंक्शन V के संबंध में परिकल्पना स्टेबिलिटी β है यदि निम्नलिखित मान्य है:

$\forall i\in \{1,...,m\},\mathbb {E} _{S,z}[|V(f_{S},z)-V(f_{S^{|i}},z)|]\leq \beta .$

बिंदुवार परिकल्पना स्टेबिलिटी

एक एल्गोरिदम $L$ का लॉसफ़ंक्शन V के संबंध में बिंदु-वार परिकल्पना स्टेबिलिटी β है यदि निम्नलिखित मान्य है:

$\forall i\in \ \{1,...,m\},\mathbb {E} _{S}[|V(f_{S},z_{i})-V(f_{S^{|i}},z_{i})|]\leq \beta .$

त्रुटि स्टेबिलिटी

एक एल्गोरिदम $L$ का लॉसफ़ंक्शन V के संबंध में त्रुटि स्टेबिलिटी β है यदि निम्नलिखित मान्य है:

$\forall S\in Z^{m},\forall i\in \{1,...,m\},|\mathbb {E} _{z}[V(f_{S},z)]-\mathbb {E} _{z}[V(f_{S^{|i}},z)]|\leq \beta$

समरूप स्टेबिलिटी

एक एल्गोरिदम $L$ का लॉसफ़ंक्शन V के संबंध में समरूप स्टेबिलिटी β है यदि निम्नलिखित मान्य है:

$\forall S\in Z^{m},\forall i\in \{1,...,m\},\sup _{z\in Z}|V(f_{S},z)-V(f_{S^{|i}},z)|\leq \beta$

एक समान स्टेबिलिटी β का एक संभाव्य संस्करण है:

$\forall S\in Z^{m},\forall i\in \{1,...,m\},\mathbb {P} _{S}\{\sup _{z\in Z}|V(f_{S},z)-V(f_{S^{|i}},z)|\leq \beta \}\geq 1-\delta$

एक एल्गोरिदम को स्टेबल कहा जाता है, जब $\beta$ का मान $O({\frac {1}{m}})$ के रूप में घटता है।

लीव-वन-आउट क्रॉस-वैलिडेशन (सीवीलू) स्टेबिलिटी

एक एल्गोरिदम $L$ के लॉसफ़ंक्शन V के संबंध में सीवीलू स्टेबिलिटी β है यदि निम्नलिखित मान्य है:

$\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|V(f_{S},z_{i})-V(f_{S^{|i}},z_{i})|\leq \beta _{CV}\}\geq 1-\delta _{CV}$

(सीवीलू) स्टेबिलिटी की परिभाषा पहले देखी गई बिंदुवार-परिकल्पना स्टेबिलिटी के समान है।

अपेक्षित-लीव-वन-आउट त्रुटि ( $Eloo_{err}$ ) स्टेबिलिटी

एक एल्गोरिदम $L$ में $Eloo_{err}$ स्टेबिलिटी है यदि $\beta _{EL}^{m}$ और A $\delta _{EL}^{m}$ में प्रत्येक n के लिए a उपलब्ध है:

$\forall i\in \{1,...,m\},\mathbb {P} _{S}\{|I[f_{S}]-{\frac {1}{m}}\sum _{i=1}^{m}V(f_{S^{|i}},z_{i})|\leq \beta _{EL}^{m}\}\geq 1-\delta _{EL}^{m}$ , के लिए $\beta _{EL}^{m}$ और $\delta _{EL}^{m}$ , शून्य पर अग्रसित है $m,\rightarrow \infty$ ।

पारम्परिक प्रमेय

बाउस्केट और एलिसिफ़ (02) से:

सममित लर्निंग एल्गोरिदम जिनमें सीमित लॉस होता है, यदि एल्गोरिदम के पास पहले दिए गए सामान्यीकरण के साथ उचित संभावनात्मक परिभाषा है, तो वे एल्गोरिदम सामान्यीकरण करते हैं।

समान स्टेबिलिटी एक मजबूत स्थिति है जो सभी एल्गोरिदम द्वारा पूरी नहीं की जाती है, लेकिन आश्चर्यजनक रूप से, नियमितीकरण एल्गोरिदम के बड़े और महत्वपूर्ण वर्ग द्वारा पूरी की जाती है। सामान्यीकरण की सीमा लेख में दी गई है।

मुखर्जी एट अल से. (06):

सममित लर्निंग एल्गोरिदम्स जिनमें सीमित लॉस होता है, यदि एल्गोरिदम के पास ऊपर दिए गए दोनों समष्टिीय आंतरिक समीकरण और अपेक्षित आंतरिक त्रुटि $Eloo_{err}$ ) स्टेबिलिटी है, तो वे एल्गोरिदम सामान्यीकरण करते हैं।,
केवल एक स्थिरता शर्त से सामान्यीकरण होना पर्याप्त नहीं है, परंतु दोनों स्थिरता शर्तों का साथ मिलकर सामान्यीकरण सुनिश्चित करता है
विशेष रूप से ईआरएम एल्गोरिदम के लिए, लीव-वन-आउट क्रॉस-वैलिडेशन स्टेबिलिटी और सामान्यीकरण के लिए स्टेबिलिटी आवश्यक और पर्याप्त दोनों है।

यह सीखने के सिद्धांत की नींव के लिए एक महत्वपूर्ण परिणाम है, क्योंकि यह दर्शाता है कि एल्गोरिदम के दो पहले से असंबंधित गुण, एल्गोरिदम और स्टेबिलिटी, ईआरएम के लिए समतुल्य हैं। सामान्यीकरण की सीमा लेख में दी गई है

स्टेबल एल्गोरिदम

यह उन एल्गोरिदम की एक सूची है जिन्हें स्टेबल दिखाया गया है, और वह लेख जहां संबंधित सामान्यीकरण सीमाएँ प्रदान की गई हैं।

रेखीय प्रतिगमन^[8]
{0-1} लॉसफ़ंक्शन के साथ के -एनएन क्लासिफायरियर।^[1]
बाउंडेड कर्नेल के समर्थन वेक्टर यंत्र एसवीएम वर्गीकरण का समर्थन करें और जहां रिप्रोड्यूसिंग कर्नेल हिल्बर्ट स्पेस में रेग्युलराइज़र एक मानक है। एक बड़ा नियमितीकरण स्टेबलांक $C$ अच्छी स्टेबिलिटी की ओर ले जाता है.^[3]
सॉफ्ट मार्जिन एसवीएम वर्गीकरण।^[3]
नियमितीकरण न्यूनतम वर्ग प्रतिगमन।^[3]
वर्गीकरण के लिए न्यूनतम सापेक्ष एन्ट्रापी एल्गोरिथ्म।^[3]
बैगिंग रेगुलराइज़र्स का एक संस्करण है जिसमें रिग्रेसर्स की संख्या $k$ नियंत्रित है और $n$ के साथ बढ़ती है।.^[9]
मल्टी-क्लास एसवीएम वर्गीकरण।^[9]
सभी लर्निंग एल्गोरिदम जो टिखोनोव रेगुलराइज़ेशन के साथ हैं, वे समान स्टेबिलिटी मानदंड को पूरा करते हैं और इसलिए वे सार्वभौमिक होते हैं।^[10]

संदर्भ

↑ ^1.0 ^1.1 L. Devroye and Wagner, Distribution-free performance bounds for potential function rules, IEEE Trans. Inf. Theory 25(5) (1979) 601–604.
↑ M. Kearns and D. Ron, Algorithmic stability and sanity-check bounds for leave-one-out cross-validation, Neural Comput. 11(6) (1999) 1427–1453.
↑ ^3.0 ^3.1 ^3.2 ^3.3 ^3.4 O. Bousquet and A. Elisseeff. Stability and generalization. J. Mach. Learn. Res., 2:499–526, 2002.
↑ S. Kutin and P. Niyogi, Almost-everywhere algorithmic stability and generalization error, Technical Report TR-2002-03, University of Chicago (2002).
↑ S. Mukherjee, P. Niyogi, T. Poggio, and R. M. Rifkin. Learning theory: stability is sufficient for generalization and necessary and sufficient for consistency of empirical risk minimization. Adv. Comput. Math., 25(1-3):161–193, 2006.
↑ Shalev Shwartz, S., Shamir, O., Srebro, N., Sridharan, K., Learnability, Stability and Uniform Convergence, Journal of Machine Learning Research, 11(Oct):2635-2670, 2010.
↑ Moritz Hardt, Benjamin Recht, Yoram Singer, Train faster, generalize better: Stability of stochastic gradient descent, ICML 2016.
↑ Elisseeff, A. A study about algorithmic stability and their relation to generalization performances. Technical report. (2000)
↑ ^9.0 ^9.1 Rifkin, R. Everything Old is New Again: A fresh look at historical approaches in machine learning. Ph.D. Thesis, MIT, 2002
↑ Rosasco, L. and Poggio, T. Stability of Tikhonov Regularization, 2009

अग्रिम पठन

S.Kutin and P.Niyogi.Almost-everywhere algorithmic stability and generalization error. In Proc. of UAI 18, 2002
S. Rakhlin, S. Mukherjee, and T. Poggio. Stability results in learning theory. Analysis and Applications, 3(4):397–419, 2005
V.N. Vapnik. The Nature of Statistical Learning Theory. Springer, 1995
Vapnik, V., Statistical Learning Theory. Wiley, New York, 1998
Poggio, T., Rifkin, R., Mukherjee, S. and Niyogi, P., "Learning Theory: general conditions for predictivity", Nature, Vol. 428, 419-422, 2004
Andre Elisseeff, Theodoros Evgeniou, Massimiliano Pontil, Stability of Randomized Learning Algorithms, Journal of Machine Learning Research 6, 55–79, 2010
Elisseeff, A. Pontil, M., Leave-one-out Error and Stability of Learning Algorithms with Applications, NATO SCIENCE SERIES SUB SERIES III COMPUTER AND SYSTEMS SCIENCES, 2003, VOL 190, pages 111-130
Shalev Shwartz, S., Shamir, O., Srebro, N., Sridharan, K., Learnability, Stability and Uniform Convergence, Journal of Machine Learning Research, 11(Oct):2635-2670, 2010

[devroye1979-1] 1.0 ^1.1 L. Devroye and Wagner, Distribution-free performance bounds for potential function rules, IEEE Trans. Inf. Theory 25(5) (1979) 601–604.

[2] M. Kearns and D. Ron, Algorithmic stability and sanity-check bounds for leave-one-out cross-validation, Neural Comput. 11(6) (1999) 1427–1453.

[bousquet2002-3] 3.0 ^3.1 ^3.2 ^3.3 ^3.4 O. Bousquet and A. Elisseeff. Stability and generalization. J. Mach. Learn. Res., 2:499–526, 2002.

[4] S. Kutin and P. Niyogi, Almost-everywhere algorithmic stability and generalization error, Technical Report TR-2002-03, University of Chicago (2002).

[5] S. Mukherjee, P. Niyogi, T. Poggio, and R. M. Rifkin. Learning theory: stability is sufficient for generalization and necessary and sufficient for consistency of empirical risk minimization. Adv. Comput. Math., 25(1-3):161–193, 2006.

[6] Shalev Shwartz, S., Shamir, O., Srebro, N., Sridharan, K., Learnability, Stability and Uniform Convergence, Journal of Machine Learning Research, 11(Oct):2635-2670, 2010.

[7] Moritz Hardt, Benjamin Recht, Yoram Singer, Train faster, generalize better: Stability of stochastic gradient descent, ICML 2016.

[8] Elisseeff, A. A study about algorithmic stability and their relation to generalization performances. Technical report. (2000)

[rifkin2002-9] 9.0 ^9.1 Rifkin, R. Everything Old is New Again: A fresh look at historical approaches in machine learning. Ph.D. Thesis, MIT, 2002

[10] Rosasco, L. and Poggio, T. Stability of Tikhonov Regularization, 2009

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

@@ Line 34: / Line 34: @@
 एक मशीन लर्निंग एल्गोरिदम, जिसे लर्निंग मैप <math>L</math>के रूप में भी जाना जाता है , एक प्रशिक्षण डेटा सेट को मैप करता है, जो एक फ़ंक्शन पर <math>f</math> से <math>X</math> को <math>Y</math> लेबल किए गए उदाहरणों का एक सेट <math>(x,y)</math> है,  जहाँ <math>X</math> और <math>Y</math> प्रशिक्षण उदाहरणों के एक ही समष्टि पर हैं। फलन <math>f</math> फलनों के एक परिकल्पना समष्टि से चुने गए हैं जिन्हें <math>H</math> कहा जाता है .
-वह प्रशिक्षण सेट जिससे एक एल्गोरिदम सीखता है उसे इस प्रकार परिभाषित किया गया है
+एक एल्गोरिदम जिससे सिखाई जाती है, उसके प्रशिक्षण सेट को निर्धारित किया जाता है जिसे निम्नलिखित रूप में प्रस्तुत किया जा सकता है:
-<math>S = \{z_1 = (x_1,\ y_1)\ ,..,\ z_m = (x_m,\ y_m)\}</math>
+<math>S = {z_1 = (x_1,\ y_1)\ ,..,\ z_m = (x_m,\ y_m)}</math>
-और <math>m</math> में <math>Z = X \times Y</math> आकार का है
+जहां <math>m</math> विशेष और <math>Z = X \times Y</math> हैं। यह नामांकन एक अज्ञात वितरण D से आपसी स्वतंत्र और एक साथ प्राप्त किए गए हैं।
-तैयार आई.आई.डी. एक अज्ञात वितरण से डी.
-इस प्रकार, सीखने का नक्शा <math>L</math> से मैपिंग के रूप में परिभाषित किया गया है <math>Z_m</math> में <math>H</math>, एक प्रशिक्षण सेट का मानचित्रण <math>S</math> एक समारोह पर <math>f_S</math> से <math>X</math> को <math>Y</math>. यहां, हम केवल नियतात्मक एल्गोरिदम पर विचार करते हैं <math>L</math> के संबंध में सममित है <math>S</math>, यानी यह प्रशिक्षण सेट में तत्वों के क्रम पर निर्भर नहीं करता है। इसके अलावा, हम मानते हैं कि सभी फ़ंक्शन मापने योग्य हैं और सभी सेट गणनीय हैं।
+इस प्रकार, शिक्षण मानचित्र <math>L</math> को <math>Z_m</math> से <math>H</math> तक एक मैपिंग के रूप में परिभाषित किया जाता है, जो एक प्रशिक्षण सेट <math>S</math> को एक फ़ंक्शन <math>f_S</math> से मानचित्रित करता है, जो <math>X</math> से <math>Y</math> तक है। यहां, हम केवल स्टैटिक एल्गोरिदम को ध्यान में रखते हैं जिसमें <math>L</math> <math>S</math> के संबंध में सममितिक है, अर्थात् यह प्रशिक्षण सेट में तत्वों के क्रम पर निर्भर नहीं करता है। इसके अतिरिक्त, हम मानते हैं कि सभी फ़ंक्शन मापनीय हैं और सभी सेट गणनीय हैं।
-लॉस<math>V</math> एक परिकल्पना का <math>f</math> एक उदाहरण के संबंध में <math>z = (x,y)</math> फिर परिभाषित किया गया है <math>V(f,z) = V(f(x),y)</math>.
+<math>f</math> परिकल्पना की हानि <math>V</math> एक उदाहरण <math>z = (x,y)</math> के संबंध में पुनः <math>V(f,z) = V(f(x),y)</math> के रूप में परिभाषित किया गया है
-की अनुभवजन्य त्रुटि <math>f</math> है <math>I_S[f] = \frac{1}{n}\sum V(f,z_i)</math>.
+<math>f</math> की अनुभवजन्य त्रुटि <math>I_S[f] = \frac{1}{n}\sum V(f,z_i)</math> है।
-की सच्ची त्रुटि <math>f</math> है <math>I[f] = \mathbb{E}_z V(f,z)</math>
+<math>f</math> की वास्तविक त्रुटि <math>I[f] = \mathbb{E}_z V(f,z)</math> है।
 आकार m के एक प्रशिक्षण सेट S को देखते हुए, हम सभी i = 1....m के लिए, निम्नानुसार संशोधित प्रशिक्षण सेट बनाएंगे:
 * i-वें तत्व को हटाकर
@@ Line 53: / Line 52: @@
 * i-वें तत्व को प्रतिस्थापित करके
 <math>S^i = \{z_1 ,...,\ z_{i-1},\ z_i',\ z_{i+1},...,\ z_m\}</math>
@@ Line 64: / Line 73: @@
 ===बिंदुवार परिकल्पना स्टेबिलिटी===
-एक एल्गोरिदम <math>L</math> लॉसफ़ंक्शन V के संबंध में बिंदु-वार परिकल्पना स्टेबिलिटी β है यदि निम्नलिखित मान्य है:
+एक एल्गोरिदम <math>L</math> का लॉसफ़ंक्शन V के संबंध में बिंदु-वार परिकल्पना स्टेबिलिटी β है यदि निम्नलिखित मान्य है:
 <math>\forall i\in\ \{1,...,m\}, \mathbb{E}_{S} [|V(f_S,z_i)-V(f_{S^{|i}},z_i)|]\leq\beta.</math>
@@ Line 70: / Line 79: @@
 ===त्रुटि स्टेबिलिटी===
-एक एल्गोरिदम <math>L</math> लॉसफ़ंक्शन V के संबंध में त्रुटि स्टेबिलिटी β है यदि निम्नलिखित मान्य है:
+एक एल्गोरिदम <math>L</math> का लॉसफ़ंक्शन V के संबंध में त्रुटि स्टेबिलिटी β है यदि निम्नलिखित मान्य है:
 <math>\forall S\in Z^m, \forall i\in\{1,...,m\}, |\mathbb{E}_z[V(f_S,z)]-\mathbb{E}_z[V(f_{S^{|i}},z)]|\leq\beta</math>
-===समान स्टेबिलिटी===
+===समरूप स्टेबिलिटी===
-एक एल्गोरिदम <math>L</math> लॉसफ़ंक्शन V के संबंध में एकसमान स्टेबिलिटी β है यदि निम्नलिखित मान्य है:
+एक एल्गोरिदम <math>L</math> का लॉसफ़ंक्शन V के संबंध में समरूप स्टेबिलिटी β है यदि निम्नलिखित मान्य है:
 <math>\forall S\in Z^m, \forall i\in\{1,...,m\}, \sup_{z\in Z}|V(f_S,z)-V(f_{S^{|i}},z)|\leq\beta</math>
 एक समान स्टेबिलिटी β का एक संभाव्य संस्करण है:
 <math>\forall S\in Z^m, \forall i\in\{1,...,m\}, \mathbb{P}_S\{\sup_{z\in Z}|V(f_S,z)-V(f_{S^{|i}},z)|\leq\beta\}\geq1-\delta</math>
-एक एल्गोरिदम को स्टेबल कहा जाता है, जब का मान <math>\beta</math> के रूप में घटता है <math>O(\frac{1}{m})</math>.
+एक एल्गोरिदम को स्टेबल कहा जाता है, जब <math>\beta</math> का मान  <math>O(\frac{1}{m})</math> के रूप में घटता है।
 ===लीव-वन-आउट क्रॉस-वैलिडेशन (सीवीलू) स्टेबिलिटी===
-एक एल्गोरिदम <math>L</math> लॉसफ़ंक्शन V के संबंध में CVloo स्टेबिलिटी β है यदि निम्नलिखित मान्य है:
+एक एल्गोरिदम <math>L</math> के लॉसफ़ंक्शन V के संबंध में सीवीलू स्टेबिलिटी β है यदि निम्नलिखित मान्य है:
 <math>\forall i\in\{1,...,m\}, \mathbb{P}_S\{ |V(f_S,z_i) - V(f_{S^{|i}},z_i)|\leq\beta_{CV}\}\geq1 - \delta_{CV}</math>
-(सीवीलू) स्टेबिलिटी की परिभाषा पहले देखी गई बिंदुवार-परिकल्पना स्टेबिलिटी के बराबर है।
-===अपेक्षित-छोड़ें-एक-बाहर त्रुटि (<math>Eloo_{err}</math>) स्टेबिलिटी===
+(सीवीलू) स्टेबिलिटी की परिभाषा पहले देखी गई बिंदुवार-परिकल्पना स्टेबिलिटी के समान है।
-एक एल्गोरिदम <math>L</math> है <math>Eloo_{err}</math> स्टेबिलिटी यदि प्रत्येक n के लिए a मौजूद है <math>\beta_{EL}^m</math> और ए <math>\delta_{EL}^m</math> ऐसा है कि:
+===अपेक्षित-लीव-वन-आउट त्रुटि (<math>Eloo_{err}</math>) स्टेबिलिटी===
+एक एल्गोरिदम <math>L</math> में <math>Eloo_{err}</math> स्टेबिलिटी है  यदि <math>\beta_{EL}^m</math> और A <math>\delta_{EL}^m</math> में  प्रत्येक n के लिए a उपलब्ध है:
+<math>\forall i\in\{1,...,m\}, \mathbb{P}_S\{|I[f_S]-\frac{1}{m}\sum_{i=1}^m V(f_{S^{|i}},z_i)|\leq\beta_{EL}^m\}\geq1-\delta_{EL}^m</math>, के लिए  <math>\beta_{EL}^m</math> और <math>\delta_{EL}^m</math>, शून्य पर अग्रसित है <math>m,\rightarrow\infty</math>।
-<math>\forall i\in\{1,...,m\}, \mathbb{P}_S\{|I[f_S]-\frac{1}{m}\sum_{i=1}^m V(f_{S^{|i}},z_i)|\leq\beta_{EL}^m\}\geq1-\delta_{EL}^m</math>, साथ <math>\beta_{EL}^m</math> और <math>\delta_{EL}^m</math> के लिए शून्य पर जा रहा हूँ <math>m,\rightarrow\infty</math>
@@ Line 145: / Line 158: @@
 *Shalev Shwartz, S., Shamir, O., Srebro, N., Sridharan, K.,  Learnability, Stability and Uniform Convergence, Journal of Machine Learning Research, 11(Oct):2635-2670, 2010
 {{Refend}}
-[[Category: यंत्र अधिगम]] [[Category: सीखना]]
-[[Category: Machine Translated Page]]
 [[Category:Created On 26/07/2023]]
+[[Category:Lua-based templates]]
+[[Category:Machine Translated Page]]
+[[Category:Pages with script errors]]
+[[Category:Short description with empty Wikidata description]]
+[[Category:Template documentation pages|Short description/doc]]
+[[Category:Templates Vigyan Ready]]
+[[Category:Templates that add a tracking category]]
+[[Category:Templates that generate short descriptions]]
+[[Category:Templates using TemplateData]]
+[[Category:यंत्र अधिगम]]
+[[Category:सीखना]]

Anonymous

Search

स्थिरता (सीखने का सिद्धांत): Difference between revisions

Namespaces

More

Page actions

Latest revision as of 14:08, 14 August 2023

Contents

इतिहास

क्लासिक परिणामों का सारांश

प्रारंभिक परिभाषाएँ