कंस्ट्रक्टिंग स्किल ट्री: Difference between revisions

From Vigyanwiki
No edit summary
 
(4 intermediate revisions by 4 users not shown)
Line 1: Line 1:
कंस्ट्रक्टिंग स्किल ट्री (CST) एक पदानुक्रमित [[सुदृढीकरण सीखना]] एल्गोरिद्म है जो प्रदर्शन से प्राप्त नमूना समाधान प्रक्षेपवक्र के एक सेट से स्किल ट्री का निर्माण कर सकता है। CST प्रत्येक प्रदर्शन प्रक्षेपवक्र को कौशल में विभाजित करने और परिणामों को एक कौशल वृक्ष में एकीकृत करने के लिए एक वृद्धिशील MAP (अधिकतम एक पश्चवर्ती) परिवर्तन बिंदु पहचान एल्गोरिथ्म का उपयोग करता है। CST को 2010 में [[जॉर्ज कोनिडारिस]], [[स्कॉट कुइंडर्स्मा]], [[एंड्रयू बार्टो]] और [[रोड्रिट्ज़ समूह]] द्वारा प्रस्तुत किया गया था।<ref>{{cite web|first=Nivash|last=Jeevanandam|date=2021-09-13
कंस्ट्रक्टिंग स्किल ट्री (सीएसटी) एक पदानुक्रमित [[सुदृढीकरण सीखना|सुदृढीकरण अधिगम]] कलन विधि है, जो प्रदर्शन से प्राप्त नमूना समाधान प्रक्षेपवक्र के एक समूह से स्किल ट्री का निर्माण कर सकती है। सीएसटी प्रत्येक प्रदर्शन प्रक्षेपवक्र को स्किल में विभाजित करने और परिणामों को एक स्किल ट्री में एकीकृत करने के लिए एक वृद्धिशील एमएपी (अधिकतम एक पश्चवर्ती) परिवर्तन बिंदु पहचान कलन विधि का उपयोग करता है। सीएसटी को 2010 में [[जॉर्ज कोनिडारिस]], [[स्कॉट कुइंडर्स्मा]], [[एंड्रयू बार्टो]] और [[रोड्रिट्ज़ समूह]] द्वारा प्रस्तुत किया गया था।<ref>{{cite web|first=Nivash|last=Jeevanandam|date=2021-09-13
|title=Underrated But Fascinating ML Concepts #5 – CST, PBWM, SARSA, & Sammon Mapping
|title=Underrated But Fascinating ML Concepts #5 – CST, PBWM, SARSA, & Sammon Mapping
|url=https://analyticsindiamag.com/underrated-but-fascinating-ml-concepts-5-cst-pbwm-sarsa-sammon-mapping/
|url=https://analyticsindiamag.com/underrated-but-fascinating-ml-concepts-5-cst-pbwm-sarsa-sammon-mapping/
Line 7: Line 7:




== एल्गोरिथम ==
== कलन विधि ==
CST में मुख्य रूप से तीन भाग होते हैं; परिवर्तन बिंदु पहचान, संरेखण और विलय। सीएसटी का मुख्य फोकस ऑनलाइन चेंज-प्वाइंट डिटेक्शन है। चेंज-पॉइंट डिटेक्शन एल्गोरिदम का उपयोग डेटा को कौशल में विभाजित करने के लिए किया जाता है और रियायती इनाम के योग का उपयोग करता है <math>R_t</math> लक्ष्य प्रतिगमन चर के रूप में। प्रत्येक कौशल को एक उपयुक्त सार सौंपा गया है। सीएसटी की कम्प्यूटेशनल जटिलता को नियंत्रित करने के लिए एक [[कण फिल्टर]] का उपयोग किया जाता है।
सीएसटी में मुख्य रूप से तीन भाग होते हैं, परिवर्तन बिंदु पहचान, संरेखण और विलय सीएसटी का मुख्य केंद्र ऑनलाइन परिवर्तन बिंदु का पता है। परिवर्तन बिंदु का पता कलन विधि का उपयोग डेटा को स्किल में विभाजित करने के लिए किया जाता है, और रियायती इनाम के योग का उपयोग करता है, <math>R_t</math> लक्ष्य प्रतिगमन चर के रूप में प्रत्येक स्किल को एक उपयुक्त सार सौंपा गया है। सीएसटी की कम्प्यूटेशनल जटिलता को नियंत्रित करने के लिए एक [[कण फिल्टर]] का उपयोग किया जाता है।


परिवर्तन बिंदु पहचान एल्गोरिदम निम्नानुसार कार्यान्वित किया गया है। समय के लिए डेटा <math> t\in T </math> और मॉडल {{mvar|Q}} पूर्व के साथ <math>p(q\in Q)</math> दिया जाता है। एल्गोरिदम को समय से एक खंड में फिट करने में सक्षम माना जाता है <math>j+1</math> को {{mvar|t}} मॉडल का उपयोग करना {{mvar|q}} फिट होने की संभावना के साथ <math> P(j,t,q)^{}_{}</math>. गाऊसी शोर के साथ एक रेखीय प्रतिगमन मॉडल की गणना करने के लिए प्रयोग किया जाता है <math> P(j,t,q)</math>. गॉसियन शोर का मतलब शून्य होता है, और विचरण जो पश्चात में होता है <math>\mathrm{InverseGamma}\left(\frac{v}{2},  \frac{u}{2}\right)</math>. प्रत्येक वजन के लिए पूर्व इस प्रकार है <math> \mathrm{Normal}(0, \sigma^{2} \delta)  </math>.
परिवर्तन बिंदु पहचान कलन विधि निम्नानुसार कार्यान्वित किया गया है। समय के लिए डेटा <math> t\in T </math> और मॉडल {{mvar|Q}} पूर्व के साथ <math>p(q\in Q)</math> दिया जाता है। कलन विधि को समय से एक खंड में योग्य करने में सक्षम माना जाता है <math>j+1</math> को {{mvar|t}} मॉडल का उपयोग करना {{mvar|q}} योग्य होने की संभावना के साथ <math> P(j,t,q)^{}_{}</math> गाऊसी नॉइज़ के साथ एक रेखीय प्रतिगमन मॉडल की गणना करने के लिए प्रयोग किया जाता है <math> P(j,t,q)</math>, गॉसियन नॉइज़ का मतलब शून्य होता है, और विचरण जो पश्चात में होता है।<math>\mathrm{InverseGamma}\left(\frac{v}{2},  \frac{u}{2}\right)</math>, प्रत्येक वजन के लिए पूर्व इस प्रकार <math> \mathrm{Normal}(0, \sigma^{2} \delta)  </math> है।


फिट होने की संभावना <math> P(j,t,q)</math> निम्नलिखित समीकरण द्वारा गणना की जाती है।
योग्य होने की संभावना <math> P(j,t,q)</math> निम्नलिखित समीकरण द्वारा गणना की जाती है।


: <math>
: <math>
P(j,t,q)=\frac{\pi^{-\frac{n}{2}}}{\delta^m}\left|(A+D)^{-1}\right|^{\frac{1}{2}}\frac{u^{\frac{v}{2}}}{(y+u)^{\frac{u+v}{2}}}\frac{\Gamma(\frac{n+v}{2})}{\Gamma({\frac{v}{2}})}  
P(j,t,q)=\frac{\pi^{-\frac{n}{2}}}{\delta^m}\left|(A+D)^{-1}\right|^{\frac{1}{2}}\frac{u^{\frac{v}{2}}}{(y+u)^{\frac{u+v}{2}}}\frac{\Gamma(\frac{n+v}{2})}{\Gamma({\frac{v}{2}})}  
</math>
</math>
फिर, CST समय पर परिवर्तन बिंदु की प्रायिकता की गणना करता है {{mvar|j}} मॉडल के साथ {{mvar|q}}, <math> P_t(j,q) </math> और <math> P^\text{MAP}_j </math> [[ विटरबी एल्गोरिथ्म |विटरबी एल्गोरिथ्म]] का उपयोग करना।
फिर, सीएसटी समय पर परिवर्तन बिंदु की प्रायिकता की गणना करता है {{mvar|j}} मॉडल के साथ {{mvar|q}}, <math> P_t(j,q) </math> और <math> P^\text{MAP}_j </math> [[ विटरबी एल्गोरिथ्म |विटरबी कलन विधि]] का उपयोग करता है।


: : : : : : : : : : : : : : : : : : : : : : : : : <math>
: <math>
P_t(j,q)=(1-G(t-j-1))P(j,t,q)p(q)P^\text{MAP}_j
P_t(j,q)=(1-G(t-j-1))P(j,t,q)p(q)P^\text{MAP}_j
</math>
</math>
Line 31: Line 31:
</math>
</math>
:: <math>  
:: <math>  
\Phi(x_i) </math>: एम आधार कार्यों का एक वेक्टर राज्य में मूल्यांकन किया गया <math>x_i</math>
\Phi(x_i) </math>: एम आधार कार्यों का एक वेक्टर राज्य में मूल्यांकन <math>x_i</math> किया गया है।
:: <math>
:: <math>
y=(\sum^t_{i=j}R^2_{i})-b^T(A+D)^{-1}b
y=(\sum^t_{i=j}R^2_{i})-b^T(A+D)^{-1}b
Line 41: Line 41:
R_i=\sum^T_{j=i}\gamma^{j-i}r_{j}
R_i=\sum^T_{j=i}\gamma^{j-i}r_{j}
</math>
</math>
:: {{gamma}}: गामा समारोह
:: {{gamma}}: गामा फंक्शन
:: <math> n=t-j </math>
:: <math> n=t-j </math>
:: {{mvar|m}}: क्यू के आधार कार्यों की संख्या।
:: {{mvar|m}}: Q के आधार कार्यों की संख्या है।
:: {{mvar|D}}: एम बाय एम मैट्रिक्स के साथ <math> \delta^{-1} </math> विकर्ण पर और शून्य कहीं और
::{{mvar|D}}: विकर्ण पर <math> \delta^{-1} </math> के साथ एक एम बाय एम मैट्रिक्स और कहीं और शून्य


कौशल की लंबाई {{mvar|l}} को पैरामीटर के साथ एक ज्यामितीय वितरण का पालन करने के लिए माना जाता है {{mvar|p}}
स्किल की लंबाई {{mvar|l}} को पैरामीटर के साथ एक ज्यामितीय वितरण का पालन करने के लिए माना जाता {{mvar|p}} है।


: <math>
: <math>
Line 57: Line 57:
p^{}_{}=\frac{1}{k}
p^{}_{}=\frac{1}{k}
</math>
</math>
: {{mvar|k}}: अपेक्षित कौशल लंबाई
: {{mvar|k}}: अपेक्षित स्किल लंबाई


उपरोक्त विधि का उपयोग करके, CST डेटा को कौशल श्रृंखला में विभाजित कर सकता है। परिवर्तन बिंदु का पता लगाने की समय जटिलता है <math>O(NL)</math> और स्टोरेज साइज है <math>O(Nc)</math>, कहाँ {{mvar|N}} कणों की संख्या है, {{mvar|L}} कंप्यूटिंग का समय है <math>P(j,t,q)</math>, और वहाँ है <math>O(c)</math> अंक बदलें।
उपरोक्त विधि का उपयोग करके, सीएसटी डेटा को स्किल श्रृंखला में विभाजित कर सकता है। परिवर्तन बिंदु का पता की समय जटिलता <math>O(NL)</math> है और स्टोरेज साइज <math>O(Nc)</math> है, जहां {{mvar|N}} कणों की संख्या है, {{mvar|L}} कंप्यूटिंग का समय है <math>P(j,t,q)</math>, और <math>O(c)</math> परिवर्तन बिंदु हैं।


अगला चरण संरेखण है। सीएसटी को घटक कौशल को संरेखित करने की आवश्यकता है क्योंकि परिवर्तन-बिंदु ठीक उसी स्थान पर नहीं होता है। इस प्रकार, जब पहले प्रक्षेपवक्र को खंडित करने के पश्चात दूसरे प्रक्षेपवक्र को खंडित किया जाता है, तो दूसरे प्रक्षेपवक्र में परिवर्तन बिंदु के स्थान पर इसका पूर्वाग्रह होता है। यह पूर्वाग्रह गाऊसी के मिश्रण का अनुसरण करता है।
अगला चरण संरेखण है। सीएसटी को घटक स्किल को संरेखित करने की आवश्यकता है क्योंकि परिवर्तन-बिंदु ठीक उसी स्थान पर नहीं होता है। इस प्रकार, जब पहले प्रक्षेपवक्र को खंडित करने के पश्चात दूसरे प्रक्षेपवक्र को खंडित किया जाता है, तो दूसरे प्रक्षेपवक्र में परिवर्तन बिंदु के स्थान पर इसका पूर्वाग्रह होता है। यह पूर्वाग्रह गाऊसी के मिश्रण का अनुसरण करता है।


अंतिम चरण विलय कर रहा है। सीएसटी स्किल चेन को स्किल ट्री में मर्ज करता है। सीएसटी एक ही कौशल आवंटित करके प्रक्षेपवक्र खंडों की एक जोड़ी को मिला देता है। सभी प्रक्षेपवक्रों का एक ही लक्ष्य होता है और यह अपने अंतिम खंडों से प्रारंभ करके दो श्रृंखलाओं को मिला देता है। यदि दो खंड सांख्यिकीय रूप से समान हैं, तो यह उन्हें विलीन कर देता है। यह प्रक्रिया तब तक दोहराई जाती है जब तक कि यह कौशल खंडों की एक जोड़ी को मर्ज करने में विफल नहीं हो जाती। <math> P(j,t,q) </math> यह निर्धारित करने के लिए उपयोग किया जाता है कि क्या प्रक्षेपवक्र की एक जोड़ी को एक कौशल या दो भिन्न-भिन्न कौशल के रूप में उत्तम विधि से तैयार किया गया है।
अंतिम चरण विलय कर रहा है। सीएसटी स्किल चेन को स्किल ट्री में मर्ज करता है। सीएसटी एक ही स्किल आवंटित करके प्रक्षेपवक्र खंडों की एक जोड़ी को मिला देता है। सभी प्रक्षेपवक्रों का एक ही लक्ष्य होता है और यह अपने अंतिम खंडों से प्रारंभ करके दो श्रृंखलाओं को मिला देता है। यदि दो खंड सांख्यिकीय रूप से समान हैं, तो यह उन्हें विलीन कर देता है। यह प्रक्रिया तब तक दोहराई जाती है जब तक कि यह स्किल खंडों की एक जोड़ी को मर्ज करने में विफल नहीं हो जाती। <math> P(j,t,q) </math> यह निर्धारित करने के लिए उपयोग किया जाता है कि क्या प्रक्षेपवक्र की एक जोड़ी को एक स्किल या दो भिन्न-भिन्न स्किल के रूप में उत्तम विधि से तैयार किया गया है।


== [[स्यूडोकोड]] ==
== [[स्यूडोकोड]] ==
निम्नलिखित स्यूडोकोड परिवर्तन बिंदु पहचान एल्गोरिथ्म का वर्णन करता है:
निम्नलिखित स्यूडोकोड परिवर्तन बिंदु पहचान कलन विधि का वर्णन करता है:


  कण := [];
  कण:= [];
  प्रत्येक आने वाले डेटा बिंदु को संसाधित करें
  प्रत्येक आने वाले डेटा बिंदु को संसाधित करें
  टी = 1 के लिए: टी करते हैं
  टी = 1 के लिए: टी करते हैं
     // सभी कणों के लिए फिट संभावनाओं की गणना करें
     // सभी कणों के लिए योग्य संभावनाओं की गणना करें
     p ∈ कणों के लिए
     p ∈ कणों के लिए
         p_tjq := (1 − G(t − p.pos − 1)) × p.fit_prob × model_prior(p.model) × p.prev_MAP
         p_tjqp:= (1 − G(t − p.pos − 1)) × p.fit_prob × model_prior(p.model) × p.prev_एमएपी
         p.MAP := p_tjq × g(t−p.pos) / (1 − G(t − p.pos − 1))
         p.एमएपी := p_tjq × g(t−p.pos) / (1 − G(t − p.pos − 1))
     अंत
     अंत
     '' // यदि आवश्यक हो तो फ़िल्टर करें ''
     '' // यदि आवश्यक हो तो फ़िल्टर करें ''
Line 83: Line 83:
     टी = 1 के लिए करो
     टी = 1 के लिए करो
         मैक्स_पथ: = []
         मैक्स_पथ: = []
         max_MAP := 1/|Q|
         max_एमएपीM:= 1/|Q|
     अन्य
     अन्य
         मैक्स_पार्टिकल: = {{underset|p|max}} पी.एमएपी
         मैक्स_पार्टिकल: = {{underset|p|max}} पी.एमएपी
         max_path := max_particle.path ∪ max_particle
         max_pathh:= max_particle.path ∪ max_particle
         max_MAP: = max_particle.MAP
         max_एमएपी: = max_particle.एमएपी
     अंत
     अंत
     ''// समय टी पर एक परिवर्तन बिंदु के लिए नए कण बनाएं''
     ''// समय टी पर एक परिवर्तन बिंदु के लिए नए कण बनाएं''
     क्यू ∈ क्यू के लिए करते हैं
     क्यू ∈ क्यू के लिए करते हैं
         new_p := create_particle(मॉडल=क्यू, स्थिति=टी, पिछला_एमएपी=मैक्स_एमएपी, पथ=मैक्स_पथ)
         new_p_:= create_particle(मॉडल=क्यू, स्थिति=टी, पिछला_एमएपी=मैक्स_एमएपी, पथ=मैक्स_पथ)
         पी := पी ∪ new_p
         पी�:= पी ∪ new_p
     अंत
     अंत
     ''// सभी कणों को अपडेट करें''
     ''// सभी कणों को अपडेट करें''
     p ∈ P के लिए
     p ∈ P के लिए
         कण := update_particle(current_state, current_reward, p)
         कण�:= update_particle(current_state, current_reward, p)
     अंत
     अंत
  अंत
  अंत
Line 123: Line 123:
     p.sum rr:= योग p.r + r{{su|b=t|p=2}} p.tr1 + 2{{gamma}}आर{{sub|t}} p.tr2
     p.sum rr:= योग p.r + r{{su|b=t|p=2}} p.tr1 + 2{{gamma}}आर{{sub|t}} p.tr2
     p.tr2:= {{gamma}}p.tr2 + आर{{sub|t}} p.tr1
     p.tr2:= {{gamma}}p.tr2 + आर{{sub|t}} p.tr1
     p.fit_probb:= कंप्यूट_फिट_प्रोब (पी, वी, यू, डेल्टा, {{gamma}})
     p.fit_probb:= कंप्यूट_योग्य_प्रोब (पी, वी, यू, डेल्टा, {{gamma}})


== अनुमान ==
== अनुमान ==
सीटीएस मानता है कि प्रदर्शित कौशल एक पेड़ का निर्माण करते हैं, डोमेन इनाम समारोह ज्ञात है और कौशल की एक जोड़ी को विलय करने के लिए सबसे अच्छा मॉडल व्यक्तिगत रूप से दोनों का प्रतिनिधित्व करने के लिए चुना गया मॉडल है।
सीटीएस मानता है कि प्रदर्शित स्किल एक पेड़ का निर्माण करते हैं, डोमेन इनाम फंक्शन ज्ञात है और स्किल की एक जोड़ी को विलय करने के लिए सबसे अच्छा मॉडल व्यक्तिगत रूप से दोनों का प्रतिनिधित्व करने के लिए चुना गया मॉडल है।


== लाभ ==
== लाभ ==
[[कौशल श्रृंखलन]] की तुलना में सीएसटी बहुत तेजी से सीखने वाला एल्गोरिदम है। उच्च आयामी नीतियों को सीखने के लिए सीएसटी लागू किया जा सकता है।
[[कौशल श्रृंखलन|स्किल श्रृंखलन]] की तुलना में सीएसटी बहुत तेजी से सीखने वाला कलन विधि है। उच्च आयामी नीतियों को सीखने के लिए सीएसटी लागू किया जा सकता है।
असफल प्रकरण भी कौशल में सुधार कर सकता है। एजेंट-केंद्रित सुविधाओं का उपयोग करके संगृहीत कौशल का उपयोग अन्य समस्याओं के लिए किया जा सकता है।
 
असफल प्रकरण भी स्किल में सुधार कर सकता है। एजेंट केंद्रित सुविधाओं का उपयोग करके संगृहीत स्किल का उपयोग अन्य समस्याओं के लिए किया जा सकता है।


== उपयोग करता है ==
== उपयोग करता है ==
CST का उपयोग [[PinBall]] डोमेन में मानव प्रदर्शन से कौशल प्राप्त करने के लिए किया गया है। इसका उपयोग मोबाइल मैनिपुलेटर पर मानव प्रदर्शन से कौशल प्राप्त करने के लिए भी किया गया है।
सीएसटी का उपयोग [[PinBall|पिनबॉल]] डोमेन में मानव प्रदर्शन से स्किल प्राप्त करने के लिए किया गया है। इसका उपयोग मोबाइल मैनिपुलेटर पर मानव प्रदर्शन से स्किल प्राप्त करने के लिए भी किया गया है।


== यह भी देखें ==
== यह भी देखें ==
Line 150: Line 151:
*{{Cite conference| last = Fearnhead |first = Paul  | author-link = Paul Fearnhead |author2=Zhen Liu| title= On-line Inference for Multiple Change Points  | book-title  = Journal of the Royal Statistical Society
*{{Cite conference| last = Fearnhead |first = Paul  | author-link = Paul Fearnhead |author2=Zhen Liu| title= On-line Inference for Multiple Change Points  | book-title  = Journal of the Royal Statistical Society
   | year= 2007}}
   | year= 2007}}
[[Category: मशीन लर्निंग एल्गोरिदम]]


[[Category: Machine Translated Page]]
[[Category:CS1 English-language sources (en)]]
[[Category:Created On 24/05/2023]]
[[Category:Created On 24/05/2023]]
[[Category:Machine Translated Page]]
[[Category:Pages with script errors]]
[[Category:Templates Vigyan Ready]]
[[Category:मशीन लर्निंग एल्गोरिदम]]

Latest revision as of 12:40, 14 September 2023

कंस्ट्रक्टिंग स्किल ट्री (सीएसटी) एक पदानुक्रमित सुदृढीकरण अधिगम कलन विधि है, जो प्रदर्शन से प्राप्त नमूना समाधान प्रक्षेपवक्र के एक समूह से स्किल ट्री का निर्माण कर सकती है। सीएसटी प्रत्येक प्रदर्शन प्रक्षेपवक्र को स्किल में विभाजित करने और परिणामों को एक स्किल ट्री में एकीकृत करने के लिए एक वृद्धिशील एमएपी (अधिकतम एक पश्चवर्ती) परिवर्तन बिंदु पहचान कलन विधि का उपयोग करता है। सीएसटी को 2010 में जॉर्ज कोनिडारिस, स्कॉट कुइंडर्स्मा, एंड्रयू बार्टो और रोड्रिट्ज़ समूह द्वारा प्रस्तुत किया गया था।[1]


कलन विधि

सीएसटी में मुख्य रूप से तीन भाग होते हैं, परिवर्तन बिंदु पहचान, संरेखण और विलय सीएसटी का मुख्य केंद्र ऑनलाइन परिवर्तन बिंदु का पता है। परिवर्तन बिंदु का पता कलन विधि का उपयोग डेटा को स्किल में विभाजित करने के लिए किया जाता है, और रियायती इनाम के योग का उपयोग करता है, लक्ष्य प्रतिगमन चर के रूप में प्रत्येक स्किल को एक उपयुक्त सार सौंपा गया है। सीएसटी की कम्प्यूटेशनल जटिलता को नियंत्रित करने के लिए एक कण फिल्टर का उपयोग किया जाता है।

परिवर्तन बिंदु पहचान कलन विधि निम्नानुसार कार्यान्वित किया गया है। समय के लिए डेटा और मॉडल Q पूर्व के साथ दिया जाता है। कलन विधि को समय से एक खंड में योग्य करने में सक्षम माना जाता है को t मॉडल का उपयोग करना q योग्य होने की संभावना के साथ गाऊसी नॉइज़ के साथ एक रेखीय प्रतिगमन मॉडल की गणना करने के लिए प्रयोग किया जाता है , गॉसियन नॉइज़ का मतलब शून्य होता है, और विचरण जो पश्चात में होता है।, प्रत्येक वजन के लिए पूर्व इस प्रकार है।

योग्य होने की संभावना निम्नलिखित समीकरण द्वारा गणना की जाती है।

फिर, सीएसटी समय पर परिवर्तन बिंदु की प्रायिकता की गणना करता है j मॉडल के साथ q, और विटरबी कलन विधि का उपयोग करता है।

मापदंडों और चर का विवरण इस प्रकार है;

: एम आधार कार्यों का एक वेक्टर राज्य में मूल्यांकन किया गया है।
𝛾: गामा फंक्शन
m: Q के आधार कार्यों की संख्या है।
D: विकर्ण पर के साथ एक एम बाय एम मैट्रिक्स और कहीं और शून्य

स्किल की लंबाई l को पैरामीटर के साथ एक ज्यामितीय वितरण का पालन करने के लिए माना जाता p है।

k: अपेक्षित स्किल लंबाई

उपरोक्त विधि का उपयोग करके, सीएसटी डेटा को स्किल श्रृंखला में विभाजित कर सकता है। परिवर्तन बिंदु का पता की समय जटिलता है और स्टोरेज साइज है, जहां N कणों की संख्या है, L कंप्यूटिंग का समय है , और परिवर्तन बिंदु हैं।

अगला चरण संरेखण है। सीएसटी को घटक स्किल को संरेखित करने की आवश्यकता है क्योंकि परिवर्तन-बिंदु ठीक उसी स्थान पर नहीं होता है। इस प्रकार, जब पहले प्रक्षेपवक्र को खंडित करने के पश्चात दूसरे प्रक्षेपवक्र को खंडित किया जाता है, तो दूसरे प्रक्षेपवक्र में परिवर्तन बिंदु के स्थान पर इसका पूर्वाग्रह होता है। यह पूर्वाग्रह गाऊसी के मिश्रण का अनुसरण करता है।

अंतिम चरण विलय कर रहा है। सीएसटी स्किल चेन को स्किल ट्री में मर्ज करता है। सीएसटी एक ही स्किल आवंटित करके प्रक्षेपवक्र खंडों की एक जोड़ी को मिला देता है। सभी प्रक्षेपवक्रों का एक ही लक्ष्य होता है और यह अपने अंतिम खंडों से प्रारंभ करके दो श्रृंखलाओं को मिला देता है। यदि दो खंड सांख्यिकीय रूप से समान हैं, तो यह उन्हें विलीन कर देता है। यह प्रक्रिया तब तक दोहराई जाती है जब तक कि यह स्किल खंडों की एक जोड़ी को मर्ज करने में विफल नहीं हो जाती। यह निर्धारित करने के लिए उपयोग किया जाता है कि क्या प्रक्षेपवक्र की एक जोड़ी को एक स्किल या दो भिन्न-भिन्न स्किल के रूप में उत्तम विधि से तैयार किया गया है।

स्यूडोकोड

निम्नलिखित स्यूडोकोड परिवर्तन बिंदु पहचान कलन विधि का वर्णन करता है:

कण:= [];
प्रत्येक आने वाले डेटा बिंदु को संसाधित करें
टी = 1 के लिए: टी करते हैं
    // सभी कणों के लिए योग्य संभावनाओं की गणना करें
    p ∈ कणों के लिए
        p_tjqp:= (1 − G(t − p.pos − 1)) × p.fit_prob × model_prior(p.model) × p.prev_एमएपी
        p.एमएपी := p_tjq × g(t−p.pos) / (1 − G(t − p.pos − 1))
    अंत
     // यदि आवश्यक हो तो फ़िल्टर करें 
    यदि कणों की संख्या ≥ N तो
        कण: = कण_फ़िल्टर (पी.एमएपी, एम)
    अंत
    // विटरबी पथ निर्धारित करें
    टी = 1 के लिए करो
        मैक्स_पथ: = []
        max_एमएपीM:= 1/|Q|
    अन्य
        मैक्स_पार्टिकल: = maxp पी.एमएपी
        max_pathh:= max_particle.path ∪ max_particle
        max_एमएपी: = max_particle.एमएपी
    अंत
    // समय टी पर एक परिवर्तन बिंदु के लिए नए कण बनाएं
    क्यू ∈ क्यू के लिए करते हैं
        new_p_:= create_particle(मॉडल=क्यू, स्थिति=टी, पिछला_एमएपी=मैक्स_एमएपी, पथ=मैक्स_पथ)
        पी�:= पी ∪ new_p
    अंत
    // सभी कणों को अपडेट करें
    p ∈ P के लिए
        कण�:= update_particle(current_state, current_reward, p)
    अंत
अंत
// अंतिम बिंदु पर सबसे संभावित पथ लौटाएं
वापसी max_path
फ़ंक्शन अपडेट_पार्टिकल (current_state, current_reward, कण) है
    पः=कण
    r_t_:= current_reward
    // इनिशियलाइज़ेशन
    यदि टी = 0 तो
        p.A.:= शून्य मैट्रिक्स (अपराह्न, अपराह्न)
        p.bp:= शून्य सदिश(p.m)
        p.z := शून्य सदिश (अपराह्न)
        p.sum rs:= 0
        p.tr1:= 0
        p.tr2 := 0
    यदि अंत
    // वर्तमान स्थिति के लिए आधार फ़ंक्शन वेक्टर की गणना करें
    Φt := p.Φ(currentstate)
    // पर्याप्त आंकड़े अपडेट करें
    p.A.:= p.A + Φ{{sub|t}पीएचआईT
t
p.z:= 𝛾p.z + एफt p.bb:= p.b + rt p.z p.tr11:= 1 + 𝛾2 p.tr1 p.sum rr:= योग p.r + r2
t
p.tr1 + 2𝛾आरt p.tr2 p.tr2:= 𝛾p.tr2 + आरt p.tr1 p.fit_probb:= कंप्यूट_योग्य_प्रोब (पी, वी, यू, डेल्टा, 𝛾)

अनुमान

सीटीएस मानता है कि प्रदर्शित स्किल एक पेड़ का निर्माण करते हैं, डोमेन इनाम फंक्शन ज्ञात है और स्किल की एक जोड़ी को विलय करने के लिए सबसे अच्छा मॉडल व्यक्तिगत रूप से दोनों का प्रतिनिधित्व करने के लिए चुना गया मॉडल है।

लाभ

स्किल श्रृंखलन की तुलना में सीएसटी बहुत तेजी से सीखने वाला कलन विधि है। उच्च आयामी नीतियों को सीखने के लिए सीएसटी लागू किया जा सकता है।

असफल प्रकरण भी स्किल में सुधार कर सकता है। एजेंट केंद्रित सुविधाओं का उपयोग करके संगृहीत स्किल का उपयोग अन्य समस्याओं के लिए किया जा सकता है।

उपयोग करता है

सीएसटी का उपयोग पिनबॉल डोमेन में मानव प्रदर्शन से स्किल प्राप्त करने के लिए किया गया है। इसका उपयोग मोबाइल मैनिपुलेटर पर मानव प्रदर्शन से स्किल प्राप्त करने के लिए भी किया गया है।

यह भी देखें

संदर्भ

  1. Jeevanandam, Nivash (2021-09-13). "Underrated But Fascinating ML Concepts #5 – CST, PBWM, SARSA, & Sammon Mapping". Analytics India Magazine (in English). Retrieved 2021-12-05.
  • Konidaris, George; Scott Kuindersma; Andrew Barto; Roderic Grupen (2010). "Constructing Skill Trees for Reinforcement Learning Agents from Demonstration Trajectories". Advances in Neural Information Processing Systems 23.
  • Konidaris, George; Andrew Barto (2009). "Skill discovery in continuous reinforcement learning domains using skill chaining". Advances in Neural Information Processing Systems 22.
  • Fearnhead, Paul; Zhen Liu (2007). "On-line Inference for Multiple Change Points". Journal of the Royal Statistical Society.