विवेचनात्मक तर्क प्रोग्रामिंग (इंडक्टिव लॉजिक प्रोग्रामिंग)
आगमनात्मक तर्क प्रोग्रामिंग (आईएलपी) प्रतीकात्मक कृत्रिम बुद्धि का उपक्षेत्र है जो उदाहरण, पृष्ठभूमि ज्ञान और परिकल्पनाओं के लिए समान प्रतिनिधित्व के रूप में तर्क प्रोग्रामिंग का उपयोग करता है। ज्ञात पृष्ठभूमि ज्ञान के एन्कोडिंग और तथ्यों के तार्किक डेटाबेस के रूप में प्रस्तुत उदाहरणों के सेट को देखते हुए, ILP प्रणाली परिकल्पित तर्क कार्यक्रम प्राप्त करेगी जो सभी सकारात्मक और नकारात्मक उदाहरणों में से कोई भी नहीं है।
- स्कीमा: सकारात्मक उदाहरण + नकारात्मक उदाहरण + पृष्ठभूमि ज्ञान ⇒ परिकल्पना
आगमनात्मक तर्क प्रोग्रामिंग जैव सूचना विज्ञान और प्राकृतिक भाषा प्रसंस्करण में विशेष रूप से उपयोगी है। गॉर्डन प्लॉटकिन और एहुद शापिरो ने तार्किक सेटिंग में आगमनात्मक मशीन सीखने के लिए प्रारंभिक सैद्धांतिक नींव रखी।[1][2][3] शापिरो ने 1981 में अपना पहला कार्यान्वयन (मॉडल अनुमान प्रणाली) बनाया:[4] प्रोलॉग प्रोग्राम जो सकारात्मक और नकारात्मक उदाहरणों से तर्क कार्यक्रमों का आगमनात्मक रूप से अनुमान लगाता है। 1986 में आगमनात्मक तर्क प्रोग्रामिंग का पहला पूर्ण प्रथम-क्रम कार्यान्वयन थिओरिस्ट था।[5][6][citation needed] इंडक्टिव लॉजिक प्रोग्रामिंग शब्द सबसे पहले पेश किया गया था[7] 1991 में स्टीफन मुगलटन द्वारा पेपर में।[8] मैगलटन ने इंडक्टिव लॉजिक प्रोग्रामिंग पर वार्षिक अंतर्राष्ट्रीय सम्मेलन की भी स्थापना की, विधेय आविष्कार, व्युत्क्रम संकल्प के सैद्धांतिक विचारों को पेश किया,[9] और उलटा जुड़ाव।[10] मैगलटन ने सबसे पहले PROGOL प्रणाली में उलटा प्रवेश लागू किया। आगमनात्मक शब्द यहाँ गणितीय प्रेरण (अर्थात सुव्यवस्थित सेट के सभी सदस्यों के लिए संपत्ति साबित करना) के बजाय आगमनात्मक तर्क (अर्थात् देखे गए तथ्यों को समझाने के लिए सिद्धांत का सुझाव देना) को संदर्भित करता है।
औपचारिक परिभाषा
पृष्ठभूमि ज्ञान तर्क सिद्धांत के रूप में दिया जाता है B, आमतौर पर लॉजिक प्रोग्रामिंग में उपयोग किए जाने वाले हॉर्न क्लॉज के रूप में। सकारात्मक और नकारात्मक उदाहरण संयोजन के रूप में दिए गए हैं और अप्रतिबंधित और नकारात्मक जमीनी अभिव्यक्ति की क्रमशः शाब्दिक (गणितीय तर्क)। एक सही परिकल्पना h तार्किक प्रस्ताव है जो निम्नलिखित आवश्यकताओं को पूरा करता है।[11]
- एंटेलमेंट#सिमेंटिक परिणाम|
आवश्यकता किसी पर प्रतिबंध नहीं लगाती h, लेकिन परिकल्पना के किसी भी निर्माण को तब तक प्रतिबंधित करता है जब तक कि इसके बिना सकारात्मक तथ्यों की व्याख्या की जा सकती है।
पर्याप्तता के लिए किसी उत्पन्न परिकल्पना की आवश्यकता होती है h सभी सकारात्मक उदाहरणों की व्याख्या करने के लिए . कमजोर स्थिरता किसी भी परिकल्पना के निर्माण को मना करती है h जो पृष्ठभूमि ज्ञान के विपरीत है B. मजबूत स्थिरता भी किसी भी परिकल्पना के निर्माण को मना करती है h जो नकारात्मक उदाहरणों के साथ असंगत है , पृष्ठभूमि ज्ञान दिया B; इसका अर्थ है कमजोर संगति; यदि कोई नकारात्मक उदाहरण नहीं दिया जाता है, तो दोनों आवश्यकताएँ मेल खाती हैं। जेरोस्की [12] केवल पर्याप्तता (वहां पूर्णता कहा जाता है) और मजबूत स्थिरता की आवश्यकता होती है।
उदाहरण
पारिवारिक संबंधों की परिभाषाएँ सीखने के बारे में निम्नलिखित सुप्रसिद्ध उदाहरण संक्षिप्त रूपों का उपयोग करता है
- par: parent, fem: female, dau: daughter, g: George, h: Helen, m: Mary, t: Tom, n: Nancy, और e: Eve.
यह पृष्ठभूमि ज्ञान से शुरू होता है (cf. चित्र)
- ,
सकारात्मक उदाहरण
- ,
और तुच्छ प्रस्ताव true नकारात्मक उदाहरणों की अनुपस्थिति को निरूपित करने के लिए।
प्लॉटकिन का [13][14] प्रारंभिक तर्क प्रोग्रामिंग के सापेक्ष कम से कम सामान्यीकरण (आरएलजीजी) दृष्टिकोण का उपयोग बेटी संबंध को औपचारिक रूप से परिभाषित करने के तरीके के बारे में सुझाव प्राप्त करने के लिए किया जाएगा। dau.
यह दृष्टिकोण निम्न चरणों का उपयोग करता है।
- पूर्ण पृष्ठभूमि ज्ञान के साथ शाब्दिक रूप से प्रत्येक सकारात्मक उदाहरण को सापेक्ष करें:
- ,
- खंड सामान्य रूप में परिवर्तित करें:
- ,
- एंटी-यूनिफिकेशन (कंप्यूटर साइंस) | एंटी-यूनिफाई प्रत्येक संगत [15] जोड़ा [16] शाब्दिक का:
- से और ,
- से और ,
- से और ,
- से और , अन्य सभी पृष्ठभूमि-ज्ञान शाब्दिकों के समान
- से और , और कई अन्य नकारात्मक अक्षर
- सकारात्मक शाब्दिक में नहीं होने वाले चर वाले सभी अस्वीकृत शाब्दिक हटाएं:
- की तुलना में अन्य चर वाले सभी अस्वीकृत शाब्दिकों को हटाने के बाद , केवल पृष्ठभूमि ज्ञान से सभी जमीनी शाब्दिकों के साथ रहता है
- क्लॉज को वापस हॉर्न फॉर्म में बदलें:
परिणामी हॉर्न खंड परिकल्पना है h आरएलजीजी दृष्टिकोण द्वारा प्राप्त किया गया। पृष्ठभूमि ज्ञान तथ्यों की उपेक्षा करते हुए, खंड अनौपचारिक रूप से पढ़ता है की पुत्री कहलाती है अगर का जनक है और महिला है, जो सामान्य रूप से स्वीकृत परिभाषा है।
- औपचारिक परिभाषा आवश्यकताओं के संबंध में, आवश्यकता विधेय के कारण संतुष्ट थी dau पृष्ठभूमि ज्ञान में प्रकट नहीं होता है, इसलिए इस विधेय वाली किसी भी संपत्ति को लागू नहीं किया जा सकता है, जैसे कि सकारात्मक उदाहरण हैं।
परिकलित परिकल्पना से पर्याप्तता संतुष्ट होती है h, इसके बाद से, साथ में पृष्ठभूमि ज्ञान से, पहला सकारात्मक उदाहरण निकलता है , और इसी तरह h और पृष्ठभूमि ज्ञान से दूसरे सकारात्मक उदाहरण का तात्पर्य है . कमजोर संगति से संतुष्ट होता है h, तब से h पृष्ठभूमि ज्ञान द्वारा वर्णित (परिमित) हरब्रांड संरचना में है; मजबूत स्थिरता के लिए समान।
दादी के संबंध की सामान्य परिभाषा, अर्थात। , उपरोक्त दृष्टिकोण का उपयोग करके नहीं सीखा जा सकता है, क्योंकि चर y क्लॉज बॉडी में ही होता है; संबंधित शाब्दिक दृष्टिकोण के चौथे चरण में हटा दिए गए होंगे। इस दोष को दूर करने के लिए, उस कदम को इस तरह संशोधित करना होगा कि इसे अलग-अलग शाब्दिक पोस्ट-चयन हेरिस्टिक्स के साथ पैरामीट्रिज किया जा सके। ऐतिहासिक रूप से, गोलेम कार्यान्वयन आरएलजीजी दृष्टिकोण पर आधारित है।
इंडक्टिव लॉजिक प्रोग्रामिंग सिस्टम
इंडक्टिव लॉजिक प्रोग्रामिंग सिस्टम प्रोग्राम है जो इनपुट लॉजिक सिद्धांतों के रूप में लेता है और सही परिकल्पना का उत्पादन करता है H wrt सिद्धांत ILP प्रणाली के एल्गोरिथ्म में दो भाग होते हैं: परिकल्पना खोज और परिकल्पना चयन। पहले आगमनात्मक तर्क प्रोग्रामिंग प्रक्रिया के साथ परिकल्पना की खोज की जाती है, फिर मिली परिकल्पनाओं का सबसेट (अधिकांश प्रणालियों में परिकल्पना) चयन एल्गोरिथ्म द्वारा चुना जाता है। चयन एल्गोरिथम प्रत्येक पाई गई परिकल्पना को स्कोर करता है और उच्चतम स्कोर वाले को लौटाता है। स्कोर फ़ंक्शन के उदाहरण में न्यूनतम संपीड़न लंबाई शामिल है जहां सबसे कम कोलमोगोरोव जटिलता वाली परिकल्पना में उच्चतम स्कोर होता है और वापस आ जाता है। किसी भी इनपुट लॉजिक सिद्धांतों के लिए ILP सिस्टम पूर्ण है कोई सही परिकल्पना H इन इनपुट सिद्धांतों के संबंध में इसकी परिकल्पना खोज प्रक्रिया के साथ पाया जा सकता है।
परिकल्पना खोज
प्रोगोल जैसे आधुनिक ILP सिस्टम,[8]जयकार करना [17] और मैं सीखता हूँ [18] परिकल्पना खोजें H उलटा प्रवेश के सिद्धांत का उपयोग करना[8]सिद्धांतों के लिए B, E, H: . पहले वे मध्यवर्ती सिद्धांत का निर्माण करते हैं F शर्तों को संतुष्ट करने वाला ब्रिज थ्योरी कहलाता है और . फिर ऐसे , वे सेतु सिद्धांत के निषेध का सामान्यीकरण करते हैं F विरोधी प्रवेश के साथ।[19] हालांकि, अत्यधिक गैर-नियतात्मक होने के बाद से एंटी-एंटेलमेंट का संचालन कम्प्यूटेशनल रूप से अधिक महंगा है। इसलिए, वैकल्पिक परिकल्पना खोज को इसके बजाय व्युत्क्रम सबसम्प्शन (एंटी-सबजम्पशन) के संचालन का उपयोग करके आयोजित किया जा सकता है, जो एंटी-एंटेलमेंट की तुलना में कम गैर-नियतात्मक है।
विशिष्ट ILP प्रणाली की परिकल्पना खोज प्रक्रिया की पूर्णता के प्रश्न उठते हैं। उदाहरण के लिए, प्रोगोल की परिकल्पना खोज प्रक्रिया व्युत्क्रम प्रवेश अनुमान नियम पर आधारित यामामोटो के उदाहरण से पूरी नहीं हुई है।[20] दूसरी ओर, इम्पारो दोनों एंटी-एंटेलमेंट प्रक्रिया द्वारा पूर्ण है [21] और इसकी विस्तारित उलटा सबमिशन [22] प्रक्रिया।
कार्यान्वयन
- 1BC और 1BC2: प्रथम क्रम के भोले बायेसियन क्लासिफायर:
- ACE (एक संयुक्त इंजन)
- Aleph
- एटम Archived 2014-03-26 at the Wayback Machine
- क्लॉडियन[permanent dead link]
- डीएल-लर्नर
- डीमैक्स
- FastLAS (उत्तर सेट से तेजी से सीखना)
- फर्स्ट ऑर्डर इंडक्टिव लर्नर | एफओआईएल (फर्स्ट ऑर्डर इंडक्टिव लर्नर)
- गोलेम (ILP)
- ILASP (उत्तर सेट कार्यक्रमों की आगमनात्मक शिक्षा)
- इम्पारो[21]* Inthelex (उदाहरणों से इंक्रीमेंटल थ्योरी लर्नर) Archived 2011-11-28 at the Wayback Machine
- लाइम
- मेटागोल
- Mio
- एमआईएस (मॉडल अनुमान प्रणाली) एहुद शापिरो द्वारा
- प्रोगोल
- आरएसडी
- वार्मर (अब एसीई में शामिल)
- ProGolem [23][24]
यह भी देखें
- सामान्य ज्ञान तर्क
- औपचारिक अवधारणा विश्लेषण
- विवेचनात्मक तार्किकता
- आगमनात्मक प्रोग्रामिंग
- आगमनात्मक संभावना
- सांख्यिकीय संबंधपरक शिक्षा
- वर्जन स्पेस लर्निंग
संदर्भ
- ↑ Plotkin, G.D. (1970). आगमनात्मक अनुमान के स्वचालित तरीके (PDF) (PhD). University of Edinburgh. hdl:1842/6656.
- ↑ Shapiro, Ehud Y. (1981). तथ्यों से सिद्धांतों का आगमनात्मक निष्कर्ष (PDF) (Technical report). Department of Computer Science, Yale University. 192. Reprinted in Lassez, J.-L.; Plotkin, G., eds. (1991). Computational logic : essays in honor of Alan Robinson. MIT Press. pp. 199–254. ISBN 978-0-262-12156-9.
- ↑ Shapiro, Ehud Y. (1983). एल्गोरिथम प्रोग्राम डिबगिंग. MIT Press. ISBN 0-262-19218-7.
- ↑ Shapiro, Ehud Y. (1981). "The model inference system" (PDF). Proceedings of the 7th international joint conference on Artificial intelligence. Vol. 2. Morgan Kaufmann. p. 1064.
- ↑ Poole, David; Goebel, Randy; Aleliunas, Romas (Feb 1986). Theorist: A Logical Reasoning System for Defaults and Diagnosis (PDF) (Research Report). Univ. Waterloo.
- ↑ Poole, David; Goebel, Randy; Aleliunas, Romas (1987). "Theorist: A Logical Reasoning System for Defaults and Diagnosis". In Nick J. Cercone; Gordon McCalla (eds.). The Knowledge Frontier – Essays in the Representation of Knowledge. Symbolic Computation (1st ed.). New York, NY: Springer. pp. 331–352. doi:10.1007/978-1-4612-4792-0. ISBN 978-1-4612-9158-9. S2CID 38209923.
- ↑ De Raedt, Luc (2012) [1999]. "A Perspective on Inductive Logic Programming". The Logic Programming Paradigm: A 25-Year Perspective. Springer. pp. 335–346. CiteSeerX 10.1.1.56.1790. ISBN 978-3-642-60085-2.
- ↑ 8.0 8.1 8.2 Muggleton, S.H. (1991). "आगमनात्मक तर्क प्रोग्रामिंग". New Generation Computing. 8 (4): 295–318. CiteSeerX 10.1.1.329.5312. doi:10.1007/BF03037089. S2CID 5462416.
- ↑ Muggleton, S.H.; Buntine, W. (1988). "Machine invention of first-order predicate by inverting resolution". Proceedings of the 5th International Conference on Machine Learning. pp. 339–352. doi:10.1016/B978-0-934613-64-4.50040-2. ISBN 978-0-934613-64-4.
- ↑ Muggleton, S.H. (1995). "उलटा प्रवेश और प्रोगोल". New Generation Computing. 13 (3–4): 245–286. CiteSeerX 10.1.1.31.1630. doi:10.1007/bf03037227. S2CID 12643399.
- ↑ Muggleton, Stephen (1999). "Inductive Logic Programming: Issues, Results and the Challenge of Learning Language in Logic". Artificial Intelligence. 114 (1–2): 283–296. doi:10.1016/s0004-3702(99)00067-3.; here: Sect.2.1
- ↑ Džeroski, Sašo (1996). "Inductive Logic Programming and Knowledge Discovery in Databases" (PDF). In Fayyad, U.M.; Piatetsky-Shapiro, G.; Smith, P.; Uthurusamy, R. (eds.). नॉलेज डिस्कवरी और डेटा माइनिंग में उन्नति. MIT Press. pp. 117–152 See §5.2.4. Archived from the original (PDF) on 2021-09-27. Retrieved 2021-09-27.
- ↑ Plotkin, Gordon D. (1970). Meltzer, B.; Michie, D. (eds.). "आगमनात्मक सामान्यीकरण पर एक नोट". Machine Intelligence. 5: 153–163. ISBN 978-0-444-19688-0.
- ↑ Plotkin, Gordon D. (1971). Meltzer, B.; Michie, D. (eds.). "आगमनात्मक सामान्यीकरण पर एक और नोट". Machine Intelligence. Edinburgh University Press. 6: 101–124. ISBN 978-0-85224-195-0.
- ↑ i.e. sharing the same predicate symbol and negated/unnegated status
- ↑ in general: n-tuple when n positive example literals are given
- ↑ Ray, O.; Broda, K.; Russo, A.M. (2003). "Hybrid abductive inductive learning". Proceedings of the 13th international conference on inductive logic programming. LNCS. Vol. 2835. Springer. pp. 311–328. CiteSeerX 10.1.1.212.6602. doi:10.1007/978-3-540-39917-9_21. ISBN 978-3-540-39917-9.
- ↑ Kimber, T.; Broda, K.; Russo, A. (2009). "Induction on failure: learning connected Horn theories". लॉजिक प्रोग्रामिंग और नॉनमोनोटोनिक रीजनिंग पर 10वें अंतर्राष्ट्रीय सम्मेलन की कार्यवाही. LNCS. Vol. 575. Springer. pp. 169–181. doi:10.1007/978-3-642-04238-6_16. ISBN 978-3-642-04238-6.
- ↑ Yamamoto, Yoshitaka; Inoue, Katsumi; Iwanuma, Koji (2012). "पूर्ण व्याख्यात्मक प्रेरण के लिए व्युत्क्रम उपधारणा" (PDF). Machine Learning. 86: 115–139. doi:10.1007/s10994-011-5250-y. S2CID 11347607.
- ↑ Yamamoto, Akihiro (1997). "Which hypotheses can be found with inverse entailment?". आगमनात्मक तर्क प्रोग्रामिंग पर अंतर्राष्ट्रीय सम्मेलन. Lecture Notes in Computer Science. Vol. 1297. Springer. pp. 296–308. CiteSeerX 10.1.1.54.2975. doi:10.1007/3540635149_58. ISBN 978-3-540-69587-5.
- ↑ 21.0 21.1 Kimber, Timothy (2012). असफलता पर प्रेरण द्वारा निश्चित और सामान्य तर्क कार्यक्रम सीखना (PhD). Imperial College London. ethos 560694.
- ↑ Toth, David (2014). "इम्पारो व्युत्क्रम अवधारण द्वारा पूर्ण होता है". arXiv:1407.3836 [cs.AI].
- ↑ Muggleton, Stephen; Santos, Jose; Tamaddoni-Nezhad, Alireza (2009). "ProGolem: a system based on relative minimal generalization". आगमनात्मक तर्क प्रोग्रामिंग पर अंतर्राष्ट्रीय सम्मेलन. Springer. pp. 131–148. CiteSeerX 10.1.1.297.7992. doi:10.1007/978-3-642-13840-9_13. ISBN 978-3-642-13840-9.
- ↑ Santos, Jose; Nassif, Houssam; Page, David; Muggleton, Stephen; Sternberg, Mike (2012). "Automated identification of features of protein-ligand interactions using Inductive Logic Programming: a hexose binding case study". BMC Bioinformatics. 13: 162. doi:10.1186/1471-2105-13-162. PMC 3458898. PMID 22783946.
अग्रिम पठन
- Muggleton, S.; De Raedt, L. (1994). "Inductive Logic Programming: Theory and methods". The Journal of Logic Programming. 19–20: 629–679. doi:10.1016/0743-1066(94)90035-3.
- Lavrac, N.; Dzeroski, S. (1994). Inductive Logic Programming: Techniques and Applications. New York: Ellis Horwood. ISBN 978-0-13-457870-5. Archived from the original on 2004-09-06. Retrieved 2004-09-22.
- Visual example of inducing the grandparenthood relation by the Atom system. http://john-ahlgren.blogspot.com/2014/03/inductive-reasoning-visualized.html Archived 2014-03-26 at the Wayback Machine