तंत्रिका विकास
न्यूरोइवोल्यूशन, या न्यूरो-इवोल्यूशन, कृत्रिम बुद्धिमत्ता का एक रूप है जो कृत्रिम तंत्रिका नेटवर्क (एएनएन), पैरामीटर और नियम उत्पन्न करने के लिए विकासवादी एल्गोरिदम का उपयोग करता है।[1] इसका प्रयोग सबसे अधिक कृत्रिम जीवन, सामान्य खेल-कूद में किया जाता है[2] और विकासवादी रोबोटिक्स। मुख्य लाभ यह है कि न्यूरोइवोल्यूशन को पर्यवेक्षित शिक्षण की तुलना में अधिक व्यापक रूप से लागू किया जा सकता है, जिसके लिए सही इनपुट-आउटपुट जोड़े के पाठ्यक्रम की आवश्यकता होती है। इसके विपरीत, न्यूरोइवोल्यूशन को किसी कार्य में नेटवर्क के प्रदर्शन को मापने की आवश्यकता होती है। उदाहरण के लिए, किसी खेल के नतीजे (यानी, चाहे एक खिलाड़ी जीता या हारा) को वांछित रणनीतियों के लेबल वाले उदाहरण प्रदान किए बिना आसानी से मापा जा सकता है। न्यूरोइवोल्यूशन का उपयोग आमतौर पर सुदृढीकरण सीखने के प्रतिमान के हिस्से के रूप में किया जाता है, और इसकी तुलना पारंपरिक गहन शिक्षण तकनीकों से की जा सकती है जो एक निश्चित टोपोलॉजी के साथ तंत्रिका नेटवर्क पर ढतला हुआ वंश का उपयोग करते हैं।
सुविधाएँ
कई न्यूरोइवोल्यूशन एल्गोरिदम को परिभाषित किया गया है। एक सामान्य अंतर उन एल्गोरिदम के बीच है जो एक निश्चित नेटवर्क टोपोलॉजी (कभी-कभी पारंपरिक न्यूरोएवोल्यूशन कहा जाता है) के लिए केवल कनेक्शन वेट की ताकत विकसित करते हैं, और एल्गोरिदम जो नेटवर्क की टोपोलॉजी और उसके वेट (टोपोलॉजी और वेट इवॉल्विंग आर्टिफिशियल न्यूरल नेटवर्क एल्गोरिदम के लिए TWEANNs कहा जाता है) दोनों को विकसित करते हैं।
उन तरीकों के बीच एक अलग अंतर किया जा सकता है जो एएनएन की संरचना को उसके मापदंडों के समानांतर विकसित करते हैं (जो मानक विकासवादी एल्गोरिदम लागू करते हैं) और जो उन्हें अलग से विकसित करते हैं (मेमेटिक एल्गोरिदम के माध्यम से)।[3]
ग्रेडिएंट डिसेंट के साथ तुलना
अधिकांश तंत्रिका नेटवर्क न्यूरोइवोल्यूशन के बजाय ग्रेडिएंट डिसेंट का उपयोग करते हैं। हालाँकि, 2017 के आसपास उबेर के शोधकर्ताओं ने कहा कि उन्होंने पाया है कि सरल संरचनात्मक न्यूरोएवोल्यूशन एल्गोरिदम परिष्कृत आधुनिक उद्योग-मानक ग्रेडिएंट-डिसेंट ध्यान लगा के पढ़ना या सीखना एल्गोरिदम के साथ प्रतिस्पर्धी थे, आंशिक रूप से क्योंकि न्यूरोएवोल्यूशन के स्थानीय मिनीमा में फंसने की संभावना कम पाई गई थी। विज्ञान में (पत्रिका), पत्रकार मैथ्यू हटसन ने अनुमान लगाया कि न्यूरोइवोल्यूशन के सफल होने का एक कारण जहां यह पहले विफल हो गया था वह 2010 के दशक में उपलब्ध कम्प्यूटेशनल शक्ति में वृद्धि के कारण है।[4] यह दिखाया जा सकता है कि न्यूरोइवोल्यूशन और ग्रेडिएंट डिसेंट के बीच एक पत्राचार है।[5]
प्रत्यक्ष और अप्रत्यक्ष एन्कोडिंग
विकासवादी एल्गोरिदम जीनोटाइप (जिन्हें जीनोम भी कहा जाता है) की आबादी पर काम करते हैं। न्यूरोइवोल्यूशन में, एक जीनोटाइप को एक तंत्रिका नेटवर्क फेनोटाइप में मैप किया जाता है जिसका मूल्यांकन उसके फिटनेस कार्य को प्राप्त करने के लिए किसी कार्य पर किया जाता है।
प्रत्यक्ष एन्कोडिंग योजनाओं में जीनोटाइप सीधे फेनोटाइप पर मैप होता है। अर्थात्, तंत्रिका नेटवर्क में प्रत्येक न्यूरॉन और कनेक्शन सीधे और स्पष्ट रूप से जीनोटाइप में निर्दिष्ट होता है। इसके विपरीत, अप्रत्यक्ष एन्कोडिंग योजनाओं में जीनोटाइप अप्रत्यक्ष रूप से निर्दिष्ट करता है कि नेटवर्क कैसे उत्पन्न किया जाना चाहिए।[6] अप्रत्यक्ष एन्कोडिंग का उपयोग अक्सर कई उद्देश्यों को प्राप्त करने के लिए किया जाता है:[6][7][8][9][10]
- मॉड्यूलैरिटी और अन्य नियमितताएं;
- फेनोटाइप को एक छोटे जीनोटाइप में संपीड़ित करना, एक छोटा खोज स्थान प्रदान करना;
- खोज स्थान (जीनोम) को समस्या डोमेन पर मैप करना।
अप्रत्यक्ष एन्कोडिंग के लिए भ्रूणजन्य प्रणालियों का वर्गीकरण
परंपरागत रूप से अप्रत्यक्ष एन्कोडिंग जो कृत्रिम भ्रूणविज्ञान (जिसे कृत्रिम विकास के रूप में भी जाना जाता है) को एक व्याकरणिक दृष्टिकोण बनाम कोशिका रसायन विज्ञान दृष्टिकोण की तर्ज पर वर्गीकृत किया गया है।[11] पूर्व व्याकरणिक पुनर्लेखन प्रणालियों के रूप में नियमों के सेट विकसित करता है। उत्तरार्द्ध यह नकल करने का प्रयास करता है कि जीन अभिव्यक्ति के माध्यम से जीव विज्ञान में भौतिक संरचनाएं कैसे उभरती हैं। अप्रत्यक्ष एन्कोडिंग प्रणालियाँ अक्सर दोनों दृष्टिकोणों के पहलुओं का उपयोग करती हैं।
स्टेनली और मिइक्कुलैनेन[11]भ्रूणजन्य प्रणालियों के लिए एक वर्गीकरण का प्रस्ताव करें जिसका उद्देश्य उनके अंतर्निहित गुणों को प्रतिबिंबित करना है। वर्गीकरण पांच सतत आयामों की पहचान करता है, जिसके साथ किसी भी भ्रूणीय प्रणाली को रखा जा सकता है:
- कोशिका (न्यूरॉन) भाग्य: परिपक्व फेनोटाइप में कोशिका की अंतिम विशेषताएँ और भूमिका। यह आयाम किसी कोशिका के भाग्य का निर्धारण करने के लिए उपयोग की जाने वाली विधियों की संख्या की गणना करता है।
- लक्ष्यीकरण: वह विधि जिसके द्वारा कनेक्शन को स्रोत कोशिकाओं से लक्ष्य कोशिकाओं तक निर्देशित किया जाता है। यह विशिष्ट लक्ष्यीकरण (स्रोत और लक्ष्य स्पष्ट रूप से पहचाने जाते हैं) से लेकर सापेक्ष लक्ष्यीकरण (उदाहरण के लिए, एक दूसरे के सापेक्ष कोशिकाओं के स्थानों के आधार पर) तक होता है।
- हेटेरोक्रोनी: भ्रूणजनन के दौरान घटनाओं का समय और क्रम। घटनाओं के समय को बदलने के लिए तंत्रों की संख्या की गणना करता है।
- कैनालाइज़ेशन: जीनोम उत्परिवर्तन (भंगुरता) के प्रति कितना सहनशील है। सटीक जीनोटाइपिक निर्देशों की आवश्यकता से लेकर सटीक उत्परिवर्तन की उच्च सहनशीलता तक होती है।
- जटिलीकरण: समय के साथ जीनोम (और इसलिए फेनोटाइप) के जटिलीकरण की अनुमति देने के लिए सिस्टम की क्षमता (विकासवादी एल्गोरिदम और जीनोटाइप से फेनोटाइप मैपिंग सहित)। केवल निश्चित आकार के जीनोम की अनुमति देने से लेकर अत्यधिक परिवर्तनशील लंबाई वाले जीनोम की अनुमति देने तक।
उदाहरण
न्यूरोइवोल्यूशन विधियों के उदाहरण (प्रत्यक्ष एन्कोडिंग वाले आवश्यक रूप से गैर-भ्रूणजनित होते हैं):
Method | Encoding | Evolutionary algorithm | Aspects evolved |
---|---|---|---|
Neuro-genetic evolution by E. Ronald, 1994[12] | Direct | Genetic algorithm | Network Weights |
Cellular Encoding (CE) by F. Gruau, 1994[8] | Indirect, embryogenic (grammar tree using S-expressions) | Genetic programming | Structure and parameters (simultaneous, complexification) |
GNARL by Angeline et al., 1994[13] | Direct | Evolutionary programming | Structure and parameters (simultaneous, complexification) |
EPNet by Yao and Liu, 1997[14] | Direct | Evolutionary programming (combined with backpropagation and simulated annealing) | Structure and parameters (mixed, complexification and simplification) |
NeuroEvolution of Augmenting Topologies (NEAT) by Stanley and Miikkulainen, 2002[15][16] | Direct | Genetic algorithm. Tracks genes with historical markings to allow crossover between different topologies, protects innovation via speciation. | Structure and parameters |
Hypercube-based NeuroEvolution of Augmenting Topologies (HyperNEAT) by Stanley, D'Ambrosio, Gauci, 2008[7] | Indirect, non-embryogenic (spatial patterns generated by a Compositional pattern-producing network (CPPN) within a hypercube are interpreted as connectivity patterns in a lower-dimensional space) | Genetic algorithm. The NEAT algorithm (above) is used to evolve the CPPN. | Parameters, structure fixed (functionally fully connected) |
Evolvable Substrate Hypercube-based NeuroEvolution of Augmenting Topologies (ES-HyperNEAT) by Risi, Stanley 2012[10] | Indirect, non-embryogenic (spatial patterns generated by a Compositional pattern-producing network (CPPN) within a hypercube are interpreted as connectivity patterns in a lower-dimensional space) | Genetic algorithm. The NEAT algorithm (above) is used to evolve the CPPN. | Parameters and network structure |
Evolutionary Acquisition of Neural Topologies (EANT/EANT2) by Kassahun and Sommer, 2005[17] / Siebel and Sommer, 2007[18] | Direct and indirect, potentially embryogenic (Common Genetic Encoding[6]) | Evolutionary programming/Evolution strategies | Structure and parameters (separately, complexification) |
Interactively Constrained Neuro-Evolution (ICONE) by Rempis, 2012[19] | Direct, includes constraint masks to restrict the search to specific topology / parameter manifolds. | Evolutionary algorithm. Uses constraint masks to drastically reduce the search space through exploiting domain knowledge. | Structure and parameters (separately, complexification, interactive) |
Deus Ex Neural Network (DXNN) by Gene Sher, 2012[20] | Direct/Indirect, includes constraints, local tuning, and allows for evolution to integrate new sensors and actuators. | Memetic algorithm. Evolves network structure and parameters on different time-scales. | Structure and parameters (separately, complexification, interactive) |
Spectrum-diverse Unified Neuroevolution Architecture (SUNA) by Danilo Vasconcellos Vargas, Junichi Murata[21] (Download code) | Direct, introduces the Unified Neural Representation (representation integrating most of the neural network features from the literature). | Genetic Algorithm with a diversity preserving mechanism called Spectrum-diversity that scales well with chromosome size, is problem independent and focus more on obtaining diversity of high level behaviours/approaches. To achieve this diversity the concept of chromosome Spectrum is introduced and used together with a Novelty Map Population. | Structure and parameters (mixed, complexification and simplification) |
Modular Agent-Based Evolver (MABE) by Clifford Bohm, Arend Hintze, and others.[22] (Download code) | Direct or indirect encoding of Markov networks, Neural Networks, genetic programming, and other arbitrarily customizable controllers. | Provides evolutionary algorithms, genetic programming algorithms, and allows customized algorithms, along with specification of arbitrary constraints. | Evolvable aspects include the neural model and allows for the evolution of morphology and sexual selection among others. |
Covariance Matrix Adaptation with Hypervolume Sorted Adaptive Grid Algorithm (CMA-HAGA) by Shahin Rostami, and others.[23][24] | Direct, includes an atavism feature which enables traits to disappear and re-appear at different generations. | Multi-Objective Evolution Strategy with Preference Articulation (Computational Steering) | Structure, weights, and biases. |
यह भी देखें
- स्वचालित मशीन लर्निंग (ऑटोएमएल)
- विकासवादी संगणना
- ऑगमेंटिंग टोपोलॉजी का न्यूरोइवोल्यूशन (NEAT)
- नूजेनेसिस
- हाइपरनीट (NEAT का एक जनरेटिव संस्करण)
- तंत्रिका टोपोलॉजी का विकासवादी अधिग्रहण (ईएएनटी/ईएएनटी2)
संदर्भ
- ↑ Stanley, Kenneth O. (2017-07-13). "Neuroevolution: A different kind of deep learning". O'Reilly Media (in English). Retrieved 2017-09-04.
- ↑ Risi, Sebastian; Togelius, Julian (2017). "Neuroevolution in Games: State of the Art and Open Challenges". IEEE Transactions on Computational Intelligence and AI in Games. 9: 25–41. arXiv:1410.7326. doi:10.1109/TCIAIG.2015.2494596. S2CID 11245845.
- ↑ Togelius, Julian; Schaul, Tom; Schmidhuber, Jürgen; Gomez, Faustino (2008). "Countering Poisonous Inputs with Memetic Neuroevolution". Parallel Problem Solving from Nature – PPSN X. Lecture Notes in Computer Science. Vol. 5199. pp. 610–619. doi:10.1007/978-3-540-87700-4_61. ISBN 978-3-540-87699-1.
- ↑ Hutson, Matthew (11 January 2018). "समस्याओं को हल करने के लिए कृत्रिम बुद्धिमत्ता 'विकसित' हो सकती है". Science. doi:10.1126/science.aas9715.
- ↑ Whitelam, Stephen; Selin, Viktor; Park, Sang-Won; Tamblyn, Isaac (2 November 2021). "न्यूरोइवोल्यूशन और ग्रेडिएंट डिसेंट के बीच पत्राचार". Nature Communications. 12 (1): 6317. arXiv:2008.06643. Bibcode:2021NatCo..12.6317W. doi:10.1038/s41467-021-26568-2. PMC 8563972. PMID 34728632.
- ↑ 6.0 6.1 6.2 Kassahun, Yohannes; Sommer, Gerald; Edgington, Mark; Metzen, Jan Hendrik; Kirchner, Frank (2007), "Common genetic encoding for both direct and indirect encodings of networks", Genetic and Evolutionary Computation Conference, ACM Press, pp. 1029–1036, CiteSeerX 10.1.1.159.705
- ↑ 7.0 7.1 Gauci, Stanley (2007), "Generating Large-Scale Neural Networks Through Discovering Geometric Regularities" (PDF), Genetic and Evolutionary Computation Conference, New York, NY: ACM
- ↑ 8.0 8.1 Gruau, Frédéric; I, L'universite Claude Bernard-lyon; Doctorat, Of A. Diplome De; Demongeot, M. Jacques; Cosnard, Examinators M. Michel; Mazoyer, M. Jacques; Peretto, M. Pierre; Whitley, M. Darell (1994). सेलुलर एन्कोडिंग और जेनेटिक एल्गोरिदम का उपयोग करके तंत्रिका नेटवर्क संश्लेषण।. CiteSeerX 10.1.1.29.5939.
- ↑ Clune, J.; Stanley, Kenneth O.; Pennock, R. T.; Ofria, C. (June 2011). "नियमितता के सातत्य में अप्रत्यक्ष एन्कोडिंग के प्रदर्शन पर". IEEE Transactions on Evolutionary Computation. 15 (3): 346–367. CiteSeerX 10.1.1.375.6731. doi:10.1109/TEVC.2010.2104157. ISSN 1089-778X. S2CID 3008628.
- ↑ 10.0 10.1 Risi, Sebastian; Stanley, Kenneth O. (October 2012). "न्यूरॉन्स के प्लेसमेंट, घनत्व और कनेक्टिविटी को विकसित करने के लिए एक उन्नत हाइपरक्यूब-आधारित एन्कोडिंग". Artificial Life. 18 (4): 331–363. doi:10.1162/ARTL_a_00071. PMID 22938563. S2CID 3256786.
- ↑ 11.0 11.1 Stanley, Kenneth O.; Miikkulainen, Risto (April 2003). "कृत्रिम भ्रूणजनन के लिए एक वर्गीकरण". Artificial Life. 9 (2): 93–130. doi:10.1162/106454603322221487. PMID 12906725. S2CID 2124332.
- ↑ Ronald, Edmund; Schoenauer, March (1994), "Genetic Lander: An experiment in accurate neuro-genetic control", PPSN III 1994 Parallel Programming Solving from Nature, pp. 452–461, CiteSeerX 10.1.1.56.3139
- ↑ Angeline, P.J.; Saunders, G.M.; Pollack, J.B. (January 1994). "An evolutionary algorithm that constructs recurrent neural networks". IEEE Transactions on Neural Networks. 5 (1): 54–65. CiteSeerX 10.1.1.64.1853. doi:10.1109/72.265960. PMID 18267779.
- ↑ Yao, X.; Liu, Y. (May 1997). "A new evolutionary system for evolving artificial neural networks". IEEE Transactions on Neural Networks. 8 (3): 694–713. doi:10.1109/72.572107. PMID 18255671.
- ↑ Stanley, Kenneth O.; Bryant, Bobby D.; Miikkulainen, Risto (December 2005). "Real-Time Neuroevolution in the NERO Video Game" (PDF).
- ↑ Stanley, Kenneth O.; Miikkulainen, Risto (June 2002). "Evolving Neural Networks through Augmenting Topologies". Evolutionary Computation. 10 (2): 99–127. CiteSeerX 10.1.1.638.3910. doi:10.1162/106365602320169811. PMID 12180173. S2CID 498161.
- ↑ Kassahun, Yohannes; Sommer, Gerald (April 2005), "Efficient reinforcement learning through evolutionary acquisition of neural topologies" (PDF), 13th European Symposium on Artificial Neural Networks, Bruges, Belgium, pp. 259–266
{{citation}}
: CS1 maint: location missing publisher (link) - ↑ Siebel, Nils T.; Sommer, Gerald (17 October 2007). "Evolutionary reinforcement learning of artificial neural networks". International Journal of Hybrid Intelligent Systems. 4 (3): 171–183. doi:10.3233/his-2007-4304.
- ↑ Rempis, Christian Wilhelm (2012). Evolving Complex Neuro-Controllers with Interactively Constrained Neuro-Evolution (Thesis).
- ↑ Sher, Gene I. (2013). Handbook of Neuroevolution Through Erlang. doi:10.1007/978-1-4614-4463-3. ISBN 978-1-4614-4462-6. S2CID 21777855.
- ↑ Vargas, Danilo Vasconcellos; Murata, Junichi (2019). "Spectrum-Diverse Neuroevolution With Unified Neural Models". IEEE Transactions on Neural Networks and Learning Systems. 28 (8): 1759–1773. arXiv:1902.06703. Bibcode:2019arXiv190206703V. doi:10.1109/TNNLS.2016.2551748. PMID 28113564. S2CID 206757620.
- ↑ Edlund, Jeffrey; Chaumont, Nicolas; Hintze, Arend; Koch, Christof; Tononi, Giulio; Adami, Christoph (2011). "Integrated Information Increases with Fitness in the Evolution of Animats". PLOS Computational Biology. 7 (10): e1002236. arXiv:1103.1791. Bibcode:2011PLSCB...7E2236E. doi:10.1371/journal.pcbi.1002236. PMC 3197648. PMID 22028639.
- ↑ Rostami, Shahin; Neri, Ferrante (June 2017). "A fast hypervolume driven selection mechanism for many-objective optimisation problems". Swarm and Evolutionary Computation. 34: 50–67. doi:10.1016/j.swevo.2016.12.002. hdl:2086/13102.
- ↑ Shenfield, Alex; Rostami, Shahin (2017). "Multi-objective evolution of artificial neural networks in multi-class medical diagnosis problems with class imbalance" (PDF). 2017 IEEE Conference on Computational Intelligence in Bioinformatics and Computational Biology (CIBCB). pp. 1–8. doi:10.1109/CIBCB.2017.8058553. ISBN 978-1-4673-8988-4. S2CID 22674515.
बाहरी संबंध
- "Evolution 101: Neuroevolution | BEACON". beacon-center.org (in English). Retrieved 2018-01-14.
- "NNRG Areas - Neuroevolution". nn.cs.utexas.edu. University of Texas. Retrieved 2018-01-14. (has downloadable papers on NEAT and applications)
- "SharpNEAT Neuroevolution Framework". sharpneat.sourceforge.net (in English). Retrieved 2018-01-14. mature Open Source neuroevolution project implemented in C#/.Net.
- ANNEvolve is an Open Source AI Research Project (Downloadable source code in C and Python with a tutorial & miscellaneous writings and illustrations
- "Nils T Siebel - EANT2 - Evolutionary Reinforcement Learning of Neural Networks". www.siebel-research.de. Retrieved 2018-01-14. Web page on evolutionary learning with EANT/EANT2] (information and articles on EANT/EANT2 with applications to robot learning)
- NERD Toolkit. The Neurodynamics and Evolutionary Robotics Development Toolkit. A free, open source software collection for various experiments on neurocontrol and neuroevolution. Includes a scriptable simulator, several neuro-evolution algorithms (e.g. ICONE), cluster support, visual network design and analysis tools.
- "CorticalComputer (Gene)". GitHub. Retrieved 2018-01-14. Source code for the DXNN Neuroevolutionary system.
- "ES-HyperNEAT Users Page". eplex.cs.ucf.edu (in English). Retrieved 2018-01-14.