View source for स्वचालित निर्णय-निर्धारण

{{Short description|Decision-making process conducted with varying degrees of human oversight}}
'''स्वचालित निर्णय निर्धारण''' (एडीएम) में मानव निरीक्षण के अलग-अलग परिमाण के साथ सार्वजनिक प्रशासन, व्यवसाय, स्वास्थ्य, शिक्षा, नियम, रोजगार, परिवहन, मीडिया और मनोरंजन या हस्तक्षेप सहित कई संदर्भों में निर्णय लेने के लिए डेटा मशीनों और एल्गोरिदम का उपयोग सम्मिलित है। एडीएम में डेटाबेस, टेक्स्ट, सोशल मीडिया, सेंसर, छवि या भाषण जैसे कई स्रोतों से बड़े पैमाने पर डेटा सम्मिलित होता है, जिसे कंप्यूटर सॉफ्टवेयर, एल्गोरिदम, मशीन लर्निंग, [[ प्राकृतिक भाषा प्रसंस्करण |प्राकृतिक भाषा प्रसंस्करण]], [[ कृत्रिम होशियारी |कृत्रिम बुद्धिमत्ता]], गुप्त और रोबोटिक सहित विभिन्न तकनीकों का उपयोग करके संसाधित किया जाता है। कई संदर्भों में स्वचालित निर्णय निर्धारण प्रणालियों (एडीएमएस) का बढ़ता उपयोग मानव समाज के लिए तकनीकी, नियम, नैतिक, सामाजिक, शैक्षिक, आर्थिक और स्वास्थ्य परिणामों पर विचार करने के लिए कई लाभ और चुनौतियों को प्रस्तुत करता है।<ref>{{cite journal |last1=Marabelli |first1=Marco |last2=Newell |first2=Sue |last3=Handunge |first3=Valerie |title=The lifecycle of algorithmic decision-making systems: Organizational choices and ethical challenges |journal=Journal of Strategic Information Systems |date=2021 |volume=30 |issue=1 |page=1-15 |url=https://www.researchgate.net/publication/353377939_The_lifecycle_of_algorithmic_decision-making_systems_Organizational_choices_and_ethical_challenges |access-date=November 1, 2022}}</ref><ref name=":1">{{Cite book |last1=Larus|first1=James|last2=Hankin|first2=Chris|last3=Carson|first3=Siri Granum|last4=Christen|first4=Markus|last5=Crafa|first5=Silvia|last6=Grau|first6=Oliver|last7=Kirchner|first7=Claude|last8=Knowles|first8=Bran|last9=McGettrick|first9=Andrew|last10=Tamburri|first10=Damian Andrew|last11=Werthner|first11=Hannes|year=2018|title=When Computers Decide: European Recommendations on Machine-Learned Automated Decision Making|url=https://dl.acm.org/doi/book/10.1145/3185595 |location=New York |publisher=Association for Computing Machinery|doi=10.1145/3185595}}</ref><ref>{{Cite journal|last1=Mökander|first1=Jakob|last2=Morley|first2=Jessica|last3=Taddeo|first3=Mariarosaria|last4=Floridi|first4=Luciano|date=2021-07-06|title=Ethics-Based Auditing of Automated Decision-Making Systems: Nature, Scope, and Limitations|journal=Science and Engineering Ethics|language=en|volume=27|issue=4|pages=44|doi=10.1007/s11948-021-00319-4|issn=1471-5546|pmc=8260507|pmid=34231029|arxiv=2110.10980}}</ref>
== संक्षिप्त विवरण ==
स्वचालन स्तर के आधार पर एडीएम की विभिन्न परिभाषाएँ हैं। कुछ परिभाषाओं से पता चलता है कि एडीएम में मानव इनपुट के अतिरिक्त विशुद्ध रूप से तकनीकी साधनों के माध्यम से किए गए निर्णय जैसे कि यूरोपीय संघ के सामान्य डेटा संरक्षण विनियमन (अनुच्छेद 22) सम्मिलित हैं।<ref>{{Cite report|last=UK Information Commissioner's Office|date=2021-09-24|title=यूके जनरल डेटा प्रोटेक्शन रेगुलेशन (यूके जीडीपीआर) के लिए गाइड|url=https://ico.org.uk/for-organisations/guide-to-data-protection/guide-to-the-general-data-protection-regulation-gdpr/|url-status=live|access-date=2021-10-05|website=|publisher=Information Commissioner's Office UK|language=en|archive-url=https://web.archive.org/web/20181221081725/https://ico.org.uk/for-organisations/guide-to-data-protection/guide-to-the-general-data-protection-regulation-gdpr/ |archive-date=2018-12-21 }}</ref> हालांकि एडीएम प्रौद्योगिकी और अनुप्रयोग [[निर्णय समर्थन प्रणाली]] से लेकर कई रूप ले सकते हैं जो मानव निर्णय-निर्माताओं को प्रतिकृया करने के लिए प्रयास करते हैं, जिन्हें कभी-कभी संवर्धित बुद्धिमत्ता या 'साझा निर्णय निर्धारण' के रूप में जाना जाता है, पूरी तरह से स्वचालित निर्णय निर्धारण की प्रक्रिया जो मानव साझेदारी के अतिरिक्त व्यक्तियों या संगठनों की ओर से निर्णय लेती है।<ref name=":3">{{Cite journal|last1=Araujo|first1=Theo|last2=Helberger|first2=Natali|last3=Kruikemeier|first3=Sanne|last4=de Vreese|first4=Claes H.|date=2020-09-01|title=In AI we trust? Perceptions about automated decision-making by artificial intelligence|journal=AI & Society|language=en|volume=35|issue=3|pages=611–623|doi=10.1007/s00146-019-00931-w|hdl=11245.1/b73d4d3f-8ab9-4b63-b8a8-99fb749ab2c5|s2cid=209523258|issn=1435-5655|url=https://pure.uva.nl/ws/files/50211045/Araujo2020_Article_InAIWeTrustPerceptionsAboutAut.pdf }}</ref> स्वचालित निर्णय निर्धारण वाली प्रणालियों में उपयोग किए जाने वाले मॉडल कृत्रिम बुद्धि और [[कृत्रिम तंत्रिका नेटवर्क]] (डीएनएन) के माध्यम से जांच सूची और निर्णय निर्धारण के रूप में सरल हो सकते हैं।

1950 के दशक के बाद से कंप्यूटर जटिल, अस्पष्ट और अत्यधिक कुशल कार्यों जैसे छवि और भाषण मान्यता, गेम, वैज्ञानिक चिकित्सा विश्लेषण और कई डेटा स्रोतों में अनुमान लगाने की क्षमता रखने के लिए आधारिक प्रसंस्करण करने में सक्षम होने से चले गए हैं। एडीएम समाज के सभी क्षेत्रों और मनोरंजन से लेकर परिवहन तक कई विविध डोमेन को तीव्रता से निर्मित किया जा रहा है। एडीएम प्रणाली (एडीएमएस) में कई निर्णय बिंदु, डेटा समूह और प्रौद्योगिकियाँ (एडीएमटी) सम्मिलित हो सकती हैं और एक बड़ी प्रशासनिक या तकनीकी प्रणाली को आपराधिक न्याय प्रणाली या व्यावसायिक प्रक्रिया के भीतर प्रयुक्त की जा सकता हैं।

== डेटा ==
स्वचालित निर्णय निर्धारण में एक इनपुट के रूप में डेटा का उपयोग या तो एक प्रक्रिया मॉडल या एल्गोरिथ्म के भीतर या नए मॉडल सीखने और उत्पन्न करने के लिए किया जाता है।<ref name=":8">{{Cite report |url=https://algorithmwatch.org/en/automating-society-2019/ |title=Automating Society 2019 |last=Algorithm Watch |date=2020 |language=en |access-date=2022-02-28 |website=Algorithm Watch}}</ref> एडीएम प्रणालियाँ सिस्टम के लक्ष्यों और संदर्भों के आधार पर डेटा प्रकारों और स्रोतों की एक विस्तृत श्रृंखला का उपयोग और संबद्ध कर सकती हैं, उदाहरण के लिए स्वचालित कारों और रोबोटिक के लिए सेंसर डेटा, सुरक्षा प्रणालियों के लिए पहचान डेटा, सार्वजनिक प्रशासन के लिए जनसांख्यिकीय और वित्तीय डेटा, स्वास्थ्य में चिकित्सा रिकॉर्ड में आपराधिक डेटा सम्मिलित है। इसमें कभी-कभी बड़ी मात्रा में डेटा और कंप्यूटिंग क्षमता सम्मिलित हो सकती है।

=== डेटा गुणवत्ता ===
एडीएम सिस्टम में उपलब्ध और उपयोग किए जाने योग्य डेटा की गुणवत्ता परिणामों के लिए मौलिक है और कई कारणों से प्रायः अत्यधिक समस्याग्रस्त होती है। डेटा समूह प्रायः अत्यधिक परिवर्तनशील होते हैं, बड़े पैमाने पर डेटा को निगमों या सरकारों द्वारा गोपनीयता या सुरक्षा कारणों से प्रतिबंधित, अपूर्ण, पूर्वाग्रहित, समय या प्रसारण क्षेत्र की स्थिति में सीमित विभिन्न तरीकों से शर्तों को मापने, वर्णन करने या कई अन्य कारणों से नियंत्रित किया जा सकता है।

मशीनों को डेटा से सीखने के लिए प्रायः अधिक पुस्तक संग्रह की आवश्यकता होती है जिसे प्राप्त करना या गणना करना जटिल हो सकता है। हालांकि जहां उपलब्ध है वहां छाती के एक्स-रे के निदान में उदाहरण के लिए महत्वपूर्ण सफलताएं प्रदान की गई हैं।<ref>{{Cite journal|last1=Seah|first1=Jarrel C Y|last2=Tang|first2=Cyril H M|last3=Buchlak|first3=Quinlan D|last4=Holt|first4=Xavier G|last5=Wardman|first5=Jeffrey B|last6=Aimoldin|first6=Anuar|last7=Esmaili|first7=Nazanin|last8=Ahmad|first8=Hassan|last9=Pham|first9=Hung|last10=Lambert|first10=John F|last11=Hachey|first11=Ben|date=August 2021|title=Effect of a comprehensive deep-learning model on the accuracy of chest x-ray interpretation by radiologists: a retrospective, multireader multicase study|journal=The Lancet Digital Health|volume=3|issue=8|pages=e496–e506|doi=10.1016/s2589-7500(21)00106-0|pmid=34219054|s2cid=235735320|issn=2589-7500}}</ref>
== एडीएम प्रौद्योगिकी ==
स्वचालित निर्णय निर्धारण वाली एडीएम प्रौद्योगिकी सॉफ्टवेयर-कोडित डिजिटल प्रणाली हैं जो स्वचालित निर्णय निर्धारण वाली प्रणालियों के कार्य में योगदान करते हुए इनपुट डेटा को आउटपुट डेटा में अनुवाद को स्वचालित करती हैं।<ref name=":8" /> एडीएम अनुप्रयोगों और प्रणालियों में उपयोग की जाने वाली तकनीकों की एक विस्तृत श्रृंखला है।

एडीएम प्रौद्योगिकी में निम्नलिखित आधारिक कम्प्यूटेशनल संचालन सम्मिलित हैं:

* खोज (1-2-1, 1-2, डेटा सुमेलन या संयोजन)
* सुमेलन (दो अलग-अलग वस्तुएं)
* गणितीय गणना (सूत्र)

मूल्यांकन और समूहीकरण के लिए एडीएमटी एडीएम प्रौद्योगिकी:

* [[उपयोगकर्ता रूपरेखा]]
* [[सिफारिश प्रणाली|संस्तुतिकर्ता प्रणाली]]
* [[क्लस्टर विश्लेषण]]
* [[वर्गीकरण]]
* विश्लेषण [[फ़ीचर लर्निंग|प्रशिक्षण]]
* पूर्वसूचक विश्लेषण (पूर्वानुमान करना)

अंतरिक्ष और प्रवाह से संबंधित एडीएम प्रौद्योगिकी:

* सामाजिक नेटवर्क विश्लेषण
*मानचित्रण
* [[मार्ग|परिसंचरण]]

जटिल डेटा स्वरूपों के प्रसंस्करण के लिए एडीएम प्रौद्योगिकी:

* [[डिजिटल इमेज प्रोसेसिंग|डिजिटल प्रतिबिंब प्रसंस्करण]]
* ऑडियो प्रसंस्करण
* प्राकृतिक भाषा प्रसंस्करण (एनएलपी)

अन्य एडीएम प्रौद्योगिकियां:

* [[व्यापार नियम प्रबंधन प्रणाली]]
* [[समय श्रृंखला]]
* [[असंगति का पता लगाये|असंगति पहचान]]
* मॉडलिंग या अनुरूपण

=== मशीन लर्निंग ===
{{Main|मशीन लर्निंग}}

'''मशीन लर्निंग (एमएल) में अनुभव से सीखने''' और समस्याओं को हल करने के लिए बड़े डेटा सेट और उदाहरणों के माध्यम से कंप्यूटर प्रोग्राम का प्रशिक्षण सम्मिलित है।<ref name=":1" /> मशीन लर्निंग का उपयोग डेटा उत्पन्न करने और उसका विश्लेषण करने के साथ-साथ एल्गोरिथम गणना करने के लिए किया जा सकता है और छवि और वाक् पहचान, अनुवाद, पाठ, डेटा और सिमुलेशन पर लागू किया गया है। जबकि मशीन लर्निंग कुछ समय के लिए आसपास रहा है, यह गहरे तंत्रिका नेटवर्क (डीएनएन) के प्रशिक्षण में हाल की सफलताओं के कारण तेजी से शक्तिशाली होता जा रहा है, और जीपीयू कोप्रोसेसरों और क्लाउड कंप्यूटिंग के साथ डेटा भंडारण क्षमता और कम्प्यूटेशनल शक्ति में नाटकीय वृद्धि हुई है।<ref name=":1" />

फाउंडेशन मॉडल पर आधारित मशीन लर्निंग सिस्टम गहरे तंत्रिका नेटवर्क पर चलते हैं और बड़ी मात्रा में सामान्य डेटा जैसे पाठ और छवियों पर एकल विशाल प्रणाली को प्रशिक्षित करने के लिए पैटर्न मिलान का उपयोग करते हैं। शुरुआती मॉडल में प्रत्येक नई समस्या के लिए खरोंच से शुरू करने की प्रवृत्ति थी, हालांकि 2020 की शुरुआत से कई नई समस्याओं के अनुकूल होने में सक्षम हैं।<ref name=":9">{{Cite web |last1=Snoswell |first1=Aaron J. |last2=Hunter |first2=Dan |date=13 April 2022 |title=Robots are creating images and telling jokes. 5 things to know about foundation models and the next generation of AI |url=http://theconversation.com/robots-are-creating-images-and-telling-jokes-5-things-to-know-about-foundation-models-and-the-next-generation-of-ai-181150 |access-date=2022-04-21 |website= |publisher=The Conversation |language=en}}</ref> इन तकनीकों के उदाहरणों में Open AI का DALL-E (एक छवि निर्माण कार्यक्रम) और उनके विभिन्न GPT भाषा मॉडल और Google का PaLM भाषा मॉडल कार्यक्रम सम्मिलित हैं।

== अनुप्रयोग ==
एडीएम का उपयोग सार्वजनिक और निजी दोनों क्षेत्रों के संगठनों द्वारा मानव निर्णय लेने को बदलने या बढ़ाने के लिए कई कारणों से किया जा रहा है, जिसमें निरंतरता बढ़ाने, दक्षता में सुधार करने, लागत कम करने और जटिल समस्याओं के नए समाधानों को सक्षम करने में मदद करना सम्मिलित है।<ref>{{Cite journal|last1=Taddeo|first1=Mariarosaria|last2=Floridi|first2=Luciano|date=2018-08-24|title=एआई अच्छे के लिए एक ताकत कैसे हो सकता है|journal=Science|language=en|volume=361|issue=6404|pages=751–752|doi=10.1126/science.aat5991|pmid=30139858|bibcode=2018Sci...361..751T|s2cid=52075037|issn=0036-8075|doi-access=free}}</ref>
=== बहस ===
तर्क की गुणवत्ता का आकलन करने के लिए प्रौद्योगिकी के उपयोग में अनुसंधान और विकास चल रहा है,<ref>{{cite conference |title=प्राकृतिक भाषा में कम्प्यूटेशनल तर्क गुणवत्ता मूल्यांकन|last1=Wachsmuth |first1=Henning |last2=Naderi |first2=Nona |last3=Hou |first3=Yufang |last4=Bilu |first4=Yonatan |last5=Prabhakaran |first5=Vinodkumar |last6=Thijm |first6=Tim |last7=Hirst |first7=Graema |last8=Stein |first8=Benno |date=2017 |book-title=Proceedings of the 15th Conference of the European Chapter of the Association for Computational Linguistics |pages=176–187|url=https://aclanthology.org/E17-1017.pdf}}</ref><ref>{{cite conference |title=Argumentation quality assessment: Theory vs. practice |last1=Wachsmuth |first1=Henning |last2=Naderi |first2=Nona |last3=Habernal |first3=Ivan |last4=Hou |first4=Yufang |last5=Hirst |first5=Graeme |last6=Gurevych |first6=Iryna |last7=Stein |first7=Benno |date=2017 |book-title=Proceedings of the 55th Annual Meeting of the Association for Computational Linguistics |pages=250–255|url=https://aclanthology.org/P17-2039.pdf}}</ref><ref>{{cite conference |title=A large-scale dataset for argument quality ranking: Construction and analysis |last1=Gretz |first1=Shai |last2=Friedman |first2=Roni |last3=Cohen-Karlik |first3=Edo |last4=Toledo |first4=Assaf |last5=Lahav |first5=Dan |last6=Aharonov |first6=Ranit |last7=Slonim |first7=Noam |date=2020 |book-title=Proceedings of the AAAI Conference on Artificial Intelligence |volume=34 |number=5 |pages=7805–7813|url=https://ojs.aaai.org/index.php/AAAI/article/view/6285/6141}}</ref> तर्कपूर्ण निबंधों का आकलन<ref>{{cite conference |title=छात्र तर्कों के स्वचालित विश्लेषण की ओर|last1=Green |first1=Nancy |date=2013 |publisher=Springer |book-title=International Conference on Artificial Intelligence in Education |pages=591–594|url=https://link.springer.com/chapter/10.1007/978-3-642-39112-5_66}}</ref><ref>{{cite conference |title=छात्र निबंधों में मॉडलिंग तर्क शक्ति|last1=Persing |first1=Isaac |last2=Ng |first2=Vincent |date=2015 |book-title=Proceedings of the 53rd Annual Meeting of the Association for Computational Linguistics and the 7th International Joint Conference on Natural Language Processing |pages=543–552|url=https://aclanthology.org/P15-1053.pdf}}</ref> और निर्णायक बहसें।<ref>{{cite conference |title=सफल वाद-विवाद करने वालों का एक मल्टीमॉडल प्रेडिक्टिव मॉडल या मैंने कैसे वोटों को प्रभावित करना सीखा|last1=Brilman |first1=Maarten |last2=Scherer |first2=Stefan |date=2015 |book-title=Proceedings of the 23rd ACM international conference on Multimedia |pages=149–158|url=https://dl.acm.org/doi/pdf/10.1145/2733373.2806245}}</ref><ref>{{cite conference |title=Towards debate automation: a recurrent model for predicting debate winners |last1=Potash |first1=Peter |last2=Rumshisky |first2=Anna |date=2017 |book-title=Proceedings of the 2017 Conference on Empirical Methods in Natural Language Processing |pages=2465–2475|url=https://aclanthology.org/D17-1261.pdf}}</ref><ref>{{cite conference |title=राजनीतिक बहसों में दर्शकों की छाप की बहुविध भविष्यवाणी|last1=Santos |first1=Pedro |last2=Gurevych |first2=Iryna |date=2018 |book-title=Proceedings of the 20th International Conference on Multimodal Interaction |pages=1–6|url=https://dl.acm.org/doi/abs/10.1145/3281151.3281157}}</ref><ref>{{cite journal |title=Winning on the merits: The joint effects of content and style on debate outcomes |last1=Wang |first1=Lu |last2=Beauchamp |first2=Nick |last3=Shugars |first3=Sarah |last4=Qin |first4=Kechen |journal=Transactions of the Association for Computational Linguistics |volume=5 |date=2017 |pages=219–232 |publisher=MIT Press|doi=10.1162/tacl_a_00057 |s2cid=27803846 }}</ref> इन तर्क तकनीकों के संभावित अनुप्रयोग शिक्षा और समाज तक फैले हुए हैं। इस संबंध में जिन परिदृश्यों पर विचार किया जाना है, उनमें संवादी, गणितीय, वैज्ञानिक, व्याख्यात्मक, कानूनी और राजनीतिक तर्क-वितर्क और वाद-विवाद का मूल्यांकन और मूल्यांकन सम्मिलित है।

=== कानून ===
दुनिया भर की [[राष्ट्रीय कानूनी प्रणालियों की सूची]] में, कई संदर्भों में न्यायाधीशों, सिविल सेवकों और पुलिस अधिकारियों के मानवीय निर्णय को पूरक या बदलने के लिए एल्गोरिथम उपकरण जैसे जोखिम मूल्यांकन उपकरण (RAI) का उपयोग किया जा रहा है।<ref name=":2">{{Cite book|last=Chohlas-Wood|first=Alex|url=https://www.brookings.edu/research/understanding-risk-assessment-instruments-in-criminal-justice/|title=आपराधिक न्याय में जोखिम मूल्यांकन उपकरणों को समझना|publisher=Brookings Institution|year=2020}}</ref> संयुक्त राज्य अमेरिका में RAI का उपयोग पूर्व-परीक्षण निरोध और सजा के फैसले में पुनरावृत्ति के जोखिम की भविष्यवाणी करने के लिए स्कोर उत्पन्न करने के लिए किया जा रहा है<ref>{{Cite web|last1=Angwin|first1=Julia|author-link=Julia Angwin|last2=Larson|first2=Jeff|last3=Mattu|first3=Surya|date=23 May 2016|title=मशीन पूर्वाग्रह|url=https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing?token=kEFLF-0TKt0pC8fA7TbUZGFrm2mn5Ihm|url-status=live|access-date=2021-10-04|website=ProPublica|language=en|archive-url=https://web.archive.org/web/20211004235752/https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing?token=kEFLF-0TKt0pC8fA7TbUZGFrm2mn5Ihm |archive-date=2021-10-04 }}</ref> कैदियों के लिए पैरोल का मूल्यांकन और भविष्य के अपराध के लिए "हॉट स्पॉट" की भविष्यवाणी करने के लिए।<ref>{{Cite journal|last=Nissan|first=Ephraim|date=2017-08-01|title=डिजिटल तकनीक और आर्टिफिशियल इंटेलिजेंस का लॉयरिंग, जजिंग, पुलिसिंग और कानून प्रवर्तन पर वर्तमान और दूरदर्शितापूर्ण प्रभाव|journal=AI & Society|language=en|volume=32|issue=3|pages=441–464|doi=10.1007/s00146-015-0596-5|s2cid=21115049|issn=1435-5655}}</ref><ref>{{Cite journal|last1=Dressel|first1=Julia|last2=Farid|first2=Hany|title=वैराग्यवाद की भविष्यवाणी करने की सटीकता, निष्पक्षता और सीमाएं|journal=Science Advances|year=2018|volume=4|issue=1|pages=eaao5580|doi=10.1126/sciadv.aao5580|pmc=5777393|pmid=29376122|bibcode=2018SciA....4.5580D}}</ref><ref>{{Cite book|last=Ferguson|first=Andrew Guthrie|title=The Rise of Big Data Policing: Surveillance, Race, and the Future of Law Enforcement|publisher=NYU Press|year=2017|isbn=9781479869978|location=New York}}</ref> इन अंकों के परिणामस्वरूप स्वत: प्रभाव हो सकता है या न्याय प्रणाली के भीतर अधिकारियों द्वारा किए गए निर्णयों को सूचित करने के लिए उपयोग किया जा सकता है।<ref name=":2" /> कनाडा में 2014 से एडीएम का उपयोग आव्रजन अधिकारियों द्वारा संचालित कुछ गतिविधियों को स्वचालित करने और कुछ आप्रवासी और आगंतुक अनुप्रयोगों के मूल्यांकन का समर्थन करने के लिए किया गया है।<ref name=":0">{{Cite book |last1=Molnar|first1=Petra|last2=Gill|first2=Lex|date=2018|title=Bots at the Gate: A Human Rights Analysis of Automated Decision-Making in Canada's Immigration and Refugee System|url=https://tspace.library.utoronto.ca/handle/1807/94802 |language=en-ca|publisher=Citizen Lab and International Human Rights Program (Faculty of Law, University of Toronto)}}</ref>
=== अर्थशास्त्र ===
ऑटोमेटेड ट्रेडिंग सिस्टम ऑर्डर खरीदने और बेचने के लिए कंप्यूटर प्रोग्राम का उपयोग करते हैं और स्वचालित रूप से मार्केट सेंटर या एक्सचेंजों को ऑर्डर सबमिट करते हैं। कंप्यूटर प्रोग्राम स्वचालित रूप से ट्रेडिंग रणनीतियों का उपयोग करके नियमों के पूर्वनिर्धारित सेट के आधार पर आदेश उत्पन्न कर सकते हैं जो तकनीकी विश्लेषण, उन्नत सांख्यिकीय और गणितीय संगणना, या अन्य इलेक्ट्रॉनिक स्रोतों से इनपुट पर आधारित हैं।

=== व्यवसाय ===

==== सतत लेखापरीक्षा ====
निरंतर ऑडिटिंग ऑडिटिंग प्रक्रियाओं को स्वचालित करने के लिए उन्नत विश्लेषणात्मक उपकरणों का उपयोग करती है। इसका उपयोग निजी क्षेत्र में व्यावसायिक उद्यमों द्वारा और सार्वजनिक क्षेत्र में सरकारी संगठनों और नगर पालिकाओं द्वारा किया जा सकता है।<ref>{{cite conference |title=नगर पालिकाओं में सतत निगरानी और लेखा परीक्षा|last1=Ezzamouri |first1=Naoual |last2=Hulstijn |first2=Joris |date=2018 |book-title=Proceedings of the 19th Annual International Conference on Digital Government Research: Governance in the Data Age |pages=1-10|url=https://dl.acm.org/doi/pdf/10.1145/3209281.3209301}}</ref> जैसा कि आर्टिफिशियल इंटेलिजेंस और मशीन लर्निंग का विकास जारी है, लेखाकार और लेखा परीक्षक तेजी से परिष्कृत एल्गोरिदम का उपयोग कर सकते हैं जो निर्णय लेते हैं जैसे कि यह निर्धारित करना कि क्या असंगत है, क्या कर्मियों को सूचित करना है, और कर्मियों को सौंपे गए कार्यों को कैसे प्राथमिकता देना है।

=== मीडिया और मनोरंजन ===
डिजिटल मीडिया, मनोरंजन प्लेटफॉर्म और सूचना सेवाएं जनसांख्यिकीय जानकारी, पिछले चयनों, सहयोगी फ़िल्टरिंग या सामग्री-आधारित फ़िल्टरिंग के आधार पर स्वचालित अनुशंसा प्रणाली के माध्यम से दर्शकों को तेजी से सामग्री प्रदान करती हैं।<ref name=":6">{{Cite journal|last=Thomas|first=Julian|date=2018|title=Programming, filtering, adblocking: advertising and media automation|url=http://journals.sagepub.com/doi/10.1177/1329878X17738787|journal=Media International Australia|language=en|volume=166|issue=1|pages=34–43|doi=10.1177/1329878X17738787|s2cid=149139944 |issn=1329-878X|id=Q110607881}}</ref> इसमें संगीत और वीडियो प्लेटफॉर्म, प्रकाशन, स्वास्थ्य सूचना, उत्पाद डेटाबेस और सर्च इंजन सम्मिलित हैं। कई सिफ़ारिशकर्ता प्रणालियाँ अनुशंसाओं को स्वीकार करने में उपयोगकर्ताओं को कुछ एजेंसी भी प्रदान करती हैं और सिस्टम उपयोगकर्ता के कार्यों के आधार पर डेटा-संचालित एल्गोरिथम फीडबैक लूप सम्मिलित करती हैं।<ref name=":3" />

2020 में OpenAI और Google जैसी कंपनियों द्वारा बड़े पैमाने पर मशीन लर्निंग लैंग्वेज मॉडल और इमेज क्रिएशन प्रोग्राम विकसित किए जा रहे हैं, जिनकी पहुंच प्रतिबंधित है, हालांकि विज्ञापन, कॉपी राइटिंग, स्टॉक इमेजरी और ग्राफिक डिज़ाइन जैसे क्षेत्रों में उनके व्यापक प्रसार की संभावना है। पत्रकारिता और कानून जैसे अन्य क्षेत्रों के रूप में।<ref name=":9" />
=== विज्ञापन ===
ऑनलाइन विज्ञापन कई डिजिटल मीडिया प्लेटफार्मों, वेबसाइटों और खोज इंजनों के साथ घनिष्ठ रूप से जुड़ा हुआ है और इसमें प्रायः विविध स्वरूपों में प्रदर्शन विज्ञापनों की स्वचालित डिलीवरी सम्मिलित होती है। 'प्रोग्रामेटिक' ऑनलाइन विज्ञापन में प्रत्यक्ष मानव निर्णय लेने के बजाय सॉफ्टवेयर के माध्यम से वेबसाइटों और प्लेटफार्मों पर डिजिटल विज्ञापन की बिक्री और वितरण को स्वचालित करना सम्मिलित है।<ref name=":6" /> इसे कभी-कभी जलप्रपात मॉडल के रूप में जाना जाता है जिसमें विभिन्न प्रणालियों और खिलाड़ियों के चरणों का एक क्रम सम्मिलित होता है: प्रकाशक और डेटा प्रबंधन प्लेटफ़ॉर्म, उपयोगकर्ता डेटा, विज्ञापन सर्वर और उनके वितरण डेटा, इन्वेंट्री प्रबंधन प्रणाली, विज्ञापन व्यापारी और विज्ञापन एक्सचेंज।<ref name=":6" /> इस प्रणाली के साथ विभिन्न मुद्दे हैं जिनमें विज्ञापनदाताओं के लिए पारदर्शिता की कमी, असत्यापित मेट्रिक्स, विज्ञापन स्थानों पर नियंत्रण की कमी, ऑडियंस ट्रैकिंग और गोपनीयता संबंधी चिंताएँ सम्मिलित हैं।<ref name=":6" /> विज्ञापनों को नापसंद करने वाले इंटरनेट उपयोगकर्ताओं ने विज्ञापन अवरोधक तकनीकों जैसे काउंटर उपाय अपनाए हैं जो उपयोगकर्ताओं को वेबसाइटों और कुछ इंटरनेट अनुप्रयोगों से अवांछित विज्ञापन को स्वचालित रूप से फ़िल्टर करने की स्वीकृति देते हैं। 2017 में, 24% ऑस्ट्रेलियाई इंटरनेट उपयोगकर्ताओं के पास विज्ञापन अवरोधक थे।<ref>{{Cite report|last1=Newman|first1=N|last2=Fletcher|first2=R|last3=Kalogeropoulos|first3=A|date=2017|title=रॉयटर्स संस्थान डिजिटल समाचार रिपोर्ट|url=https://www.digitalnewsreport.org/./survey/|url-status=live|access-date=2022-01-19|publisher=Reuters Institute for the Study of Journalism|language=en-GB|archive-url=https://web.archive.org/web/20130817034629/http://www.digitalnewsreport.org/survey/ |archive-date=2013-08-17 }}</ref>
=== स्वास्थ्य ===
डीप लर्निंग एआई इमेज मॉडल [[ कंप्यूटर एडेड निदान |कंप्यूटर एडेड निदान]] हैं। एक्स-रे की समीक्षा करने और आंखों की स्थिति मैक्यूलर डिजनरेशन का पता लगाने के लिए उपयोग किया जाता है।

=== [[सामाजिक सेवाएं]] ===
सरकारें 2000 के दशक की शुरुआत से अधिक कुशल प्रशासन और सामाजिक सेवाएं प्रदान करने के लिए डिजिटल तकनीकों को लागू कर रही हैं, जिन्हें प्रायः ई-सरकार कहा जाता है। दुनिया भर में कई सरकारें अब प्रोफाइलिंग और लक्षित नीतियों और सेवाओं के लिए स्वचालित, एल्गोरिथम सिस्टम का उपयोग कर रही हैं, जिसमें जोखिमों के आधार पर एल्गोरिथम पुलिसिंग, एयरपोर्ट स्क्रीनिंग जैसे लोगों की निगरानी सॉर्टिंग, बाल संरक्षण में जोखिम प्रोफाइल के आधार पर सेवाएं प्रदान करना, रोजगार सेवाएं प्रदान करना और शासन करना सम्मिलित है। बेरोजगार।<ref name=":7">{{Cite journal |last=Henman |first=Paul |date=2019-01-02 |title=Of algorithms, Apps and advice: digital social policy and service delivery |url=https://www.tandfonline.com/doi/full/10.1080/17516234.2018.1495885 |journal=Journal of Asian Public Policy |language=en |volume=12 |issue=1 |pages=71–89 |doi=10.1080/17516234.2018.1495885 |s2cid=158229201 |issn=1751-6234}}</ref> सामाजिक सेवाओं में एडीएम का एक महत्वपूर्ण अनुप्रयोग भविष्य कहनेवाला विश्लेषण के उपयोग से संबंधित है - उदाहरण के लिए बाल संरक्षण में दुर्व्यवहार/उपेक्षा से बच्चों के लिए जोखिम की भविष्यवाणी, पुलिस और आपराधिक न्याय में अपराध या अपराध की भविष्यवाणी, कल्याण की भविष्यवाणी/ अनुपालन प्रणालियों में कर धोखाधड़ी , रोजगार सेवाओं में दीर्घकालिक बेरोजगारी की भविष्यवाणी। ऐतिहासिक रूप से ये प्रणालियाँ मानक सांख्यिकीय विश्लेषणों पर आधारित थीं, हालाँकि 2000 के दशक की शुरुआत से मशीन लर्निंग तेजी से विकसित और तैनात की गई है। सामाजिक सेवाओं में एडीएम के उपयोग के साथ प्रमुख मुद्दों में पूर्वाग्रह, निष्पक्षता, उत्तरदायित्व और व्याख्यात्मकता सम्मिलित है जो निर्णय के कारणों के आसपास पारदर्शिता को संदर्भित करता है और जिस आधार पर एक मशीन ने निर्णय लिया है, उसकी व्याख्या करने की क्षमता।<ref name=":7" /> उदाहरण के लिए, ऑस्ट्रेलिया की संघीय सामाजिक सुरक्षा वितरण एजेंसी, सेंटरलिंक ने ऋण का पता लगाने और एकत्र करने के लिए एक स्वचालित प्रक्रिया विकसित और कार्यान्वित की, जिसके कारण गलत तरीके से ऋण वसूली के कई मामले सामने आए, जिसे रोबोडेट योजना के रूप में जाना जाने लगा।<ref>{{Cite journal |last=Henman |first=Paul |date=2017 |title=The Computer Says 'Debt': Towards A Critical Sociology Of Algorithms And Algorithmic Governance |url=https://zenodo.org/record/884116 |journal=Data for Policy 2017: Government by Algorithm? Conference, London |doi=10.5281/ZENODO.884116}}</ref>
=== परिवहन और गतिशीलता ===
कनेक्टेड और ऑटोमेटेड मोबिलिटी (सीएएम) में स्वायत्त वाहन जैसे कि [[सेल्फ ड्राइविंग कार]] और परिवहन के अन्य रूप सम्मिलित हैं जो वाहन के मानव नियंत्रण के विभिन्न पहलुओं को बदलने के लिए स्वचालित निर्णय निर्धारण वाली प्रणाली का उपयोग करते हैं। [31] यह स्तर 0 (पूर्ण मानव ड्राइविंग) से लेकर स्तर 5 (पूर्णतः स्वायत्त) तक हो सकता है।<ref name=":1" /> स्तर 5 पर मशीन डेटा मॉडल और भू-स्थानिक मानचित्रण और रीयल-टाइम सेंसर और पर्यावरण के प्रसंस्करण के आधार पर वाहन को नियंत्रित करने के निर्णय लेने में सक्षम है। 2021 में 1 से 3 के स्तर वाली कारें पहले से ही बाजार में उपलब्ध हैं। 2016 में जर्मन सरकार ने 'स्वचालित और कनेक्टेड ड्राइविंग पर नैतिकता आयोग' की स्थापना की, जिसने कनेक्टेड और स्वचालित वाहनों (CAV) को विकसित करने की सिफारिश की, यदि सिस्टम मानव की तुलना में कम दुर्घटनाओं का कारण बनता है। ड्राइवर (जोखिम का सकारात्मक संतुलन)। इसने स्वचालित और कनेक्टेड ड्राइविंग के अनुकूलन के लिए 20 नैतिक नियम भी प्रदान किए।<ref>{{Cite report |last=Federal Ministry of Transport and Digital Infrastructures|title=ऑटोमेटेड और कनेक्टेड ड्राइविंग पर एथिक्स कमीशन की पूरी रिपोर्ट|url=https://www.bmvi.de/SharedDocs/EN/publications/report-ethics-commission.html?nn=187598|url-status=live|access-date=2021-11-23|website=www.bmvi.de|publisher=German Government|archive-url=https://web.archive.org/web/20170904223320/http://www.bmvi.de:80/SharedDocs/EN/publications/report-ethics-commission.html?nn=187598 |archive-date=2017-09-04 }}</ref> 2020 में सीएएम पर यूरोपीय आयोग की रणनीति ने सिफारिश की कि उन्हें सड़क दुर्घटनाओं को कम करने और उत्सर्जन को कम करने के लिए यूरोप में अपनाया जाना चाहिए, हालांकि स्व-ड्राइविंग कार भी दुर्घटनाओं के मामले में दायित्व और नैतिक निर्णय लेने के मामले में कई नीति, सुरक्षा और कानूनी मुद्दों को उठाती हैं। , साथ ही गोपनीयता के मुद्दे भी यदि एवी को व्यापक रूप से अपनाया जाना है तो स्वायत्त वाहनों में विश्वास के मुद्दे और उनकी सुरक्षा के बारे में समुदाय की चिंता प्रमुख कारक हैं।<ref name=":5">{{Cite journal|last1=Raats|first1=Kaspar|last2=Fors|first2=Vaike|last3=Pink|first3=Sarah|date=2020-09-01|title=Trusting autonomous vehicles: An interdisciplinary approach|url=https://www.sciencedirect.com/science/article/pii/S2590198220301123|journal=Transportation Research Interdisciplinary Perspectives|language=en|volume=7|pages=100201|doi=10.1016/j.trip.2020.100201|s2cid=225261480 |issn=2590-1982}}</ref>
=== [[निगरानी]] ===
सेंसर, कैमरा, ऑनलाइन लेन-देन और सोशल मीडिया के माध्यम से स्वचालित डिजिटल डेटा संग्रह ने सरकार और वाणिज्यिक क्षेत्रों में निगरानी प्रथाओं और संस्थानों के दायरे, पैमाने और लक्ष्यों का काफी विस्तार किया है।<ref>{{Cite book|last=Andrejevic|first=Mark|title=डिजिटल मीडिया और संचार की रूटलेज हैंडबुक|date=2021|publisher=Taylor and Francis|others=Leah A. Lievrouw, Brian Loader|isbn=978-1-315-61655-1|location=Abingdon, Oxon|chapter=Automated surveillance|oclc=1198978596}}</ref> परिणामस्वरूप संदिग्धों की लक्षित निगरानी से पूरी आबादी की निगरानी करने की क्षमता में एक बड़ा बदलाव आया है।<ref>{{Cite book|last=Pasquale|first=Frank|title=Black box society: the secret algorithms that control money and information|date=2016|publisher=Harvard University Press|isbn=978-0-674-97084-7|edition=|location=Cambridge, Massachusetts|oclc=946975299}}</ref> स्वचालित डेटा संग्रह के परिणामस्वरूप अब निगरानी के स्तर को [[निगरानी पूंजीवाद]] या निगरानी अर्थव्यवस्था के रूप में वर्णित किया गया है, जिस तरह से डिजिटल मीडिया में बड़े पैमाने पर ट्रैकिंग और हर बातचीत पर डेटा का संचय सम्मिलित है।

== नैतिक और कानूनी मुद्दे ==
स्वचालित निर्णय निर्धारण वाली प्रणालियों के कई सामाजिक, नैतिक और कानूनी निहितार्थ हैं। उठाई गई चिंताओं में पारदर्शिता की कमी और फैसलों की प्रतिस्पर्धात्मकता, गोपनीयता और निगरानी पर घुसपैठ, डेटा और [[एल्गोरिथम पूर्वाग्रह]] के कारण प्रणालीगत पूर्वाग्रह और असमानता को बढ़ाना, बौद्धिक संपदा अधिकार, मीडिया प्लेटफॉर्म के माध्यम से गलत सूचना का प्रसार, प्रशासनिक भेदभाव, जोखिम और जिम्मेदारी, बेरोजगारी और सम्मिलित हैं। कई अन्य।<ref>{{Cite book|last=Eubanks|first=Virginia|title=Automating inequality: how high-tech tools profile, police, and punish the poor|date=2018|isbn=978-1-250-07431-7|edition=First|location=New York, NY|oclc=1013516195}}</ref><ref name="Noble-2018">{{Cite Q|Q48816548}}</ref> जैसा कि एडीएम अधिक सर्वव्यापी हो जाता है, सूचना समाजों में सुशासन सुनिश्चित करने के लिए नैतिक चुनौतियों का समाधान करने की अधिक आवश्यकता है।<ref>{{Cite journal|last=Cath|first=Corinne|date=2018-11-28|title=Governing artificial intelligence: ethical, legal and technical opportunities and challenges|journal=Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences|volume=376|issue=2133|pages=20180080|doi=10.1098/rsta.2018.0080|pmc=6191666|pmid=30322996|bibcode=2018RSPTA.37680080C}}</ref>

एडीएम सिस्टम प्रायः मशीन लर्निंग और एल्गोरिदम पर आधारित होते हैं जिन्हें आसानी से देखा या विश्लेषण नहीं किया जा सकता है, जिससे चिंता होती है कि वे 'ब्लैक बॉक्स' सिस्टम हैं जो पारदर्शी या जवाबदेह नहीं हैं।<ref name=":1" />

कनाडा में सिटीजन लैब की एक रिपोर्ट विभिन्न क्षेत्रों में एडीएम के अनुप्रयोग के एक महत्वपूर्ण मानवाधिकार विश्लेषण के लिए तर्क देती है ताकि यह सुनिश्चित किया जा सके कि स्वचालित निर्णय निर्धारण का उपयोग अधिकारों के उल्लंघन में न हो, जिसमें समानता के अधिकार और गैर-भेदभाव की स्वतंत्रता सम्मिलित है। आंदोलन, अभिव्यक्ति, धर्म, और संघ गोपनीयता अधिकार और व्यक्ति के जीवन, स्वतंत्रता और सुरक्षा के अधिकार।<ref name=":0" />

एडीएम को विधायी प्रतिक्रियाओं में सम्मिलित हैं:

* [[यूरोपीय संघ]] सामान्य डेटा संरक्षण [[विनियमन (यूरोपीय संघ)]], 2016 में पेश किया गया, यूरोपीय संघ (ईयू) में डेटा संरक्षण और गोपनीयता पर यूरोपीय संघ के कानून में एक विनियमन है। अनुच्छेद 22(1) डेटा विषयों के निर्णय के अधीन नहीं होने के अधिकार को स्थापित करता है, जिसके कानूनी या अन्य महत्वपूर्ण प्रभाव होते हैं, जो पूरी तरह से स्वचालित व्यक्तिगत निर्णय लेने पर आधारित होते हैं।<ref>{{Cite web|title=EUR-Lex - 32016R0679 - EN - EUR-Lex|url=https://eur-lex.europa.eu/eli/reg/2016/679/oj|access-date=2021-09-13|website=eur-lex.europa.eu|language=en}}</ref><ref>{{Cite journal|last=Brkan|first=Maja|date=2017-06-12|title=सामान्य डेटा संरक्षण विनियमन के तहत एआई-समर्थित निर्णय लेना|journal=Proceedings of the 16th Edition of the International Conference on Articial Intelligence and Law|series=ICAIL '17|location=London, United Kingdom|publisher=Association for Computing Machinery|pages=3–8|doi=10.1145/3086512.3086513|isbn=978-1-4503-4891-1|s2cid=23933541}}</ref> जीडीपीआर में स्पष्टीकरण के अधिकार पर कुछ नियम भी सम्मिलित हैं, हालांकि इनका सटीक दायरा और प्रकृति वर्तमान में यूरोपीय संघ के न्यायालय द्वारा समीक्षा के अधीन है। [41] इन प्रावधानों को पहली बार GDPR में पेश नहीं किया गया था, लेकिन 1995 में डेटा प्रोटेक्शन डायरेक्टिव और 1978 के फ्रांसीसी कानून, लोई इंफॉर्मेटिक एट लिबर्टेस [fr] के बाद से पूरे यूरोप में एक समान रूप में सम्मिलित हैं।<ref>{{Cite web |last=Court of Justice of the European Union |title=Request for a preliminary ruling from the Verwaltungsgericht Wien (Austria) lodged on 16 March 2022 – CK (Case C-203/22) |url=https://curia.europa.eu/juris/document/document.jsf;jsessionid=D5AAF1438A2EF2166055E0308FADD999?text=&docid=260303&pageIndex=0&doclang=EN&mode=lst&dir=&occ=first&part=1&cid=6699684}}</ref> इसी तरह युगांडा, मोरक्को और अमेरिकी राज्य वर्जीनिया सहित दुनिया भर के कई अन्य न्यायालयों के [[डेटा संरक्षण निर्देश]] में अलग-अलग संलग्न अधिकारों और दायित्वों के साथ दायरे और शब्दों के प्रावधान सम्मिलित हैं।<ref>{{Interlanguage link|loi informatique et libertés|fr}}.<nowiki><ref>= एडवर्ड्स 46-54 >{{Cite journal |last1=Edwards |first1=Lilian |last2=Veale |first2=Michael |date=May 2018 |title=एल्गोरिथम को गुलाम बनाना: "स्पष्टीकरण के अधिकार" से "बेहतर निर्णय के अधिकार" तक?|url=</nowiki>https://ieeexplore.ieee.org/document/8395080 |journal=IEEE Security & Privacy |volume=16 |issue=3 |pages=46–54 |doi=10.1109/MSP.2018.2701152 |s2cid=4049746 |issn=1540-7993}। रेफरी>{{Cite journal |last1=Binns |first1=Reuben |last2=Veale |first2=Michael |date=2021-12-20 |title=क्या यह आपका अंतिम निर्णय है? मल्टी-स्टेज प्रोफाइलिंग, चयनात्मक प्रभाव और GDPR का अनुच्छेद 22|url=https://academic.oup.com/idpl/article/11/4/319/6403925 |journal=International Data Privacy Law |language=en |volume=11 |issue=4 |page=320 |doi=10.1093/idpl/ipab020 |issn=2044-3994}}&lt;nowiki&gt;</ref></nowiki></ref>
* फ्रांसीसी लोई पोर यूने रेपुब्लिक न्यूमेरिक के तहत 'एल्गोरिदमिक ट्रीटमेंट' बनाने वाले सार्वजनिक क्षेत्र के स्वचालित निर्णयों की व्याख्या के अधिकार <रेफरी नाम = एडवर्ड्स 46–54 />

=== पूर्वाग्रह ===
एडीएम निम्न से उत्पन्न एल्गोरिथम बायस को सम्मिलित कर सकता है:
* डेटा स्रोत, जहां डेटा इनपुट उनके संग्रह या चयन में पक्षपाती हैं<ref name="Noble-2018" />
*एल्गोरिद्म का तकनीकी डिज़ाइन, उदाहरण के लिए जहां यह अनुमान लगाया गया है कि कोई व्यक्ति कैसे व्यवहार करेगा<ref name=":4">{{Cite journal|last1=Friedman|first1=Batya|last2=Nissenbaum|first2=Helen|date=July 1996|title=कंप्यूटर सिस्टम में पक्षपात|url=https://dl.acm.org/doi/10.1145/230538.230561|journal=ACM Transactions on Information Systems|language=en|volume=14|issue=3|pages=330–347|doi=10.1145/230538.230561|s2cid=207195759 |issn=1046-8188}}</ref>
* आकस्मिक पूर्वाग्रह, जहां अप्रत्याशित परिस्थितियों में एडीएम का आवेदन एक पक्षपाती परिणाम बनाता है<ref name=":4" /><br />
=== स्पष्टीकरण ===
पक्षपाती या गलत डेटा या एल्गोरिदम के प्रश्न और चिंताएं कि कुछ एडीएम ब्लैक बॉक्स प्रौद्योगिकियां हैं, मानव जांच या पूछताछ के लिए बंद हैं, ने व्याख्यात्मकता के मुद्दे या स्वचालित निर्णयों और एआई के स्पष्टीकरण के अधिकार के रूप में संदर्भित किया है। इसे एक्सप्लेनेबल एआई (एक्सएआई) या इंटरप्रेटेबल एआई के रूप में भी जाना जाता है, जिसमें समाधान के परिणामों का विश्लेषण किया जा सकता है और मनुष्यों द्वारा समझा जा सकता है। XAI एल्गोरिदम को तीन सिद्धांतों - पारदर्शिता, व्याख्यात्मकता और व्याख्यात्मकता का पालन करने के लिए माना जाता है।

=== सूचना विषमता ===
स्वचालित निर्णय निर्धारण से उन व्यक्तियों के बीच सूचना विषमता बढ़ सकती है, जिनका डेटा सिस्टम में फीड होता है और उस डेटा से जानकारी प्राप्त करने में सक्षम प्लेटफ़ॉर्म और निर्णय लेने वाली प्रणालियाँ। दूसरी ओर यह देखा गया है कि वित्तीय व्यापार में दो कृत्रिम बुद्धिमान एजेंटों के बीच सूचना विषमता दो मानव एजेंटों या मानव और मशीन एजेंटों के बीच की तुलना में बहुत कम हो सकती है।<ref>{{Cite book|last=Marwala|first=Tshilidzi|title=Artificial intelligence and economic theory: Skynet in the market|date=2017|others=Evan Hurwitz|isbn=978-3-319-66104-9|location=Cham|oclc=1004620876}}</ref>
== अनुसंधान क्षेत्र ==
कई शैक्षणिक विषयों और क्षेत्रों में व्यापार, कंप्यूटर विज्ञान, मानव कंप्यूटर इंटरैक्शन (एचसीआई), कानून, लोक प्रशासन, और मीडिया और संचार सहित एडीएम के विकास, अनुप्रयोग और निहितार्थ पर तेजी से ध्यान दिया जा रहा है। खोज प्रणालियों और प्लेटफार्मों के माध्यम से मीडिया सामग्री और एल्गोरिथम संचालित समाचार, वीडियो और अन्य सामग्री का स्वचालन मीडिया अध्ययनों में अकादमिक अनुसंधान का एक प्रमुख केंद्र है।<ref name=":6" />

निष्पक्षता, जवाबदेही और पारदर्शिता पर ACM सम्मेलन (ACM FAccT) की स्थापना 2018 में सामाजिक-तकनीकी प्रणालियों के संदर्भ में पारदर्शिता और व्याख्यात्मकता का अध्ययन करने के लिए की गई थी, जिनमें से कई में एडीएम और AI सम्मिलित हैं।

एडीएम की जांच करने वाले प्रमुख अनुसंधान केंद्रों में सम्मिलित हैं:
* एल्गोरिथम वॉच, जर्मनी
*[[स्वचालित निर्णय लेने और समाज के लिए एआरसी सेंटर ऑफ एक्सीलेंस|स्वचालित निर्णय निर्धारण और समाज के लिए एआरसी सेंटर ऑफ एक्सीलेंस]], ऑस्ट्रेलिया
*सिटीजन लैब, कनाडा
* [[सूचना विज्ञान यूरोप]]

== यह भी देखें ==
* [[स्वचालित निर्णय समर्थन]]
* एल्गोरिथम पूर्वाग्रह
* [[निर्णय लेने वाला सॉफ्टवेयर|निर्णयन सॉफ्टवेयर]]
* [[निर्णय प्रबंधन]]
*कृत्रिम बुद्धिमत्ता की नैतिकता
* सरकार द्वारा एल्गोरिथम 
*यंत्र शिक्षण
*संस्तुति प्रणाली

== संदर्भ ==
{{Reflist}}
[[Category: विज्ञान और प्रौद्योगिकी अध्ययन]] [[Category: स्वचालन|&]] [[Category: अंकीय प्रौद्योगिकी]] [[Category: यंत्र अधिगम]] 



[[Category: Machine Translated Page]]
[[Category:Created On 31/05/2023]]