View source for यादृच्छिक प्रक्षेपण

गणित और सांख्यिकी में यादृच्छिक प्रक्षेपण एक ऐसी विधि है जिसका उपयोग [[यूक्लिडियन अंतरिक्ष]] में स्थित बिंदुओं के एक सेट के आयाम में कमी के लिए किया जाता है। अन्य विधियों की तुलना में यादृच्छिक प्रक्षेपण विधियों को उनकी शक्ति सरलता और कम त्रुटि दर के लिए जाना जाता है. प्रायोगिक परिणामों के अनुसार यादृच्छिक प्रक्षेपण दूरियों को अच्छी तरह से संरक्षित करता है किंतु अनुभवजन्य परिणाम विरल हैं।<ref>{{cite conference
 | first1 = Bingham | last1 = Ella
 | first2 = Mannila | last2 = Heikki
 | title = Random projection in dimensionality reduction: Applications to image and text data
 | book-title = KDD-2001: Proceedings of the Seventh ACM SIGKDD International Conference on Knowledge Discovery and Data Mining
 | pages = 245–250
 | publisher = Association for Computing Machinery | date = 2001 | location = New York
 | doi = 10.1145/502512.502546 | citeseerx = 10.1.1.24.5135
 }}</ref> उन्हें [[ यादृच्छिक अनुक्रमण |यादृच्छिक अनुक्रमण]] नाम के तहत कई प्राकृतिक भाषा कार्यों में प्रयुक्त किया गया है।

== आयामीता में कमी ==
{{main|आयामीता में कमी}}
आयाम में कमी जैसा कि नाम से पता चलता है सांख्यिकी और मशीन सीखने से विभिन्न गणितीय विधियों का उपयोग करके यादृच्छिक चर की संख्या को कम कर रहा है। बड़े डेटा सेट के प्रबंधन और हेरफेर की समस्या को कम करने के लिए अधिकांशतः आयाम में कमी का उपयोग किया जाता है। आयामीता में कमी की विधि सामान्यतः कई गुना की आंतरिक आयामीता को निर्धारित करने के साथ-साथ इसके प्रमुख दिशाओं को निकालने में रैखिक परिवर्तनों का उपयोग करती है। इस उद्देश्य के लिए विभिन्न संबंधित विधि हैं जिनमें सम्मिलित हैं: प्रमुख घटक विश्लेषण [[रैखिक विभेदक विश्लेषण]] [[विहित सहसंबंध विश्लेषण]], [[असतत कोसाइन परिवर्तन]], यादृच्छिक प्रक्षेपण आदि।

यादृच्छिक प्रक्षेपण तेजी से प्रसंस्करण समय और छोटे मॉडल आकारों के लिए त्रुटि की नियंत्रित मात्रा का व्यापार करके डेटा के आयाम को कम करने का एक सरल और कम्प्यूटेशनल रूप से कुशल विधि है। यादृच्छिक प्रक्षेपण मैट्रिसेस के आयाम और वितरण को नियंत्रित किया जाता है जिससे डेटासेट के किसी भी दो नमूनों के बीच जोड़ीदार दूरी को लगभग संरक्षित किया जा सकता है ।

== विधि ==

यादृच्छिक प्रक्षेपण के पीछे मुख्य विचार [[ जॉनसन-लिंडनस्ट्रॉस लेम्मा |जॉनसन-लिंडनस्ट्रॉस लेम्मा]] में दिया गया है,<ref>{{cite book
 | last1 = Johnson
 | first1 = William B.
 | author1-link = William B. Johnson (mathematician)
 | last2 = Lindenstrauss
 | first2 = Joram
 | author2-link = Joram Lindenstrauss
 | contribution = Extensions of Lipschitz mappings into a Hilbert space
 | doi = 10.1090/conm/026/737400
 | location = Providence, RI
 | mr = 737400
 | pages = [https://archive.org/details/conferenceinmode0000conf/page/189 189–206]
 | publisher = American Mathematical Society
 | series = Contemporary Mathematics
 | title = Conference in Modern Analysis and Probability (New Haven, Conn., 1982)
 | volume = 26
 | year = 1984
 | isbn = 9780821850305
 | s2cid = 117819162
 | url-access = registration
 | url = https://archive.org/details/conferenceinmode0000conf/page/189
 }}.
</ref> जिसमें कहा गया है कि यदि सदिश स्थान में बिंदु पर्याप्त रूप से उच्च आयाम के हैं तो उन्हें उपयुक्त निम्न-आयामी स्थान में इस तरह प्रक्षेपित किया जा सकता है जो बिंदुओं के बीच की दूरी को लगभग संरक्षित करता है।

यादृच्छिक प्रक्षेपण में, मूल d-आयामी डेटा को एक k-आयामी (k << d) उप-स्थान पर प्रक्षेपित किया जाता है, एक यादृच्छिक <math>k \times d </math> - आयामी आव्यूह R का उपयोग करके जिसके स्तंभों की इकाई लंबाई होती है। आव्यूह संकेतन का उपयोग करना: यदि <math>X_{d \times N}</math> N d-आयामी प्रेक्षणों का मूल सेट है तो <math>X_{k \times N}^{RP}=R_{k \times d}X_{d \times N}</math> निम्न k-आयामी उप-स्थान पर डेटा का प्रक्षेपण है। यादृच्छिक प्रक्षेपण कम्प्यूटेशनल रूप से सरल है: यादृच्छिक आव्यूह "R" बनाएं और <math>d \times N</math> डेटा आव्यूह X को क्रम <math>O(dkN)</math> के K आयामों पर प्रोजेक्ट करें। यदि डेटा आव्यूह X विरल है और प्रति स्तंभ लगभग c अशून्य प्रविष्टियों के साथ है, तो इस ऑपरेशन की जटिलता क्रम <math>O(ckN)</math> की है।<ref>{{Cite web|url =http://www.ime.unicamp.br/~wanderson/Artigos/randon_projection_kdd.pdf |title =Random projection in dimensionality reduction: Applications to image and text data |date = May 6, 2014|website = | last1 = Bingham | first1 = Ella | last2 = Mannila | first2 = Heikki  }}</ref>

=== गाऊसी यादृच्छिक प्रक्षेपण ===

गाऊसी वितरण का उपयोग करके यादृच्छिक आव्यूह आर उत्पन्न किया जा सकता है। पहली पंक्ति एक यादृच्छिक इकाई सदिश है जिसे समान रूप से चुना गया है <math>S^{d-1}</math> दूसरी पंक्ति अंतरिक्ष ऑर्थोगोनल से पहली पंक्ति तक एक यादृच्छिक इकाई सदिश है तीसरी पंक्ति अंतरिक्ष ऑर्थोगोनल से पहली दो पंक्तियों तक एक यादृच्छिक इकाई सदिश है और इसी तरह। इस प्रकार R को चुनने पर निम्नलिखित गुण संतुष्ट होते हैं:
* गोलाकार समरूपता: किसी भी ओर्थोगोनल आव्यूह के लिए <math>A \in O(d)</math>, RA और R का वितरण समान है।
* लम्बवत: R की पंक्तियाँ एक दूसरे के लम्बवत हैं।
* सामान्यता: R की पंक्तियाँ इकाई-लंबाई वाले सदिश हैं।

=== अधिक कम्प्यूटेशनल रूप से कुशल यादृच्छिक अनुमान ===

अचलोपता<ref>{{cite book|doi=10.1145/375551.375608|chapter=Database-friendly random projections|title=डेटाबेस सिस्टम के सिद्धांतों पर बीसवीं ACM SIGMOD-SIGACT-SIGART संगोष्ठी की कार्यवाही - PODS '01|pages=274–281|year=2001|last1=Achlioptas|first1=Dimitris|isbn=978-1581133615|citeseerx=10.1.1.28.6652|s2cid=2640788}}</ref> ने दिखाया है कि गॉसियन वितरण को बहुत सरल वितरण द्वारा प्रतिस्थापित किया जा सकता है जैसे कि
:<math>R_{i,j} = \sqrt{3} \times \begin{cases}
+1 & \text{with probability }\frac{1}{6}\\
0 & \text{with probability }\frac{2}{3}\\
-1 & \text{with probability }\frac{1}{6} \end{cases} </math>
यह डेटाबेस अनुप्रयोगों के लिए कुशल है क्योंकि पूर्णांक अंकगणितीय का उपयोग करके संगणना की जा सकती है। में अधिक संबंधित अध्ययन किया जाता है।<ref>{{cite journal
 | first1 = Ping | last1 = Li | last2 = Hastie | first2 = Trevor | last3 = Church | first3 = Kenneth
 | doi = 10.1145/1150402.1150436
 | issue = 1
 | pages = 287–296 | journal = 12th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining
 | title = Very sparse random projections
 | year = 2006| isbn = 1595933395 | s2cid = 7995734 }}
</ref>

यह बाद में दिखाया गया कि स्पार्स जेएल ट्रांसफॉर्म पर काम में वितरण को और भी विरल बनाते हुए पूर्णांक अंकगणित का उपयोग कैसे किया जाए जिसमें प्रति स्तंभ बहुत कम गैर शून्य हैं।<ref>{{cite journal
 | first1 = Daniel M. | last1 = Kane | last2 = Nelson | first2 = Jelani
 | doi = 10.1145/2559902
 | issue = 1
 | pages = 1–23 | journal = [[Journal of the ACM]]
 | title = Sparser Johnson-Lindenstrauss Transforms
 | volume = 61
 | year = 2014
 | mr = 3167920| arxiv = 1012.1577| s2cid = 7821848 }}
</ref> यह लाभ्प्रद्ध है क्योंकि एक विरल एम्बेडिंग आव्यूह का अर्थ डेटा को कम आयाम में और भी तेज़ी से प्रोजेक्ट करने में सक्षम होना है।

=== परिमाणीकरण के साथ यादृच्छिक प्रक्षेपण ===


रैंडम प्रक्षेपण को 1-बिट (साइन यादृच्छिक प्रक्षेपण) या मल्टी-बिट्स के साथ परिमाणीकरण (विवेकीकरण) द्वारा आगे बढ़ाया जा सकता है।<ref>{{cite journal
 | first1 = Moses | last1 = Charikar
 | doi = 10.1145/509907.509965
 | issue = 1
 | pages = 380–388 | journal = 34-th Annual ACM Symposium on Theory of Computing
 | title = Similarity estimation techniques from rounding algorithms
 | volume = 1
 | year = 2002| isbn = 1581134959
 | s2cid = 4229473
 }}
</ref> <ref>{{cite journal
 | first1 = Yoav | last1 = Freund | first2 = Sanjoy | last2 = Dasgupta | first3 = Mayank | last3 = Kabra | first4 = Nakul | last4 = Verma 
 | issue = 1
 | pages = 473–480 | journal = 20th International Conference on Neural Information Processing Systems
 | title = Learning the structure of manifolds using random projections
 | volume = 1
 | year = 2007}}
</ref> यह सिमहैश आरपी  ट्री और अन्य मेमोरी कुशल आकलन और सीखने के विधि  का निर्माण खंड है।<ref>{{cite journal
 | first1 = Petros | last1 = Boufounos | first2 = Richard | last2 = Baraniuk
 | issue = 1
 | pages = 16–21 | journal = 42nd Annual Conference on Information Sciences and Systems
 | title = 1-bit Compressive Sensing
 | volume = 1
 | year = 2008| doi = 10.1109/CISS.2008.4558487 | s2cid = 206563812 }}
</ref><ref>{{cite journal
 | first1 = Xiaoyun | last1 = Li | first2 = Ping | last2 = Li
 | pages = 15150–15160 | journal = 33rd International Conference on Neural Information Processing Systems
 | title = Generalization error analysis of quantized compressive learning
 | volume = 1
 | year = 2019}}
</ref>
== बड़ा क्वासियोर्थोगोनल [[आधार (रैखिक बीजगणित)]] ==
जॉनसन-लिंडनस्ट्रॉस लेम्मा जॉनसन-लिंडनस्ट्रॉस लेम्मा कहता है कि एक उच्च-आयामी अंतरिक्ष में सदिश के बड़े सेट को दूरी के अनुमानित संरक्षण के साथ बहुत कम (किंतु अभी भी उच्च) आयाम n के स्थान में रैखिक रूप से मैप किया जा सकता है। इस आशय की व्याख्याओं में से एक एन-आयामी यूक्लिडियन अंतरिक्ष का घातीय रूप से उच्च क्वासियोर्थोगोनल आयाम है।<ref>{{citation
 | last1 = Kainen | first1 = Paul C. | author1-link = Paul Chester Kainen
 | last2 = Kůrková | first2 = Věra | author2-link = Věra Kůrková
 | doi = 10.1016/0893-9659(93)90023-G
 | issue = 3
 | journal = Applied Mathematics Letters
 | mr = 1347278
 | pages = 7–10
 | title = Quasiorthogonal dimension of Euclidean spaces
 | volume = 6
 | year = 1993| doi-access = free
 }}</ref> एन-आयामी यूक्लिडियन स्थान में लगभग [[ओर्थोगोनालिटी]] सदिश ([[आंतरिक उत्पाद स्थान]] के छोटे मान के साथ) के घातीय रूप से बड़े (आयाम एन में) सेट हैं। यह अवलोकन उच्च-आयामी डेटा के [[ डाटाबेस इंडेक्स |डाटाबेस इंडेक्स]] में उपयोगी है।<ref>{{cite book |last1=Hecht-Nielsen |first1=R. |chapter=Context vectors: General-purpose approximate meaning representations self-organized from raw data |pages=43–56 |editor1-last=Zurada |editor1-first=Jacek M. |editor2-last=Marks |editor2-first=Robert Jackson |editor3-last=Robinson |editor3-first=Charles J. |title=Computational Intelligence: Imitating Life |date=1994 |publisher=IEEE |isbn=978-0-7803-1104-6 }}</ref>

मशीन सीखने में यादृच्छिक सन्निकटन के विधि  के लिए बड़े यादृच्छिक सेटों की क्वासियोर्थोगोनलिटी महत्वपूर्ण है। उच्च आयामों में एक गोले पर (और कई अन्य वितरणों से) समवितरण से यादृच्छिक विधि से और स्वतंत्र रूप से चुने गए सदिशों की घातीय रूप से बड़ी संख्या एक के समीप संभावना के साथ लगभग ओर्थोगोनल हैं।<ref name="GorbanTyukin2016">{{cite journal
 | first1 = Alexander N. | last1 = Gorban | author1-link = Aleksandr Gorban
 | first2 = Ivan Y. | last2 = Tyukin | first3 = Danil V. | last3 = Prokhorov | first4 = Konstantin I. | last4 = Sofeikov
 | doi = 10.1016/j.ins.2015.09.021
 | pages = 129–145
 | journal = [[Information Sciences (journal)|Information Sciences]]
 | title = Approximation with Random Bases: Pro et Contra
 | volume = 364-365
 | year = 2016
 | arxiv = 1506.04631| s2cid = 2239376 }}</ref> इसका तात्पर्य यह है कि यादृच्छिक और स्वतंत्र रूप से चुने गए सदिशो  के रैखिक संयोजनों द्वारा इस तरह के उच्च-आयामी स्थान के एक तत्व का प्रतिनिधित्व करने के लिए यदि हम रैखिक संयोजनों में परिबद्ध गुणांक का उपयोग करते हैं तो अधिकांशतः घातीय रूप से बड़ी लंबाई के नमूने उत्पन्न करना आवश्यक हो सकता है। दूसरी ओर यदि इच्छानुसार से बड़े मानो वाले गुणांकों की अनुमति है तो यादृच्छिक रूप से उत्पन्न तत्वों की संख्या जो सन्निकटन के लिए पर्याप्त हैं डेटा स्थान के आयाम से भी कम है।

'''में यादृच्छिक सन्निकटन के विधि  के लिए बड़े यादृच्छिक सेटों की क्वासियोर्थोगोनलिटी महत्वपूर्ण है। उच्च आयामों में एक गोले पर (और कई अन्य वित'''

== कार्यान्वयन                    ==

* [https://cran.r-project.org/web/packages/RandPro/index.html RandPro] - यादृच्छिक प्रक्षेपण के लिए एक आर पैकेज <ref>{{cite journal |last1=Ravindran |first1=Siddharth |title=के-निकटतम पड़ोसी (के-एनएन) का उपयोग करके बड़े डेटा वर्गीकरण में आयाम में कमी के लिए डेटा-स्वतंत्र पुन: प्रयोज्य प्रक्षेपण (डीआईआरपी) तकनीक|journal=National Academy Science Letters |volume=43 |pages=13–21 |doi=10.1007/s40009-018-0771-6 |year=2020 |s2cid=91946077 }}</ref><ref>{{cite journal |last1=Siddharth |first1=R. |last2=Aghila |first2=G. |title=RandPro- आर में उच्च आयामी बहुभिन्नरूपी डेटा विश्लेषण के लिए यादृच्छिक प्रक्षेपण-आधारित सुविधा निष्कर्षण का एक व्यावहारिक कार्यान्वयन|journal=SoftwareX |date=July 2020 |volume=12 |pages=100629 |doi=10.1016/j.softx.2020.100629 |bibcode=2020SoftX..1200629S |doi-access=free }}</ref>
*एसकेलर्न .यादृच्छिक प्रक्षेपण - स्किकिट-लर्न पाइथन लाइब्रेरी से रैंडम प्रोजेक्शन के लिए एक मॉड्यूल
* वीका कार्यान्वयन [http://weka.sourceforge.net/doc.stable/weka/filters/unsupervised/attribute/RandomProjection.html]

== यह भी देखें ==
* [[स्थानीयता-संवेदनशील हैशिंग]]
* [[रैंडम मैपिंग|यादृच्छिक मैपिंग]]
* जॉनसन-लिंडनस्ट्रॉस लेम्मा

==संदर्भ==
{{Reflist}}


==अग्रिम पठन==
* {{cite report |last1=Fodor |first1=Imola K |year=2002 |citeseerx=10.1.1.8.5098 |title=A survey of dimension reduction techniques }}
* {{cite thesis |first1=Aditya Krishna |last1=Menon |year=2007 |citeseerx=10.1.1.164.640 |title=Random projections and applications to dimensionality reduction }}
* {{cite report |last1=Ramdas |first1=Aditya |citeseerx=10.1.1.377.2593 |title=A Random Introduction To Random Projections }}
[[Category: आयाम में कमी]] 



[[Category: Machine Translated Page]]
[[Category:Created On 24/05/2023]]