वेक्टर परिमाणीकरण
वेक्टर परिमाणीकरण (VQ) संकेत आगे बढ़ाना से शास्त्रीय परिमाणीकरण (सिग्नल प्रोसेसिंग) तकनीक है जो प्रोटोटाइप वैक्टर के वितरण द्वारा संभाव्यता घनत्व कार्यों के मॉडलिंग की अनुमति देता है। इसका उपयोग मूल रूप से डेटा संपीड़न के लिए किया गया था। यह बिंदुओं के बड़े समूह (समन्वय वैक्टर) को उन समूहों में विभाजित करके काम करता है जिनके निकटतम बिंदुओं की संख्या लगभग समान होती है। प्रत्येक समूह को उसके केन्द्रक बिंदु द्वारा दर्शाया जाता है, जैसा कि k-साधन और कुछ अन्य क्लस्टर विश्लेषण एल्गोरिदम में होता है।
वेक्टर परिमाणीकरण की घनत्व मिलान संपत्ति शक्तिशाली है, विशेष रूप से बड़े और उच्च-आयामी डेटा के घनत्व की पहचान करने के लिए। चूँकि डेटा बिंदुओं को उनके निकटतम सेंट्रोइड के सूचकांक द्वारा दर्शाया जाता है, आमतौर पर होने वाले डेटा में कम त्रुटि होती है, और दुर्लभ डेटा में उच्च त्रुटि होती है। यही कारण है कि VQ हानिपूर्ण डेटा संपीड़न के लिए उपयुक्त है। इसका उपयोग हानिपूर्ण डेटा सुधार और घनत्व अनुमान के लिए भी किया जा सकता है।
वेक्टर परिमाणीकरण प्रतिस्पर्धी शिक्षण प्रतिमान पर आधारित है, इसलिए यह स्व-संगठित मानचित्र मॉडल और ऑटोएन्कोडर जैसे गहन शिक्षण एल्गोरिदम में उपयोग किए जाने वाले विरल कोडिंग मॉडल से निकटता से संबंधित है।
प्रशिक्षण
वेक्टर परिमाणीकरण के लिए सबसे सरल प्रशिक्षण एल्गोरिदम है:[1]
- यादृच्छिक रूप से नमूना बिंदु चुनें
- दूरी के छोटे से अंश द्वारा, निकटतम परिमाणीकरण वेक्टर सेंट्रोइड को इस नमूना बिंदु की ओर ले जाएं
- दोहराना
एक अधिक परिष्कृत एल्गोरिदम घनत्व मिलान अनुमान में पूर्वाग्रह को कम करता है, और अतिरिक्त संवेदनशीलता पैरामीटर को शामिल करके यह सुनिश्चित करता है कि सभी बिंदुओं का उपयोग किया जाता है[citation needed]:
- प्रत्येक केन्द्रक की संवेदनशीलता बढ़ाएँ छोटी राशि से
- एक नमूना बिंदु चुनें बिना सोचे समझे
- प्रत्येक परिमाणीकरण वेक्टर केन्द्रक के लिए , होने देना की दूरी को निरूपित करें और
- केन्द्रक ज्ञात कीजिए जिसके लिए सबसे छोटा है
- कदम की ओर दूरी के छोटे से अंश से
- तय करना शून्य करने के लिए
- दोहराना
अभिसरण उत्पन्न करने के लिए कूलिंग शेड्यूल का उपयोग करना वांछनीय है: तैयार किए हुयी धातु पे पानी चढाने की कला देखें। अन्य (सरल) विधि लिंडे-बुज़ो-ग्रे एल्गोरिदम है जो K- का अर्थ है क्लस्टरिंग |के-मीन्स पर आधारित है।
एल्गोरिदम को डेटा सेट से यादृच्छिक बिंदुओं को चुनने के बजाय 'लाइव' डेटा के साथ पुनरावृत्त रूप से अद्यतन किया जा सकता है, लेकिन यदि डेटा कई नमूनों पर अस्थायी रूप से सहसंबद्ध है तो यह कुछ पूर्वाग्रह पेश करेगा।
अनुप्रयोग
वेक्टर परिमाणीकरण का उपयोग हानिपूर्ण डेटा संपीड़न, हानिपूर्ण डेटा सुधार, पैटर्न पहचान, घनत्व अनुमान और क्लस्टरिंग के लिए किया जाता है।
हानिपूर्ण डेटा सुधार, या भविष्यवाणी, का उपयोग कुछ आयामों से गायब डेटा को पुनर्प्राप्त करने के लिए किया जाता है। यह उपलब्ध डेटा आयामों के साथ निकटतम समूह को ढूंढकर किया जाता है, फिर लापता आयामों के मानों के आधार पर परिणाम की भविष्यवाणी की जाती है, यह मानते हुए कि उनका मान समूह के सेंट्रोइड के समान होगा।
घनत्व अनुमान के लिए, वह क्षेत्र/आयतन जो किसी अन्य की तुलना में किसी विशेष केन्द्रक के करीब है, घनत्व के व्युत्क्रमानुपाती होता है (एल्गोरिदम की घनत्व मिलान संपत्ति के कारण)।
डेटा संपीड़न में उपयोग
सदिश स्थलिमाणीकरण, जिसे ब्लॉक परिमाणीकरण या पैटर्न मिलान परिमाणीकरण भी कहा जाता है, अक्सर हानिपूर्ण डेटा संपीड़न में उपयोग किया जाता है। यह बहुआयामी वेक्टर स्थान से मूल्यों को निचले आयाम के असतत रैखिक उपस्थान से मूल्यों के सीमित सेट में एन्कोडिंग द्वारा काम करता है। निचले-स्थान वाले वेक्टर को कम संग्रहण स्थान की आवश्यकता होती है, इसलिए डेटा संपीड़ित होता है। वेक्टर परिमाणीकरण की घनत्व मिलान संपत्ति के कारण, संपीड़ित डेटा में त्रुटियां होती हैं जो घनत्व के व्युत्क्रमानुपाती होती हैं।
परिवर्तन आमतौर पर प्रक्षेपण (गणित) या कोडबुक का उपयोग करके किया जाता है। कुछ मामलों में, कोडबुक का उपयोग आउटपुट के रूप में उपसर्ग कोडित चर-लंबाई एन्कोडेड मान उत्पन्न करके, उसी चरण में असतत मान को एन्ट्रापी कोड करने के लिए भी किया जा सकता है।
अलग-अलग आयाम स्तरों के सेट को प्रत्येक नमूने को अलग से परिमाणित करने के बजाय संयुक्त रूप से परिमाणित किया जाता है। k-आयामी वेक्टर पर विचार करें आयाम स्तर का. इसे एन-डायमेंशनल वैक्टर के सेट से निकटतम मिलान वाले वेक्टर को चुनकर संपीड़ित किया जाता है , n < k के साथ।
एन-आयामी वेक्टर के सभी संभावित संयोजन उस सदिश समष्टि का निर्माण करें जिससे सभी परिमाणित सदिश संबंधित हों। कोडबुक में परिमाणित मानों के बजाय केवल कोडवर्ड का सूचकांक भेजा जाता है। इससे स्थान की बचत होती है और अधिक संपीड़न प्राप्त होता है।
MPEG-4 (VQF) में TwinVQ#TwinVQ समय डोमेन भारित इंटरलीव्ड वेक्टर परिमाणीकरण से संबंधित MPEG-4 मानक का हिस्सा है।
वेक्टर परिमाणीकरण पर आधारित वीडियो कोडेक्स
- बैंक वीडियो[2]
- सिनेपैक
- डाला परिवर्तन-आधारित है लेकिन रूपांतरित गुणांकों पर पिरामिड वेक्टर परिमाणीकरण का उपयोग करता है[3]
- डिजिटल वीडियो इंटरैक्टिव: प्रोडक्शन-लेवल वीडियो और रियल-टाइम वीडियो
- Indeo
- माइक्रोसॉफ्ट वीडियो 1
- क्विकटाइम#क्विकटाइम 1.x: एप्पल वीडियो (आरपीजेडए) और क्विकटाइम ग्राफ़िक्स कोडेक (एसएमसी)
- सोरेनसन कोडेक SVQ1 और SVQ3
- स्मैकर वीडियो
- .VQA प्रारूप, कई खेलों में उपयोग किया जाता है
वेक्टर परिमाणीकरण पर आधारित वीडियो कोडेक्स के उपयोग में मोशन कंपंसेशन#ब्लॉक मोशन कंपंसेशन पूर्वानुमान के साथ ट्रांसफॉर्म कोडिंग#डिजिटल, जैसे के आधार पर काफी गिरावट आई है। जिन्हें एमपीईजी मानकों में परिभाषित किया गया है, क्योंकि वेक्टर परिमाणीकरण की कम डिकोडिंग जटिलता कम प्रासंगिक हो गई है।
वेक्टर परिमाणीकरण पर आधारित ऑडियो कोडेक्स
- अमर+
- सीईएलपी
- कोडेक 2
- डीटीएस सुसंगत ध्वनिकी
- जी.729
- iLBC
- ऑग वॉर्बिस[4]
- ओपस (कोडेक) ट्रांसफ़ॉर्म-आधारित है लेकिन रूपांतरित गुणांकों पर पिरामिड वेक्टर परिमाणीकरण का उपयोग करता है
- ट्विनवीक्यू
पैटर्न पहचान में उपयोग
VQ का उपयोग अस्सी के दशक में भाषण के लिए भी किया जाता था[5] और वक्ता की पहचान।[6] हाल ही में इसका उपयोग कुशल निकटतम पड़ोसी खोज के लिए भी किया गया है
[7]
और ऑन-लाइन हस्ताक्षर पहचान।[8] पैटर्न पहचान अनुप्रयोगों में, इस उपयोगकर्ता के ध्वनिक वैक्टर का उपयोग करके प्रत्येक वर्ग (प्रत्येक वर्ग बायोमेट्रिक अनुप्रयोगों में उपयोगकर्ता होता है) के लिए कोडबुक का निर्माण किया जाता है। परीक्षण चरण में प्रशिक्षण चरण में प्राप्त कोडबुक के पूरे सेट के साथ परीक्षण सिग्नल के परिमाणीकरण विरूपण पर काम किया जाता है। कोडबुक जो सबसे छोटी वेक्टर परिमाणीकरण विकृति प्रदान करती है, पहचाने गए उपयोगकर्ता को इंगित करती है।
पैटर्न पहचान में वीक्यू का मुख्य लाभ इसका कम कम्प्यूटेशनल बोझ है जब इसकी तुलना गतिशील समय विरूपण (डीटीडब्ल्यू) और छिपा हुआ मार्कोव मॉडल (एचएमएम) जैसी अन्य तकनीकों से की जाती है। डीटीडब्ल्यू और एचएमएम की तुलना में मुख्य दोष यह है कि यह संकेतों (भाषण, हस्ताक्षर इत्यादि) के अस्थायी विकास को ध्यान में नहीं रखता है क्योंकि सभी वैक्टर मिश्रित होते हैं। इस समस्या को दूर करने के लिए बहु-खंड कोडबुक दृष्टिकोण प्रस्तावित किया गया है।[9] बहु-खंड दृष्टिकोण में कई खंडों के साथ सिग्नल को मॉडलिंग करना शामिल है (उदाहरण के लिए, प्रारंभिक भाग के लिए कोडबुक, केंद्र के लिए और और अंतिम भाग के लिए अंतिम कोडबुक)।
क्लस्टरिंग एल्गोरिदम के रूप में उपयोग करें
चूँकि VQ आस-पास के नमूनों के घनत्व बिंदुओं के रूप में सेंट्रोइड की तलाश कर रहा है, इसे सीधे प्रोटोटाइप-आधारित क्लस्टरिंग विधि के रूप में भी इस्तेमाल किया जा सकता है: प्रत्येक सेंट्रोइड को फिर प्रोटोटाइप के साथ जोड़ा जाता है। अपेक्षित चुकता परिमाणीकरण त्रुटि को कम करने का लक्ष्य रखकर[10] और रॉबिन्स-मोनरो शर्तों को पूरा करते हुए घटते सीखने के लाभ को पेश करते हुए, ठोस लेकिन निश्चित संख्या में प्रोटोटाइप के साथ पूरे डेटा सेट पर कई पुनरावृत्तियों को वृद्धिशील तरीके से के-मीन्स क्लस्टरिंग एल्गोरिदम के समाधान में परिवर्तित किया जाता है।
उत्पादक प्रतिकूल नेटवर्क (जीएएन)
VQ का उपयोग जेनरेटिव प्रतिकूल नेटवर्क के विभेदक में फीचर प्रतिनिधित्व परत को परिमाणित करने के लिए किया गया है। फ़ीचर परिमाणीकरण (FQ) तकनीक अंतर्निहित फ़ीचर मिलान करती है।[11] यह GAN प्रशिक्षण में सुधार करता है, और विभिन्न लोकप्रिय GAN मॉडलों पर बेहतर प्रदर्शन प्रदान करता है: छवि निर्माण के लिए BigGAN, चेहरे के संश्लेषण के लिए StyleGAN, और बिना पर्यवेक्षित छवि-से-छवि अनुवाद के लिए U-GAT-IT।
यह भी देखें
- भाषण कोडिंग
- ऑग वॉर्बिस
- वोरोनोई आरेख
- दर-विरूपण समारोह
- डेटा क्लस्टरिंग
- वेक्टर परिमाणीकरण सीखना
- सेंट्रोइडल वोरोनोई टेस्सेलेशन
- तंत्रिका गैस, वेक्टर परिमाणीकरण के लिए एक तंत्रिका नेटवर्क जैसी प्रणाली
- छवि विभाजन
- लॉयड का एल्गोरिदम
- लिंडे-बुज़ो-ग्रे एल्गोरिदम|लिंडे, बुज़ो, ग्रे एल्गोरिदम (एलबीजी)
- K- का अर्थ है क्लस्टरिंग
- ऑटोएन्कोडर
- ध्यान लगा के पढ़ना या सीखना
इस लेख का हिस्सा मूल रूप से कंप्यूटिंग का निःशुल्क ऑनलाइन शब्दकोश की सामग्री पर आधारित था और इसका उपयोग जीएफडीएल के तहत विकिपीडिया:फोल्डॉक लाइसेंस के साथ किया जाता है।
संदर्भ
- ↑ Dana H. Ballard (2000). प्राकृतिक संगणना का परिचय. MIT Press. p. 189. ISBN 978-0-262-02420-4.
- ↑ "Bink video". Book of Wisdom. 2009-12-27. Retrieved 2013-03-16.
- ↑ Valin, JM. (October 2012). वीडियो कोडिंग के लिए पिरामिड वेक्टर परिमाणीकरण. IETF. I-D draft-valin-videocodec-pvq-00. Retrieved 2013-12-17.
- ↑ "Vorbis I Specification". Xiph.org. 2007-03-09. Retrieved 2007-03-09.
- ↑ Burton, D. K.; Shore, J. E.; Buck, J. T. (1983). "वेक्टर परिमाणीकरण का उपयोग करके पृथक शब्द पहचान का सामान्यीकरण". IEEE International Conference on Acoustics Speech and Signal Processing ICASSP. 8: 1021–1024. doi:10.1109/ICASSP.1983.1171915.
- ↑ Soong, F.; A. Rosenberg; L. Rabiner; B. Juang (1985). "स्पीकर रिकग्निशन के लिए एक वेक्टर क्वांटिज़ेशन दृष्टिकोण". IEEE Proceedings International Conference on Acoustics, Speech and Signal Processing ICASSP. 1: 387–390. doi:10.1109/ICASSP.1985.1168412. S2CID 8970593.
- ↑ H. Jegou; M. Douze; C. Schmid (2011). "निकटतम पड़ोसी खोज के लिए उत्पाद परिमाणीकरण" (PDF). IEEE Transactions on Pattern Analysis and Machine Intelligence. 33 (1): 117–128. CiteSeerX 10.1.1.470.8573. doi:10.1109/TPAMI.2010.57. PMID 21088323. S2CID 5850884. Archived (PDF) from the original on 2011-12-17.
- ↑ Faundez-Zanuy, Marcos (2007). "VQ-DTW पर आधारित ऑफ़लाइन और ऑन-लाइन हस्ताक्षर पहचान". Pattern Recognition. 40 (3): 981–992. doi:10.1016/j.patcog.2006.06.007.
- ↑ Faundez-Zanuy, Marcos; Juan Manuel Pascual-Gaspar (2011). "मल्टी-सेक्शन वीक्यू पर आधारित कुशल ऑन-लाइन हस्ताक्षर पहचान". Pattern Analysis and Applications. 14 (1): 37–45. doi:10.1007/s10044-010-0176-8. S2CID 24868914.
- ↑ Gray, R.M. (1984). "वेक्टर परिमाणीकरण". IEEE ASSP Magazine. 1 (2): 4–29. doi:10.1109/massp.1984.1162229.
- ↑ Feature Quantization Improves GAN Training https://arxiv.org/abs/2004.02088