उपप्रतिरूपक समुच्चय फलन

From Vigyanwiki

गणित में, एक सबमॉड्यूलर फलन समुच्चय करें (जिसे सबमॉड्यूलर फलन के रूप में भी जाना जाता है) एक समुच्चय फलन होता है, जिसका मूल्य,अनौपचारिक रूप से, यह गुण रखता है कि इनपुट समुच्चय में जोड़े जाने पर एकल तत्व जो फलन बनाता है, उसके वृद्धिशील मूल्य में अंतर इनपुट समुच्चय का आकार बढ़ने के साथ घटता जाता है। सबमॉड्यूलर फलन में एक प्राकृतिक ह्रासमान रिटर्न गुण होता है जो उन्हें कई अनुप्रयोगों के लिए उपयुक्त बनाता है, जिसमें सन्निकटन एल्गोरिदम, खेल सिद्धांत (उपयोगकर्ता प्राथमिकताओं को मॉडलिंग करने वाले फलन के रूप में) और विद्युत नेटवर्क सम्मिलित होता हैं। हाल ही में, यंत्र अधिगम और कृत्रिम होशियारी में कई वास्तविक दुनिया की समस्याओं में सबमॉड्यूलर फलन को अत्यधिक उपयोगिता मिली है, जिसमें स्वचालित सारांशीकरण, बहु-दस्तावेज़ सारांशीकरण, फ़ीचर चयन, सक्रिय शिक्षण (मशीन लर्निंग), सेंसर प्लेसमेंट, छवि संग्रह सारांशीकरण और कई अन्य डोमेन सम्मिलित होता हैं।[1][2][3][4]


परिभाषा

अगर एक परिमित समुच्चय (गणित) है, सबमॉड्यूलर फलन एक समुच्चय फलन है , कहाँ पावर समुच्चय को दर्शाता है उपसमुच्चय को कार्यों के रूप में प्रस्तुत करना , जो निम्नलिखित समकक्ष शर्तों में से एक को संतुष्ट करता है।[5]

  1. सभी के लिए साथ और हर हमारे पास वह है .
  2. सभी के लिए हमारे पास वह है .
  3. सभी के लिए और ऐसा है कि हमारे पास वह है .

एक नॉननेगेटिव सबमोड्युलर भी एक सबएडिटिव समुच्चय फलन है, लेकिन एक सबएडिटिव फलन को सबमॉड्यूलर होने की आवश्यकता नहीं होता है।

अगर यदि इसे परिमित नहीं माना जाता है, तो उपरोक्त स्थितियाँ समतुल्य नहीं होता हैं। विशेष रूप से एक समारोह

 द्वारा परिभाषित  अगर  परिमित है और  अगर  अनंत है

उपरोक्त पहली शर्त को संतुष्ट करता है, लेकिन दूसरी शर्त विफल हो जाती है और परिमित प्रतिच्छेदन वाले अनंत समुच्चय होता हैं।

सबमॉड्यूलर फलन के प्रकार और उदाहरण

मोनोटोन

एक समुच्चय फलन यदि प्रत्येक के लिए एकरस है हमारे पास वह है . मोनोटोन सबमॉड्यूलर फलन के उदाहरणों में सम्मिलित होता हैं:

रैखिक (मॉड्यूलर) फलन
प्रपत्र का कोई भी कार्य एक रैखिक फलन कहलाता है। इसके अतिरिक्त यदि तब f एकस्वर होता है।
बजट-योगात्मक मूल्यांकन
प्रपत्र का कोई भी कार्य प्रत्येक के लिए और बजट योगात्मक कहा जाता है।[6]; कवरेज फलन: चलो कुछ मैंट्रोइड के उपसमुच्चय का संग्रह बनें . कार्यक्रम के लिए कवरेज फलन कहा जाता है. इसे तत्वों में गैर-नकारात्मक भार जोड़कर सामान्यीकृत किया जा सकता है।
एन्ट्रॉपी (सूचना सिद्धांत)
यादृच्छिक चर का एक समुच्चय बना होता है। फिर किसी के लिए हमारे पास वह है एक सबमॉड्यूलर फलन होता है, जहां यादृच्छिक चर के समुच्चय की एन्ट्रापी होता है , एक तथ्य जिसे एंट्रोपिक वेक्टर शैनन-प्रकार की असमानताएं और Γn|शैनन की असमानता के रूप में जाना जाता है।[7] एन्ट्रॉपी फलन के लिए और भी असमानताएँ बनी रहने के लिए जानी जाती हैं, एन्ट्रोपिक वेक्टर देखा जाता है।
मैट्रोइड रैंक फलन
वह ग्राउंड समुच्चय हो जिस पर मैट्रोइड को परिभाषित किया गया है। फिर मैट्रोइड का रैंक फलन एक सबमॉड्यूलर फलन होता है।[8]


गैर-नीरस

एक सबमॉड्यूलर फलन जो मोनोटोन नहीं है उसे नॉन-मोनोटोन कहा जाता है।

सममित

एक गैर-मोनोटोन सबमॉड्यूलर फलन यदि प्रत्येक के लिए सममित कहा जाता है हमारे पास वह है .

सममित गैर-मोनोटोन सबमॉड्यूलर फलन के उदाहरणों में सम्मिलित होता हैं:

ग्राफ़ कट्स
एक ग्राफ़ (अलग गणित) के शीर्ष बना होता है। शीर्षों के किसी भी समुच्चय के लिए होने देना किनारों की संख्या को निरूपित करें ऐसा है कि और . इसे किनारों पर गैर-नकारात्मक भार जोड़कर सामान्यीकृत किया जा सकता है।
आपसी जानकारी
यादृच्छिक चर का एक समुच्चय बना होता है। फिर किसी के लिए हमारे पास वह है एक सबमॉड्यूलर फलन है, जहां आपसी जानकारी होता है.

असममित

एक गैर-मोनोटोन सबमॉड्यूलर फलन जो सममित नहीं है, असममित कहलाता है।

निर्देशित कटौती
एक निर्देशित ग्राफ के शीर्ष बना होता है। शीर्षों के किसी भी समुच्चय के लिए होने देना किनारों की संख्या को निरूपित करें ऐसा है कि और . इसे निर्देशित किनारों पर गैर-नकारात्मक भार जोड़कर सामान्यीकृत किया जा सकता है।

सतत विस्तार

परिभाषा

एक समुच्चय फलन साथ को फलन के रूप में भी दर्शाया जा सकता है , प्रत्येक को संबद्ध करके एक बाइनरी वेक्टर के साथ ऐसा है कि जब , और अन्यथा।

निरंतर रेस्ट्रिक्शन_(गणित) एक्सटेंशन_का_एक_फलन का किसी भी सतत कार्य के रूप में परिभाषित किया गया है जैसे कि यह के मूल्य से मिलता हो पर , अर्थात होता है। .

सबमॉड्यूलर फलन के संदर्भ में, निरंतर विस्तार के कुछ उदाहरण हैं जो आमतौर पर उपयोग किए जाते हैं, जिनका वर्णन इस प्रकार होता है।

उदाहरण

राइडर एक्सटेंशन

इस एक्सटेंशन का नाम गणितज्ञ लास्ज़लो लोवाज़ के नाम पर रखा गया है।[9]किसी भी वेक्टर पर विचार करें ऐसा कि प्रत्येक . तब राइडर एक्सटेंशन को इस प्रकार परिभाषित किया गया है जहां उम्मीद खत्म हो गई अंतराल पर समान वितरण (निरंतर) से चुना गया . राइडर एक्सटेंशन एक उत्तल फलन है यदि एक सबमॉड्यूलर फलन होता है.

बहुरेखीय विस्तार

किसी भी वेक्टर पर विचार करें ऐसा कि प्रत्येक . फिर बहुरेखीय विस्तार को इस प्रकार परिभाषित किया गया है .

उत्तल समापन

किसी भी वेक्टर पर विचार करें ऐसा कि प्रत्येक . फिर उत्तल समापन को इस प्रकार परिभाषित किया गया है . किसी भी समुच्चय फलन का उत्तल समापन उत्तल होता है .

अवतल सिमित होना

किसी भी वेक्टर पर विचार करें ऐसा कि प्रत्येक . फिर अवतल समापन को इस प्रकार परिभाषित किया गया है .

एक्सटेंशन के बीच कनेक्शन

ऊपर चर्चा किए गए एक्सटेंशन के लिए, यह दिखाया जा सकता है कब सबमॉड्यूलर होता है.[10]


गुण

  1. सबमॉड्यूलर फलन का वर्ग गैर-नकारात्मक रैखिक संयोजन के तहत सिमित (गणित) होता है। किसी भी सबमॉड्यूलर फलन पर विचार करें और गैर-नकारात्मक संख्याएँ . फिर फलन द्वारा परिभाषित सबमॉड्यूलर होता है.
  2. किसी भी सबमॉड्यूलर फलन के लिए , द्वारा परिभाषित फलन सबमॉड्यूलर होता है.
  3. कार्यक्रम , जहाँ एक वास्तविक संख्या है, जब भी सबमॉड्यूलर होता है मोनोटोन सबमॉड्यूलर है. सामान्यतौर पर अत्यधिक, किसी भी गैर घटते अवतल फलन के लिए सबमॉड्यूलर होता है .
  4. एक यादृच्छिक प्रक्रिया पर विचार करें जहां एक समुच्चय प्रत्येक तत्व के साथ चुना जाता है में सम्मिलित किया जा रहा है संभाव्यता के साथ स्वतंत्र रूप से . तब निम्नलिखित असमानता सत्य होता है जहाँ खाली समुच्चय है. आत्याधिक सामान्यतौर पर निम्नलिखित यादृच्छिक प्रक्रिया पर विचार करें जहां एक समुच्चय निम्नानुसार निर्मित किया गया है। प्रत्येक के लिए CONSTRUCT प्रत्येक तत्व को सम्मिलित करके स्वतंत्र रूप से संभाव्यता के साथ . इसके अलावा चलो . तब निम्नलिखित असमानता सत्य होता है .

अनुकूलन समस्याएँ

सबमॉड्यूलर फलन में ऐसे गुण होते हैं जो उत्तल फलन और अवतल फलन के समान होते हैं। इस कारण से, एक अनुकूलन समस्या जो उत्तल या अवतल फलन को अनुकूलित करने से संबंधित है, उसे कुछ बाधाओं के अधीन एक सबमॉड्यूलर फलन को अधिकतम या छोटा करने की समस्या के रूप में भी वर्णित किया जा सकता है।

सबमॉड्यूलर समुच्चय फलन न्यूनतमकरण

सबमॉड्यूलर समुच्चय फलन को न्यूनतम करने की कठोरता समस्या पर लगाई गई बाधाओं पर निर्भर करती है।

  1. सबमॉड्यूलर फलन को न्यूनतम करने की अप्रतिबंधित समस्या बहुपद समय में गणना योग्य है,[11][12]और यहां तक ​​कि दृढ़-बहुपद समय में भी।[13][14]ग्राफ़ में न्यूनतम कटौती की गणना करना इस न्यूनतमकरण समस्या का एक विशेष मामला है।
  2. कार्डिनैलिटी निचली सीमा के साथ एक सबमॉड्यूलर फलन को कम करने की समस्या एनपी कठिन है, सन्निकटन कारक पर बहुपद कारक निचली सीमा के साथ।[15][16]


सबमॉड्यूलर समुच्चय फलन अधिकतमकरण

न्यूनतमकरण के मामले के विपरीत, एक सामान्य सबमॉड्यूलर फलन को अधिकतम करना अप्रतिबंधित सेटिंग में भी एनपी-हार्ड है। इस प्रकार, इस क्षेत्र में अधिकांश कार्य बहुपद-समय सन्निकटन एल्गोरिदम से संबंधित हैं, जिनमें लालची एल्गोरिदम या स्थानीय खोज (अनुकूलन) सम्मिलित होता हैं।

  1. एक गैर-नकारात्मक सबमॉड्यूलर फलन को अधिकतम करने की समस्या 1/2 सन्निकटन एल्गोरिथ्म को स्वीकार करती है।[17][18]ग्राफ़ के अधिकतम कट की गणना करना इस समस्या का एक विशेष मामला है।
  2. कार्डिनैलिटी बाधा के अधीन एक मोनोटोन सबमॉड्यूलर फलन को अधिकतम करने की समस्या स्वीकार करती है सन्निकटन एल्गोरिथ्म.[19][page needed][20] अधिकतम कवरेज समस्या इस समस्या का एक विशेष मामला है।
  3. मैट्रोइड बाधा (जो उपरोक्त मामले को समाहित करता है) के अधीन एक मोनोटोन सबमॉड्यूलर फलन को अधिकतम करने की समस्या भी स्वीकार करती है सन्निकटन एल्गोरिथ्म.[21][22][23]

इनमें से कई एल्गोरिदम को एल्गोरिदम के अर्ध-विभेदक आधारित ढांचे के भीतर एकीकृत किया जा सकता है।[16]


संबंधित अनुकूलन समस्याएँ

सबमॉड्यूलर न्यूनतमकरण और अधिकतमीकरण के अलावा, सबमॉड्यूलर फलन से संबंधित कई अन्य प्राकृतिक अनुकूलन समस्याएं हैं।

  1. दो सबमॉड्यूलर फलन के बीच अंतर को कम करना[24]एनपी न केवल कठिन है, बल्कि अप्राप्य भी है।[25]
  2. सबमॉड्यूलर स्तर समुच्चय बाधा के अधीन एक सबमॉड्यूलर फलन का न्यूनतमकरण/अधिकतमीकरण (जिसे सबमॉड्यूलर कवर या सबमॉड्यूलर नैपसेक बाधा के अधीन सबमॉड्यूलर अनुकूलन के रूप में भी जाना जाता है) सीमित सन्निकटन गारंटी को स्वीकार करता है।[26]औसत कल्याण को अधिकतम करने के लिए एक सबमॉड्यूलर फलन के आधार पर डेटा को विभाजित करना सबमॉड्यूलर कल्याण समस्या के रूप में जाना जाता है, जो सीमित सन्निकटन गारंटी को भी स्वीकार करता है (कल्याण अधिकतमकरण देखें)।

अनुप्रयोग

अर्थशास्त्र, गेम थ्योरी, मशीन लर्निंग और कंप्यूटर दृष्टि जैसे कई वास्तविक दुनिया के अनुप्रयोगों में सबमॉड्यूलर फलन स्वाभाविक रूप से होते हैं।[4][27]घटती रिटर्न संपत्ति के कारण, सबमॉड्यूलर फलन स्वाभाविक रूप से वस्तुओं की लागत को मॉडल करते हैं, क्योंकि अक्सर एक बड़ी छूट होती है, जो आइटम खरीदता है उसमें वृद्धि होती है। सबमॉड्यूलर फलन जटिलता, समानता और सहयोग की धारणाओं को मॉडल करते हैं जब वे न्यूनतमकरण समस्याओं में दिखाई देते हैं। दूसरी ओर,अधिकतमीकरण समस्याओं में, वे विविधता, सूचना और कवरेज की धारणाओं को मॉडल करते हैं।

यह भी देखें

उद्धरण

  1. H. Lin and J. Bilmes, A Class of Submodular Functions for Document Summarization, ACL-2011.
  2. S. Tschiatschek, R. Iyer, H. Wei and J. Bilmes, Learning Mixtures of Submodular Functions for Image Collection Summarization, NIPS-2014.
  3. A. Krause and C. Guestrin, Near-optimal nonmyopic value of information in graphical models, UAI-2005.
  4. 4.0 4.1 A. Krause and C. Guestrin, Beyond Convexity: Submodularity in Machine Learning, Tutorial at ICML-2008
  5. (Schrijver 2003, §44, p. 766)
  6. Buchbinder, Niv; Feldman, Moran (2018). "Submodular Functions Maximization Problems". In Gonzalez, Teofilo F. (ed.). Handbook of Approximation Algorithms and Metaheuristics, Second Edition: Methodologies and Traditional Applications. Chapman and Hall/CRC. doi:10.1201/9781351236423. ISBN 9781351236423.
  7. "सूचना प्रसंस्करण और सीखना" (PDF). cmu.
  8. Fujishige (2005) p.22
  9. Lovász, L. (1983). "Submodular functions and convexity". Mathematical Programming the State of the Art: 235–257. doi:10.1007/978-3-642-68874-4_10. ISBN 978-3-642-68876-8.
  10. Vondrák, Jan. "Polyhedral techniques in combinatorial optimization: Lecture 17" (PDF).
  11. Grötschel, M.; Lovasz, L.; Schrijver, A. (1981). "The ellipsoid method and its consequences in combinatorial optimization". Combinatorica. 1 (2): 169–197. doi:10.1007/BF02579273. hdl:10068/182482. S2CID 43787103.
  12. Cunningham, W. H. (1985). "On submodular function minimization". Combinatorica. 5 (3): 185–192. doi:10.1007/BF02579361. S2CID 33192360.
  13. Iwata, S.; Fleischer, L.; Fujishige, S. (2001). "A combinatorial strongly polynomial algorithm for minimizing submodular functions". J. ACM. 48 (4): 761–777. doi:10.1145/502090.502096. S2CID 888513.
  14. Schrijver, A. (2000). "A combinatorial algorithm minimizing submodular functions in strongly polynomial time". J. Combin. Theory Ser. B. 80 (2): 346–355. doi:10.1006/jctb.2000.1989.
  15. Z. Svitkina and L. Fleischer, Submodular approximation: Sampling-based algorithms and lower bounds, SIAM Journal on Computing (2011).
  16. 16.0 16.1 R. Iyer, S. Jegelka and J. Bilmes, Fast Semidifferential based submodular function optimization, Proc. ICML (2013).
  17. U. Feige, V. Mirrokni and J. Vondrák, Maximizing non-monotone submodular functions, Proc. of 48th FOCS (2007), pp. 461–471.
  18. N. Buchbinder, M. Feldman, J. Naor and R. Schwartz, A tight linear time (1/2)-approximation for unconstrained submodular maximization, Proc. of 53rd FOCS (2012), pp. 649-658.
  19. Nemhauser, George; Wolsey, L. A.; Fisher, M. L. (1978). "An analysis of approximations for maximizing submodular set functions I". Mathematical Programming. 14 (14): 265–294. doi:10.1007/BF01588971. S2CID 206800425.
  20. Williamson, David P. "Bridging Continuous and Discrete Optimization: Lecture 23" (PDF).
  21. G. Calinescu, C. Chekuri, M. Pál and J. Vondrák, Maximizing a submodular set function subject to a matroid constraint, SIAM J. Comp. 40:6 (2011), 1740-1766.
  22. M. Feldman, J. Naor and R. Schwartz, A unified continuous greedy algorithm for submodular maximization, Proc. of 52nd FOCS (2011).
  23. Y. Filmus, J. Ward, A tight combinatorial algorithm for submodular maximization subject to a matroid constraint, Proc. of 53rd FOCS (2012), pp. 659-668.
  24. M. Narasimhan and J. Bilmes, A submodular-supermodular procedure with applications to discriminative structure learning, In Proc. UAI (2005).
  25. R. Iyer and J. Bilmes, Algorithms for Approximate Minimization of the Difference between Submodular Functions, In Proc. UAI (2012).
  26. R. Iyer and J. Bilmes, Submodular Optimization Subject to Submodular Cover and Submodular Knapsack Constraints, In Advances of NIPS (2013).
  27. J. Bilmes, Submodularity in Machine Learning Applications, Tutorial at AAAI-2015.


संदर्भ


बाहरी संबंध