View source for उष्मागतिकी और सूचना सिद्धांत में एन्ट्रॉपी

{{Short description|Relationship between the concepts of thermodynamic entropy and information entropy}}
1870 के दशक में [[लुडविग बोल्ट्ज़मान]] और जे. विलार्ड गिब्स द्वारा स्थापित [[सांख्यिकीय ऊष्मप्रवैगिकी|सांख्यिकीय ऊष्मागतिकी]] (स्टैटिस्टिकल थर्मोडायनामिक्स) निरूपण में ऊष्मागतिक एन्ट्रॉपी के लिए गणितीय व्यंजक 1940 के दशक में [[क्लाउड एलवुड शैनन|क्लाउड शैनन]] और [[राल्फ हार्टले]] द्वारा विकसित सूचना परिक्षय (इनफार्मेशन एन्ट्रॉपी) के समान हैं।

==पारिभाषिक व्यंजकों के स्वरूप की समतुल्यता==
[[File:Zentralfriedhof Vienna - Boltzmann.JPG|thumb|बस्ट और एन्ट्रॉपी फॉर्मूला के साथ, [[केंद्रीय कब्रिस्तान]], वियना में बोल्ट्ज़मैन की कब्र।]]1870 के दशक में लुडविग बोल्ट्ज़मैन और जे विलार्ड गिब्स द्वारा स्थापित [[सांख्यिकीय यांत्रिकी]] (स्टैटिस्टिकल मैकेनिक्स) के सिद्धांत में एन्ट्रॉपी के लिए परिभाषित व्यंजक इस प्रकार है:
:<math> S = - k_\text{B} \sum_i p_i \ln p_i ,</math>
जहां <math>p_i</math> साम्यावस्था में किसी एन्सेम्बल से ली गई [[माइक्रोस्टेट (सांख्यिकीय यांत्रिकी)|माइक्रोस्टेट]] (सूक्ष्म-अवस्था) की प्रायिकता है, और <math>k_B</math> बोल्ट्ज़मान स्थिरांक है।

1948 में क्लॉड ई. शैनन द्वारा स्थापित [[सूचना सिद्धांत]] में एन्ट्रॉपी के लिए परिभाषित व्यंजक इस प्रकार है:
:<math> H = - \sum_i p_i \log_b p_i ,</math>
जहाँ <math>p_i</math> मैसेज स्पेस (समष्टि) ''M'' से लिए गए मैसेज <math>m_i</math> की प्रायिकता है, और ''b'' प्रयुक्त लघुगणक का [[आधार (घातांक)|आधार]] है। ''b'' के सामान्य मान 2 हैं, यूलर की संख्या {{math|''e''}}, और 10, और एन्ट्रॉपी की इकाई ''b'' = 2 के लिए [[शैनन (इकाई)|शैनन]] (या बिट), ''b'' = {{math|''e''}} के लिए [[नेट (इकाई)|नेट]], और ''b'' = 10 के लिए [[हार्टले (इकाई)|हार्टले]] है।<ref>Schneider, T.D, [http://alum.mit.edu/www/toms/paper/primer/primer.pdf Information theory primer with an appendix on logarithms], National Cancer Institute, 14 April 2007.</ref>

गणितीय रूप से, ''H'' को मैसेज समष्टि पर लिए गए औसत सूचना के रूप में भी देखा जा सकता है, क्योंकि जब किसी निश्चित मैसेज की प्रायिकता ''p<sub>i</sub>'' के साथ होती है, तो सूचना मात्रा −log(''p<sub>i</sub>'') (जिसे इनफार्मेशन कंटेंट या स्व-सूचना कहा जाता है) प्राप्त होगी।

यदि सभी माइक्रोस्टेटस समसंभाव्य (एक [[माइक्रोकैनोनिकल पहनावा|माइक्रोकैनोनिकल संघ]]) हैं, तो सांख्यिक तापमान अव्यवस्थात्मक और बोल्ट्जमन द्वारा दिए गए रूप में कम हो जाता है।

:<math> S = k_\text{B} \ln W ,</math>
जहां W सूक्ष्म अवस्थाओं की संख्या है जो '''मैक्रोस्कोपिक''' ऊष्मागतिक अवस्था से मेल खाती है। अतः S तापमान पर निर्भर करता है।

यदि सभी मैसेज समसंभाव्य हैं, तो सूचना एन्ट्रॉपी [[हार्टले एन्ट्रापी|हार्टले एन्ट्रॉपी]] में कम हो जाती है
:<math> H = \log_b |M|\ ,</math>
जहां <math>|M|</math> मैसेज स्पेस (समष्टि) एम की [[प्रमुखता|कार्डिनैलिटी]] है।

ऊष्मागतिक परिभाषा में लघुगणक [[प्राकृतिक]] लघुगणक है। यह दिखाया जा सकता है कि गिब्स [[एन्ट्रॉपी (सांख्यिकीय थर्मोडायनामिक्स)|एन्ट्रॉपी]] फॉर्मूला, प्राकृतिक लघुगणक के साथ, [[रुडोल्फ क्लॉसियस]] के मैक्रोस्कोपिक चिरसम्मत ऊष्मागतिकी के सभी गुणों को पुन: उत्पन्न करता है। (लेख देखें: [[एन्ट्रॉपी (सांख्यिकीय दृश्य)|एन्ट्रॉपी]] (सांख्यिकीय विचार))।

सूचना एन्ट्रॉपी की स्थितियों में लघुगणक को प्राकृतिक आधार पर भी ले जाया जा सकता है। यह सामान्य बिट्स (या अधिक औपचारिक रूप से, शैनन) के बजाय नेट्स में जानकारी को मापने का चयन करने के बराबर है। व्यवहार में, सूचना एन्ट्रॉपी की गणना लगभग सदैव आधार-2 लघुगणक का उपयोग करके की जाती है, लेकिन यह अंतर इकाइयों में परिवर्तनों के अतिरिक्त और कुछ नहीं है। एक नेट लगभग 1.44 शैनन के बराबर होता है।

एक सरल संपीड़ित प्रणाली के लिए जो केवल आयतन कार्य कर सकती है, अतः [[शास्त्रीय ऊष्मप्रवैगिकी|ऊष्मागतिकी]] के प्रथम नियम के अनुसार 
:<math> dE = -p dV + T dS .</math>
लेकिन कोई भी इस समीकरण को समान रूप से अच्छी तरह से लिख सकता है जिसे भौतिक विज्ञानी और रसायनज्ञ कभी-कभी 'कम' या आयाम रहित एन्ट्रॉपी, {{nowrap|1=''σ'' = ''S''/''k''}} कहते हैं, ताकि
:<math> dE = -p dV + k_\text{B} T d\sigma .</math>
जिस प्रकार S, T से संयुग्मित है, उसी प्रकार σ का ''k''<sub>B</sub>''T'' संयुग्मित है (वह ऊर्जा जो आणविक पैमाने पर T की विशेषता है)।

इस प्रकार, सांख्यिकीय यांत्रिकी में (गिब्स एन्ट्रॉपी सूत्र <math>S = -k_{\mathrm{B}}\sum_i p_i \log p_i</math>) और चिरसम्मत ऊष्मागतिकी में (<math>d S = \frac{\delta Q_\text{rev}}{T}</math>, और [[मौलिक थर्मोडायनामिक संबंध|मूलभूत ऊष्मागतिक संबंध]]) एंट्रोपी की परिभाषाएँ माइक्रोकैनॉनिकल संघ के लिए समरूप हैं, और ऐसे एक उर्वराशी संतुलित ऊष्मागतिक प्रणाली की वर्णन करने वाले सांख्यिक संघ, जैसे की कैनोनिक संघ, ग्रैंड कैनोनिक संघ, आइसोथर्मल–आइसोबेरिक संघ हैं। इस समरूपता को सामान्यत: पुस्तकों में दिखाया जाता है। हालांकि, एंट्रोपी की ऊष्मागतिक परिभाषा और गिब्स एंट्रोपी के बीच इस समरूपता का सामान्य नहीं है, बल्कि यह एक सामान्यीकृत बोल्ट्जमन वितरण की विशेषता है।<ref>{{cite journal |last1= Gao |first1= Xiang |last2= Gallicchio |first2= Emilio |first3= Adrian |last3= Roitberg  |date= 2019 |title= सामान्यीकृत बोल्ट्ज़मान वितरण एकमात्र वितरण है जिसमें गिब्स-शैनन एन्ट्रॉपी थर्मोडायनामिक एन्ट्रॉपी के बराबर होती है|journal= The Journal of Chemical Physics|volume= 151|issue= 3|pages= 034113|doi= 10.1063/1.5111333|pmid= 31325924 |arxiv= 1903.02121 |bibcode= 2019JChPh.151c4113G |s2cid= 118981017 }}</ref>

इसके अतिरिक्त, यह दिखाया गया है कि सांख्यिकीय यांत्रिकी में एन्ट्रॉपी की परिभाषा एकमात्र एन्ट्रॉपी है जो निम्नलिखित अभिधारणाओं के तहत चिरसम्मत ऊष्मागतिकी एन्ट्रॉपी के बराबर है:<ref name="Gao2022">{{cite journal |last1= Gao |first1= Xiang |date= March 2022 |title= एन्सेम्बल थ्योरी का गणित|journal= Results in Physics|volume= 34|pages= 105230|doi= 10.1016/j.rinp.2022.105230 |bibcode= 2022ResPh..3405230G |s2cid= 221978379 |doi-access= free }}</ref>
{{ordered list
|संभाव्यता घनत्व फ़ंक्शन संयोजन मापदंडों और यादृच्छिक चर के कुछ फ़ंक्शन के लिए आनुपातिक है।|ऊष्मागतिक अवस्था फलनों का वर्णन यादृच्छिक चरों के औसत एन्सेम्बल औसत द्वारा किया जाता है।|अनंत तापमान पर, सभी मइक्रोस्टेट्स की प्रायिकता समान होती है।}}

== सैद्धांतिक संबंध ==

पूर्वगामी के पश्चात भी, दोनों मात्राओं के बीच अंतर है। सूचना एन्ट्रॉपी ''Η'' की गणना किसी भी प्रायिकता बंटन (यदि "मैसेज" को यह माना जाए कि जिस घटना i की प्रायिकता pi थी, वह संभावित घटनाओं के समष्टि से बाहर घटित हुई) के लिए की जा सकती है, जबकि ऊष्मागतिक एन्ट्रॉपी एस विशेष रूप से ऊष्मागतिक प्रायिकताओं पाई को संदर्भित करता है। हालाँकि, यह अंतर वास्तविक से अधिक सैद्धांतिक है, क्योंकि किसी भी प्रायिकता बंटन को कुछ ऊष्मागतिक प्रणाली द्वारा मनमाने ढंग से निकटता से अनुमानित किया जा सकता है।

इसके अतिरिक्त, दोनों के बीच प्रत्यक्ष सम्बन्ध भी बनाया जा सकता है। यदि विचाराधीन प्रायिकताएं ऊष्मागतिक प्रायिकताएं पाई हैं: (कम) गिब्स एन्ट्रॉपी σ को सिस्टम की विस्तृत सूक्ष्म स्थिति को परिभाषित करने के लिए आवश्यक शैनन जानकारी की मात्रा के रूप में देखा जा सकता है, जो इसके मैक्रोस्कोपिक विवरण को देखते हुए है। या, 1930 में रासायनिक एन्ट्रॉपी के बारे में लिखने वाले जी.एन. लुईस के शब्दों में, "एन्ट्रॉपी में लाभ का मतलब सदैव जानकारी का नुकसान होता है, और इससे अधिक कुछ नहीं"। और विस्तार से कहें, विकल्प दो के लॉगारिदम का प्रयोग करके, असम्भावित रूप में, घटित गिब्स एंट्रोपी उस सीमा की गई सांख्यिक रूप में समान है जो यह सुनिश्चित करने के लिए कितने कम से कम हाँ-ना प्रश्नों की आवश्यकता है कि हम माक्रोस्थिति को जानते हैं कि संपूर्ण रूप स्थिति को पूरी तरह से निर्दिष्ट करने के लिए।

इसके अतिरिक्त, सांख्यिकीय यांत्रिकी के संतुलन वितरणों को ढूंढने के लिए—जैसे कि बोल्ट्जमन वितरण—जिसमें उपयुक्त बाधाओं के साथ [[गिब्स एन्ट्रापी|गिब्स एन्ट्रॉपी]] को अधिकतम करने के लिए निर्देशित किया जाता है ([[गिब्स एल्गोरिथ्म]]), इसे ऊष्मागतिक के लिए अद्वितीय नहीं, बल्कि यदि इसे इच्छित है कि विशेष औसतों पर कुछ बाधाओं के साथ एक [[अधिकतम एन्ट्रापी का सिद्धांत|अधिकतम अनूज्ञ प्रायिकता वितरण]] प्राप्त किया जाए, तो सांख्यिकीय अनुमान में सामान्य रूप से सिद्धांत के रूप में देखा जा सकता है (इन परिप्रेक्ष्यों की और भी अन्वेषण किया जाता है [[अधिकतम एन्ट्रापी थर्मोडायनामिक्स|अधिकतम एन्ट्रॉपी ऊष्मागतिकी]] लेख में)।

सूचना सिद्धांत में शैनन एन्ट्रॉपी कभी-कभी प्रति प्रतीक बिट्स की इकाइयों में व्यक्त की जाती है। भौतिक एन्ट्रॉपी "प्रति मात्रा" के आधार पर हो सकती है (''h'') जिसे सामान्य कुल एन्ट्रॉपी के बजाय "[[गहन और व्यापक गुण|गहन]]" एन्ट्रॉपी कहा जाता है जिसे "व्यापक" एन्ट्रॉपी कहा जाता है। एक मैसेज के "शैनन्स" (''Η'') इसकी कुल "व्यापक" सूचना एन्ट्रॉपी हैं और मैसेज में बिट्स की संख्या से ''h'' गुना है।

''h'' और ''S'' के बीच एक सीधा और भौतिक रूप से वास्तविक संबंध प्रत्येक माइक्रोस्टेट के लिए एक प्रतीक निर्दिष्ट करके पाया जा सकता है जो एक सजातीय पदार्थ के प्रति मोल, किलोग्राम, आयतन या कण में होता है, फिर इन प्रतीकों के 'h' की गणना करता है। सिद्धांत या अवलोकन के द्वारा, प्रतीक (माइक्रोस्टेट्स) विभिन्न प्रायिकताओं के साथ घटित होंगे और यह ''h'' निर्धारित करेगा। यदि इकाई पदार्थ के ''N'' मोल, किलोग्राम, आयतन या कण हैं, तो ''h'' (प्रति इकाई पदार्थ के बिट्स में) और नेट में भौतिक व्यापक एन्ट्रॉपी के बीच संबंध है:

:<math>S = k_\mathrm{B} \ln(2) N h</math>
जहां ln(2) शैनन एन्ट्रॉपी के आधार 2 से भौतिक एन्ट्रॉपी के प्राकृतिक आधार e में रूपांतरण कारक है। ''N h'' उपचय में सूचना की मात्रा है जो एक भौतिक प्रणाली की स्थिति को वर्णन करने के लिए बिट में आवश्यक है, जिसमें ''S'' एंट्रोपी है। लैंडौअर का सिद्धांत इसकी वास्तविकता को स्थापित करता है इसलिए कि यदि न्यूनतम ऊर्जा ''E'' की आवश्यकता है (और इसलिए उत्पन्न होने वाली ऊष्मा ''Q'') एक आदर्श कुशल स्मृति परिवर्तन या तार्किक क्रिया के द्वारा, ''N h'' बिट्स सूचना को अपरिवर्तनीय रूप से मिटाने या मर्ज करने के लिए, तो यह ''S'' गुना तापमान होगा जो की निम्नलिखित है

:<math>E = Q = T k_\mathrm{B} \ln(2) N h ,</math>
जहां एच सूचनात्मक बिट्स में है और ''E'' और ''Q'' भौतिक जूल में हैं। इसकी प्रायोगिक रूप से पुष्टि की गई है।<ref name="berut">{{Citation |author1=Antoine Bérut |author2=Artak Arakelyan |author3=Artyom Petrosyan |author4=Sergio Ciliberto |author5=Raoul Dillenschneider |author6=Eric Lutz |doi=10.1038/nature10872 |title=Experimental verification of Landauer's principle linking information and thermodynamics |journal=Nature |volume=483 |issue=7388 |pages=187–190 |date=8 March 2012 |url=http://www.physik.uni-kl.de/eggert/papers/raoul.pdf|bibcode = 2012Natur.483..187B |pmid=22398556|s2cid=9415026 }}</ref>

तापमान एक आदर्श गैस (केल्विन = {{sfrac|2|3}} जूल/केबी) में प्रति कण औसत गतिज ऊर्जा का एक माप है, इसलिए केबी की J/K इकाइयां आयामहीन (जूल/जूल) होती हैं। ''k''<sub>B</sub> एक आदर्श गैस के लिए {{sfrac|3|2}} केल्विन में ऊर्जा से जूल तक रूपांतरण कारक है। यदि एक आदर्श गैस के प्रति कण की गतिज ऊर्जा माप को केल्विन के बजाय जूल के रूप में व्यक्त किया जाता है, तो उपरोक्त समीकरणों में ''k''<sub>b</sub> को 3/2 से प्रतिस्थापित किया जाएगा। इससे यह ज्ञात होता है कि ''S'' माइक्रोस्टेट्स का एक सच्चा सांख्यिकीय माप है जिसमें सूचना की इकाइयों के अतिरिक्त कोई मौलिक भौतिक इकाई नहीं है, इस स्थिति में नेट्स, जो कि सम्मेलन द्वारा किस लघुगणक आधार को चुना गया था, इसका एक बयान है।

== सूचना (इनफार्मेशन) भौतिक है ==

===स्ज़ीलार्ड का इंजन===
[[Image:NAtomVacuumPumpMemory.png|right|thumb|एन-एटम इंजन योजनाबद्ध]]एक भौतिक विचार प्रयोग यह प्रदर्शित करता है कि सैद्धांतिक रूप से जानकारी रखने से ऊष्मागतिक परिणाम कैसे हो सकते हैं, इसे प्रसिद्ध मैक्सवेल के डेमोन परिदृश्य के परिशोधन में, 1929 में लेओ स्ज़िलार्ड द्वारा स्थापित किया गया था।<ref>{{Cite journal|last=Szilard|first=Leo|year=1929|title=Über die Entropieverminderung in einem thermodynamischen System bei Eingriffen intelligenter Wesen|journal=Zeitschrift für Physik|language=de|volume=53|issue=11–12|pages=840–856|bibcode=1929ZPhy...53..840S|doi=10.1007/BF01341281|issn=0044-3328|s2cid=122038206}} Available on-line in English at [http://aurellem.org/jaynes/sources/Szilard.pdf Aurellen.org].</ref>

मैक्सवेल के सेट-अप को विचार करें, लेकिन केवल एक ही गैस कण होने के साथ एक बॉक्स में। यदि अद्भुत दैत्य जानता है कि खिड़की के कौनसे भाग में कण है (एकल बिट के समरूप), तो वह बॉक्स के दो भागों के बीच एक शटर बंद कर सकता है, रिक्त भाग में एक पिस्टन को विरोधित किए बिना बंद कर सकता है, और फिर यदि शटर फिर से खोला जाता है तो <math>k_\text{B} T \ln 2</math> जूल उपयोगी काम निकाल सकता है। फिर कण को समतापीय रूप से उसके मूल संतुलित आवृत्ति वाले आदान-प्रदान में विस्तारित किया जा सकता है। इसलिए, बिलकुल सही परिस्थितियों में, एक शैनन सूचना के एकल बिट के पूर्णता में कमी (ब्रिल्यां के शब्दों में एकल नैगेंट्रोपी का एकल बिट) वास्तविक रूप से भौतिक प्रणाली की एंट्रोपी में कमी के समर्थन करती है। सामग्रिक एंट्रोपी कम नहीं होती है, लेकिन सूचना से मुक्त ऊर्जा परिवर्तन संभव है।

इस विचार प्रयोग को एक कंप्यूटर से जुड़े उच्च गति वाले कैमरे से सुसज्जित [[चरण-विपरीत माइक्रोस्कोपी|चरण-कंट्रास्ट माइक्रोस्कोप]] का उपयोग करके, राक्षस के रूप में कार्य करते हुए, भौतिक रूप से प्रदर्शित किया गया है।<ref>{{cite journal |title=Information heat engine: converting information to energy by feedback control |author=Shoichi Toyabe |author2=Takahiro Sagawa |author3=Masahito Ueda |author4=Eiro Muneyuki |author5= Masaki Sano  |date=2010-09-29 |pages=988–992 |issue=12 |quote=We demonstrated that free energy is obtained by a feedback control using the information about the system; information is converted to free energy, as the first realization of Szilard-type Maxwell's demon. |volume=6 |doi=10.1038/nphys1821 |journal=Nature Physics |arxiv=1009.5287 |bibcode = 2010NatPh...6..988T |s2cid=118444713 }}</ref> इस प्रयोग में, ''फीडबैक नियंत्रण'' के माध्यम से [[एक प्रकार कि गति|ब्राउनियन कण]] पर ऊर्जा रूपांतरण की जानकारी दी जाती है; अर्थात कण को दिए गए कार्य को उसकी स्थिति पर प्राप्त जानकारी के साथ सिंक्रनाइज़ करना। विभिन्न प्रतिक्रिया प्रोटोकॉल्स के लिए ऊर्जा संतुलनों की गणना ने प्रमाणित किया है कि जार्जिन्स्की समानता को एक सामान्यीकरण की आवश्यकता है जो प्रतिक्रिया में सम्मिलित किए जाने वाली जानकारी की मात्रा को ध्यान में रखता है।

===लैंडौएर का सिद्धांत===

{{Main|लैंडौएर का सिद्धांत}}

वास्तव में कोई भी सामान्यीकरण कर सकता है: कोई भी जानकारी जिसका भौतिक प्रतिनिधित्व है, उसे किसी न किसी तरह भौतिक प्रणाली की स्वतंत्रता की सांख्यिकीय यांत्रिक डिग्री में एम्बेड किया जाना चाहिए।

इस प्रकार, [[रॉल्फ लैंडौएर]] ने 1961 में तर्क किया, यदि कोई यह कल्पना करे कि उन दर्जों को एक ऊष्मीयन (थर्मलाइज्ड) स्थिति से शुरू करते हैं, तो यदि उन्हें फिर से एक ज्ञात स्थिति में रीसेट किया जाए, तो वहां एक वास्तविक ऊष्मागतिक एंट्रोपी की कमी होगी। यह केवल सूचना-संरक्षण माइक्रोस्कोपिक निर्दिष्ट गतिकी तत्वों के तहत ही संभव हो सकता है यदि अनिश्चितता को किसी अन्य समष्टि पर किसी भी रूप में छोड़ दिया जाए - अर्थात यदि पर्यावरण की एन्ट्रॉपी (या स्वतंत्रता की गैर-सूचना-असर वाली डिग्री) कम से कम एक समतुल्य मात्रा में बढ़ जाती है, जैसा कि आवश्यक है दूसरे नियम के अनुसार, उचित मात्रा में ऊष्मा प्राप्त करके: विशेष रूप से यादृच्छिकता के प्रत्येक 1 बिट के लिए ''kT'' ln 2 ऊष्मा विलोपित कर दिया जाता है।

दूसरी ओर, लैंडौएर ने तर्क दिया, सिस्टम में भौतिक रूप से प्रतिवर्ती तरीके से संभावित रूप से प्राप्त किए जा रहे तार्किक रूप से प्रतिवर्ती ऑपरेशन पर कोई ऊष्मागतिक आपत्ति नहीं है। यह केवल तार्किक रूप से अपरिवर्तनीय संचालन है - उदाहरण के लिए, किसी ज्ञात स्थिति में एक बिट को मिटाना, या दो गणना पथों का विलय - जो एक संबंधित एन्ट्रॉपी वृद्धि के साथ होना चाहिए। जब सूचना भौतिक होती है, तो इसके अभ्यावेदन की सभी प्रोसेसिंग, अर्थात पीढ़ी, एन्कोडिंग, ट्रांसमिशन, डिकोडिंग और व्याख्या, प्राकृतिक प्रक्रियाएं होती हैं जहां मुक्त ऊर्जा की खपत से एन्ट्रॉपी बढ़ती है।<ref>{{cite journal 
|author1=Karnani, M. |author2=Pääkkönen, K. |author3=Annila, A. | title=The physical character of information 
| journal=Proc. R. Soc. A | volume=465 
| issue=2107 | pages=2155–75 | year=2009 
|doi=10.1098/rspa.2009.0063|bibcode = 2009RSPSA.465.2155K | doi-access=free }}</ref>

मैक्सवेल के दानव/स्ज़ीलार्ड इंजन परिदृश्य पर लागू होने पर, यह यह ज्ञात होता है कि बिना एन्ट्रॉपी लागत के कण की स्थिति को कंप्यूटिंग उपकरण में "पढ़ना" संभव हो सकता है; लेकिन केवल तभी जब उपकरण को अनिश्चितता की तापीय अवस्था में होने के बजाय पहले से ही ज्ञात स्थिति में सेट किया गया हो। उपकरण को इस स्थिति में सेट (या रीसेट) करने के लिए सारी एन्ट्रॉपी खर्च होगी जिसे स्ज़ीलार्ड के कण की स्थिति जानकर बचाया जा सकता है।

2008 और 2009 में, शोधकर्ताओं ने दिखाया कि लैंडौएर का सिद्धांत ऊष्मागतिकी के दूसरे नियम और सूचना लाभ से जुड़े एन्ट्रॉपी परिवर्तन, क्वांटम और चिरसम्मत प्रतिक्रिया-नियंत्रित प्रणालियों के ऊष्मागतिकी को विकसित करने से प्राप्त किया जा सकता है।

== नेगेंट्रॉपी ==
{{Main|नेगेंट्रॉपी}}

शैनन एन्ट्रॉपी को भौतिक विज्ञानी लियोन ब्रिलॉइन ने एक अवधारणा से संबंधित किया है जिसे कभी-कभी नेगेंट्रॉपी कहा जाता है। 1953 में, ब्रिलौइन ने एक सामान्य समीकरण निकाला<ref>{{cite journal | last1 = Brillouin | first1 = Leon | year = 1953 | title = सूचना का नकारात्मक सिद्धांत| journal = Journal of Applied Physics | volume = 24 | issue = 9| pages = 1152–1163 | doi=10.1063/1.1721463| bibcode = 1953JAP....24.1152B}}</ref> जिसमें कहा गया था कि सूचना बिट मान को बदलने के लिए कम से कम ''kT'' ln(2) ऊर्जा की आवश्यकता होती है। यह वही ऊर्जा है जो [[लियो स्ज़ीलार्ड]] का इंजन आदर्शवादी स्थिति में उत्पन्न करता है, जो बदले में लैंडौएर द्वारा पाई गई समान मात्रा के बराबर होती है। उनकी किताब में,<ref>Leon Brillouin, ''Science and Information theory'', Dover, 1956</ref> उन्होंने इस समस्या को और भी गहराई से अन्वेषित किया और निष्कर्ष किया कि बिट मूल्य परिवर्तन के किसी भी कारण (मापन, हाँ/ना के सवाल पर निर्णय, मिटाना, प्रदर्शन, आदि) के लिए एक ही मात्रा, ''kT'' ln(2), ऊर्जा की आवश्यकता होगी। परिणामस्वरूप, किसी सिस्टम के माइक्रोस्टेट्स के बारे में जानकारी प्राप्त करना एक [[एन्ट्रापी उत्पादन|एन्ट्रॉपी उत्पादन]] से जुड़ा होता है, जबकि मिटाने से एन्ट्रॉपी उत्पादन तभी होता है जब बिट मान बदल रहा हो। किसी उप-प्रणाली में मूल रूप से थर्मल संतुलन में थोड़ी सी जानकारी स्थापित करने से समष्टिीय एन्ट्रॉपी में कमी आती है। हालाँकि, ब्रिलोइन के अनुसार, ऊष्मागतिकी के दूसरे नियम का कोई उल्लंघन नहीं है, क्योंकि किसी भी समष्टिीय प्रणाली की ऊष्मागतिक एन्ट्रॉपी में कमी के परिणामस्वरूप अन्यत्र ऊष्मागतिक एन्ट्रॉपी में वृद्धि होती है। इस प्रकार ब्रिलोइन ने नेगेंट्रॉपी का अर्थ स्पष्ट किया जिसे विवादास्पद माना गया क्योंकि इसकी पूर्व समझ से कार्नोट की दक्षता एक से अधिक हो सकती है। इसके अतिरिक्त, ब्रिलोइन द्वारा तैयार की गई ऊर्जा और जानकारी के बीच संबंध को मस्तिष्क द्वारा संसाधित की जाने वाली बिट्स की मात्रा और इसके द्वारा उपभोग की जाने वाली ऊर्जा के बीच संबंध के रूप में प्रस्तावित किया गया है: कोलेल और फॉक्वेट<ref>{{cite journal |author1=Collell, G |author2=Fauquet, J. |title=Brain activity and cognition: a connection from thermodynamics and information theory |journal=Frontiers in Psychology |volume=6 |issue=4 |pages=818 |date=June 2015|doi=10.3389/fpsyg.2015.00818 |pmid=26136709 |pmc=4468356 |doi-access=free }}</ref> ने तर्क दिया कि डी कास्त्रो<ref>{{cite journal |author=De Castro, A. |title=फास्ट थॉट की थर्मोडायनामिक लागत|journal=Minds and Machines |volume=23 |issue=4 |pages=473–487 |date=November 2013|doi=10.1007/s11023-013-9302-x |arxiv=1201.5841 |s2cid=11180644 }}</ref> ने विश्लेषणात्मक रूप से मस्तिष्क गणना के लिए ऊष्मागतिक निचली सीमा के रूप में लैंडौअर सीमा को पाया। हालाँकि, भले ही विकासवाद ने सबसे ऊर्जावान रूप से कुशल प्रक्रियाओं को "चयनित" किया हो, लेकिन मस्तिष्क में भौतिक निचली सीमाएँ यथार्थवादी मात्राएँ नहीं हैं। सबसे पहले, क्योंकि भौतिकी में मानी जाने वाली न्यूनतम प्रसंस्करण इकाई परमाणु/अणु है, जो मस्तिष्क के काम करने के वास्तविक तरीके से बहुत दूर है; और, दूसरी बात, क्योंकि तंत्रिका नेटवर्क में महत्वपूर्ण अतिरेक और शोर कारक सम्मिलित होते हैं जो उनकी दक्षता को काफी कम कर देते हैं।<ref>{{cite journal |author=Narayanan, N. S. at al. |title=मोटर कॉर्टेक्स में न्यूरोनल एन्सेम्बल की अतिरेक और तालमेल|journal= J. Neurosci.|volume=25 |issue=17 |pages=4207–4216 |doi=10.1523/JNEUROSCI.4697-04.2005 |pmid=15858046 |pmc=6725112 |year=2005 }}</ref> लाफलिन एट अल<ref>{{cite journal |author=Laughlin, S. B at al. |title=तंत्रिका संबंधी जानकारी की चयापचय लागत|journal= Nat. Neurosci.|volume=1 |issue=1 |pages=36–41 |date=November 2013|doi=10.1038/236 |pmid=10195106 |s2cid=204995437 }}</ref> संवेदी सूचना के प्रसंस्करण की ऊर्जावान लागत के लिए स्पष्ट मात्रा प्रदान करने वाले पहले व्यक्ति थे। ब्लोफ़्लाईज़ में उनके निष्कर्षों से पता चला कि दृश्य संवेदी डेटा के लिए, सूचना के एक बिट को प्रसारित करने की लागत लगभग 5 × 10<sup>−14</sup> जूल या समकक्ष 10<sup>4</sup> एटीपी अणु है। इस प्रकार, तंत्रिका प्रसंस्करण दक्षता अभी भी लैंडॉउर की kTln(2) J की सीमा से दूर है, लेकिन एक दिलचस्प तथ्य के रूप में, यह अभी भी आधुनिक कंप्यूटरों की तुलना में बहुत अधिक कुशल है।

2009 में, माहुलिकर और हेरविग ने ऊष्मागतिक नेगेंट्रॉपी को उसके परिवेश के सापेक्ष गतिशील रूप से आदेशित उप-प्रणाली के विशिष्ट एन्ट्रॉपी घाटे के रूप में फिर से परिभाषित किया।<ref>{{cite journal |author1=Mahulikar, S.P. |author2=Herwig, H. |title=अराजकता में गतिशील क्रम अस्तित्व और विकास के लिए सटीक थर्मोडायनामिक सिद्धांत|journal=Chaos, Solitons & Fractals |volume=41 |issue=4 |pages=1939–48 |date=August 2009 |doi=10.1016/j.chaos.2008.07.051 |bibcode = 2009CSF....41.1939M }}</ref> इस परिभाषा ने ''नेगेंट्रॉपी सिद्धांत'' के निर्माण को सक्षम किया, जिसे गणितीय रूप से आदेश अस्तित्व के दौरान ऊष्मागतिकी के दूसरे नियम से पालन करते हुए दिखाया गया है।

==क्वांटम सिद्धांत==
{{See also|होलोग्राफिक सिद्धांत#ऊर्जा, पदार्थ और सूचना तुल्यता|क्वांटम सापेक्ष एन्ट्रापी}}

हर्शमन ने दिखाया,<ref name="Hirschman">{{cite journal |last=Hirschman |first=I.I. Jr.|title=एन्ट्रापी पर एक नोट|journal=American Journal of Mathematics |volume=79 |issue=1 |pages=152–6 |date=January 1957 |jstor=2372390 |doi=10.2307/2372390}}</ref> अर्थात्, हिर्शमन अनिश्चितता, कि हाइजेनबर्ग की अनिश्चितता सिद्धांत को क्वांटम मैकेनिकल स्थिति के क्वांटम अवलोकन प्रायिकता वितरणों की क्लासिकल वितरण एंट्रोपी के योग के रूप में व्यक्त किया जा सकता है, क्वांटम यांत्रिक स्थिति, अर्थात्, कोआर्डिनेट में और संवेग समष्टि में, जब Planck इकाइयों में व्यक्त किया जाता है। परिणामी असमीकरण हाइजेनबर्ग की अनिश्चितता संबंधों पर एक और कठिन बाधा प्रदान करते हैं।

"संयुक्त एन्ट्रॉपी" निर्दिष्ट करना सार्थक है, क्योंकि स्थिति और संवेग क्वांटम संयुग्म चर हैं और इसलिए संयुक्त रूप से अवलोकन योग्य नहीं हैं। गणितीय रूप से इन्हें संयुक्त वितरण के रूप में माना जाना चाहिए। ध्यान दें कि यह संयुक्त अन्तर्मित्रता [[वॉन न्यूमैन एन्ट्रापी|वॉन न्यूमैन एन्ट्रॉपी]] −Tr ρ lnρ = −⟨lnρ⟩ के समान नहीं है। हर्षमैन की अन्तर्मित्रता कहा जाता है कि यह ''क्वांटम स्थितियों के मिश्रण की पूर्ण जानकारी सामग्री'' को ध्यान में रखती है।<ref>{{Cite journal | last1 = Zachos | first1 = C. K. | title = क्वांटम एन्ट्रापी पर एक शास्त्रीय बंधन| doi = 10.1088/1751-8113/40/21/F02 | journal = Journal of Physics A: Mathematical and Theoretical | volume = 40 | issue = 21 | pages = F407–F412 | year = 2007 |arxiv = hep-th/0609148 |bibcode = 2007JPhA...40..407Z | s2cid = 1619604 }}</ref>

(क्वांटम जानकारी के दृष्टिकोण से वॉन न्यूमैन एन्ट्रॉपी के प्रति असंतोष स्टॉटलैंड, पोमेरांस्की, बैचमैट और कोहेन द्वारा व्यक्त किया गया है, जिन्होंने एन्ट्रॉपी की एक अलग परिभाषा प्रस्तुत की है जो क्वांटम यांत्रिकी स्थितियों की अंतर्निहित अनिश्चितता को दर्शाती है। यह परिभाषा शुद्ध अवस्थाओं की न्यूनतम अनिश्चितता एन्ट्रॉपी और मिश्रणों की अतिरिक्त सांख्यिकीय एन्ट्रॉपी के बीच अंतर की अनुमति देती है।<ref>{{cite journal |author1=Alexander Stotland |author2=Pomeransky |author3=Eitan Bachmat |author4=Doron Cohen |doi=10.1209/epl/i2004-10110-1 |journal=Europhysics Letters |volume=67 |title=क्वांटम यांत्रिक अवस्थाओं की सूचना एन्ट्रापी|issue=5 |pages=700–6 |year=2004 |arxiv=quant-ph/0401021|bibcode = 2004EL.....67..700S |citeseerx=10.1.1.252.8715 |s2cid=51730529 }}</ref>)

==यह भी देखें==
{{columns-list|colwidth=22em|
* [[एंट्रॉपी|ऊष्मागतिक एन्ट्रॉपी]]
* [[सूचना एन्ट्रापी]]
* [[ऊष्मागतिकी]]
* [[सांख्यिकीय यांत्रिकी]]
* [[सूचना सिद्धांत]]
* [[क्वांटम इंटेंगलमेंट]]
* [[क्वांटम डीकोहेरेंस]]
* [[फ्लक्चुएशन प्रमेय]]
* [[ब्लैक होल एन्ट्रॉपी]]
* [[ब्लैक होल सूचना विरोधाभास]]
* [[एंट्रॉपी (सूचना सिद्धांत)]]
* [[एंट्रॉपी (सांख्यिकीय ऊष्मागतिकी)]]
* [[एन्ट्रॉपी (कोटि और अव्यवस्था)]]
* [[परिमाण के क्रम (एन्ट्रॉपी)]]}}

==संदर्भ==
{{reflist}}


==अग्रिम पठन==
* {{cite journal |author=Bennett, C.H. |title=Logical reversibility of computation |journal=IBM J. Res. Dev. |volume=17 |issue=6 |pages=525–532 |year=1973 |doi=10.1147/rd.176.0525 |url=http://ieeexplore.ieee.org/xpl/tocresult.jsp?isnumber=5391321&punumber=5288520# }}
* {{Citation |first=Léon |last=Brillouin |author-link=Léon Brillouin |title=Science And Information Theory |url=https://books.google.com/books?id=DWo7lVRVnhcC |year= 2004 |publisher=Dover | edition= second |isbn=978-0-486-43918-1}}. [Republication of 1962 original.]
* {{cite journal |author=Frank, Michael P. |title=Physical Limits of Computing |journal=Computing in Science and Engineering |volume=4 |issue=3 |pages=16–25 |date=May–June 2002 |url=http://www.cise.ufl.edu/research/revcomp/physlim/plpaper.html |doi=10.1109/5992.998637|bibcode=2002CSE.....4c..16F |osti=1373456 |citeseerx=10.1.1.429.1618 |s2cid=499628 }}
* {{cite book |editor1-first=Andreas |editor1-last=Greven |editor2-first=Gerhard |editor2-last=Keller |editor3-first=Gerald |editor3-last=Warnecke |title=Entropy |url=https://books.google.com/books?id=ZKPGzjS0IhcC |year=2003 |publisher=Princeton University Press |isbn=978-0-691-11338-8}} (A highly technical collection of writings giving an overview of the concept of entropy as it appears in various disciplines.)
* {{Citation | first1= M.I. | last1= Kalinin | first2= S.A. | last2= Kononogov | title= Boltzmann's constant, the energy meaning of temperature, and thermodynamic irreversibility | journal=Measurement Techniques| year= 2005 | volume= 48 | issue= 7 | pages= 632–636 | doi=10.1007/s11018-005-0195-9| s2cid= 118726162 }}.
* {{Citation | last1= Koutsoyiannis | first1= D. | title= Hurst–Kolmogorov dynamics as a result of extremal entropy production | journal= [[Physica (journal)|Physica A]] | year= 2011 | volume= 390 | issue= 8 | pages= 1424–1432 | doi= 10.1016/j.physa.2010.12.035|bibcode = 2011PhyA..390.1424K }}.
* {{cite book |author=Landauer, R. |author-link=Rolf Landauer |chapter=Information is Physical |chapter-url=http://ieeexplore.ieee.org/xpl/tocresult.jsp?sortType%3Dasc_p_Sequence%26filter%3DAND%28p_IS_Number%3A13433%29&refinements=4294815729&pageNumber=1&resultAction=REFINE# |doi=10.1109/PHYCMP.1992.615478 |title=Proc. Workshop on Physics and Computation PhysComp'92 |publisher=IEEE Comp. Sci.Press |location=Los Alamitos |year=1993 |pages=1–4 |url=http://ieeexplore.ieee.org/xpl/mostRecentIssue.jsp?punumber=4863|isbn=978-0-8186-3420-8 |s2cid=60640035 }}
* {{cite journal |author=Landauer, R. |title=Irreversibility and Heat Generation in the Computing Process |journal=IBM J. Res. Dev. |volume=5 |issue=3 |pages=183–191 |year=1961 |doi=10.1147/rd.53.0183 |url=http://domino.research.ibm.com/tchjr/journalindex.nsf/c469af92ea9eceac85256bd50048567c/8a9d4b4e96887b8385256bfa0067fba2?OpenDocument}}
* {{cite book |editor1=Leff, H.S. |editor2=Rex, A.F. |title=Maxwell's Demon: Entropy, Information, Computing |publisher=Princeton University Press |location=Princeton NJ |year=1990 |isbn=978-0-691-08727-6 }}
* {{cite book |author=Middleton, D. |title=An Introduction to Statistical Communication Theory |url=https://archive.org/details/introductiontost0000midd |url-access=registration |publisher=McGraw-Hill |year=1960 }}
* {{cite journal |author=Shannon, Claude E. |author-link=Claude Shannon |title=A Mathematical Theory of Communication |journal=Bell System Technical Journal |volume=27 |issue=3 |pages=379–423 |date=July–October 1948 |doi=10.1002/j.1538-7305.1948.tb01338.x|title-link=A Mathematical Theory of Communication |hdl=10338.dmlcz/101429 |hdl-access=free }} ([http://www.alcatel-lucent.com/bstj/vol27-1948/articles/bstj27-3-379.pdf as PDF])


==बाहरी संबंध==
* [http://plato.stanford.edu/entries/information-entropy/  Information Processing and Thermodynamic Entropy] Stanford Encyclopedia of Philosophy.
*[[Wikibooks:An Intuitive Guide to the Concept of Entropy Arising in Various Sectors of Science|''An Intuitive Guide to the Concept of Entropy Arising in Various Sectors of Science'']] — a wikibook on the interpretation of the concept of entropy.

{{DEFAULTSORT:Entropy In Thermodynamics And Information Theory}}[[Category: थर्मोडायनामिक एन्ट्रॉपी]] [[Category: एन्ट्रापी और सूचना]] [[Category: थर्मल और सांख्यिकीय भौतिकी का दर्शन]] 



[[Category: Machine Translated Page]]
[[Category:Created On 03/12/2023]]
[[Category:Vigyan Ready]]