История энтропии

Концепция энтропии возникла в ответ на наблюдение, что определенное количество функциональной энергии, выделяемой в результате реакций горения, всегда теряется в результате диссипации или трения и, таким образом, не преобразуется в полезную работу . Ранние двигатели с тепловым приводом, такие как двигатель Томаса Савери (1698 г.), двигатель Ньюкомена (1712 г.) и паровой трехколесный велосипед Кюньо (1769 г.), были неэффективными, преобразуя менее двух процентов входной энергии в полезную работу ; много полезной энергии было рассеяно или потеряно. В течение следующих двух столетий физики исследовали загадку потерянной энергии; Результатом стала концепция энтропии.

В начале 1850-х годов Рудольф Клаузиус сформулировал концепцию термодинамической системы и выдвинул аргумент, согласно которому в любом необратимом процессе небольшое количество тепловой энергии δQ постепенно рассеивается через границу системы. Клаузиус продолжил развивать свои идеи о потерянной энергии и ввёл термин «энтропия» .

С середины 20 века понятие энтропии нашло применение в области теории информации , описывая аналогичную потерю данных в системах передачи информации.

термодинамические

В 1803 году математик Лазар Карно опубликовал работу под названием « Основные принципы равновесия и движения» . Эта работа включает обсуждение эффективности фундаментальных машин, то есть шкивов и наклонных плоскостей. Карно просмотрел все детали механизмов, чтобы развить общую дискуссию о сохранении механической энергии. В течение следующих трех десятилетий теорема Карно была принята как утверждение о том, что в любой машине ускорения и толчки движущихся частей представляют собой потерю момента активности , то есть выполненную полезную работу . Из этого Карно сделал вывод, что вечное движение невозможно. Эта потеря момента активности была первым в истории элементарным утверждением второго закона термодинамики и концепции «энергии преобразования» или энтропии , то есть энергии, теряемой в результате диссипации и трения.

Карно умер в изгнании в 1823 году. В следующем году его сын Сади Карно , окончив Политехническую школу инженеров, но теперь живущий на половину зарплаты со своим братом Ипполитом в маленькой квартире в Париже, написал «Размышления о мотиве». Сила Огня . В этой книге Сади визуализировал идеальный двигатель , в котором любое тепло (то есть тепловая энергия ), преобразованное в работу , могло быть восстановлено путем обращения вспять цикла — концепция, впоследствии известная как термодинамическая обратимость . Опираясь на работу своего отца, Сади постулировал концепцию, согласно которой «некоторое количество калорий всегда теряется» при преобразовании в работу, даже в его идеализированной обратимой тепловой машине, которая исключала потери на трение и другие потери из-за несовершенства любой реальной машины. Он также обнаружил, что этот идеализированный КПД зависел только от температур тепловых резервуаров, между которыми работал двигатель, а не от типов рабочих жидкостей . Ни одна настоящая тепловая машина не могла бы реализовать Цикл Карно был обратим и был признан еще менее эффективным. Эта потеря полезной калорийности была предшествующей формой увеличения энтропии, какой мы ее знаем сейчас. Хотя это было сформулировано в терминах теплородности, а не энтропии, это было ранним пониманием второго закона термодинамики.

определение 1854 года

Рудольф Клаузиус – создатель понятия «энтропия».

В своих мемуарах 1854 года Клаузиус впервые развивает концепции внутренней работы , то есть той, «которую атомы тела оказывают друг на друга», и внешней работы , то есть той, «которая возникает в результате внешних влияний, которым тело может подвергаться». ", который может воздействовать на рабочее тело из жидкости или газа, обычно функционирующее для работы поршня. Затем он обсуждает три категории, на которые теплоту Q можно разделить :

1. Тепло используется для увеличения тепла, фактически существующего в организме.
2. Тепло, используемое при производстве внутренних работ.
3. Тепло, используемое при производстве наружных работ.

Основываясь на этой логике и после математического представления первой фундаментальной теоремы , Клаузиус затем представил первую в мире математическую формулировку энтропии, хотя на этом этапе развития своих теорий он назвал ее «значением эквивалентности», возможно, имея в виду развивавшаяся в то время концепция механического эквивалента тепла, а не энтропии, термин, который вошёл в употребление позже. Он постановил:

вторую фундаментальную теорему механической теории тепла Таким образом, можно сформулировать :

Если два преобразования, которые, не вызывая какого-либо другого постоянного изменения, могут взаимно заменять друг друга, называются эквивалентными, то образование количества теплоты Q в результате работы при температуре Т имеет эквивалентное значение :

${\frac {Q}{T}}$

а переход количества тепла Q от температуры Т ₁ к температуре Т ₂ имеет эквивалентное значение:

$Q\left({\frac {1}{T_{2}}}-{\frac {1}{T_{1}}}\right)$

где Т представляет собой функцию температуры, независимую от природы процесса, посредством которого осуществляется превращение.

В современной терминологии, то есть терминологии, введенной самим Клаузиусом в 1865 году, мы думаем об этом значении эквивалентности как об «энтропии», символизируемой S . Таким образом, используя приведенное выше описание, мы можем вычислить изменение энтропии Δ S при прохождении количества теплоты Q от температуры Т ₁ через «рабочее тело» жидкости, которым обычно являлось тело пара, до температуры Т ₂ , как показано ниже:

Сади Карно Схема тепловой машины , 1824 год.

Если мы сделаем задание:

$S={\frac {Q}{T}}$

Тогда изменение энтропии или «значение эквивалентности» для этого преобразования равно:

$\Delta S=S_{\rm {final}}-S_{\rm {initial}}\,$

что равно:

$\Delta S=\left({\frac {Q}{T_{2}}}-{\frac {Q}{T_{1}}}\right)$

и, исключив Q, мы получим следующую форму, полученную Клаузиусом:

$\Delta S=Q\left({\frac {1}{T_{2}}}-{\frac {1}{T_{1}}}\right)$

определение 1856 года

В 1856 году Клаузиус сформулировал то, что он назвал «второй фундаментальной теоремой механической теории тепла » в следующей форме:

$\int {\frac {\delta Q}{T}}=-N$

где N — «значение эквивалентности» всех некомпенсированных преобразований, участвующих в циклическом процессе. Это значение эквивалентности было предшественником формулировки энтропии.

определение 1862 года

Основная статья: дисгрегация

В 1862 году Клаузиус сформулировал то, что он называет «теоремой об эквивалентных значениях преобразований» или то, что сейчас известно как второй закон термодинамики , как таковой:

Алгебраическая сумма всех преобразований, происходящих в циклическом процессе, может быть только положительной или, в крайнем случае, равной нулю.

Количественно, Клаузиус утверждает, что математическое выражение этой теоремы следующее.

Пусть δQ — элемент теплоты, отдаваемый телом какому-либо резервуару тепла при его собственных изменениях, причем теплота, которую оно может поглотить из резервуара, считается здесь отрицательной, а Т — тела абсолютная температура в момент отдачи. вверх по этому нагреву, то уравнение:

$\int {\frac {\delta Q}{T}}=0$

должно быть верно для каждого обратимого циклического процесса, и соотношение:

$\int {\frac {\delta Q}{T}}\geq 0$

должно быть справедливым для любого циклического процесса, который в каком-либо смысле возможен.

Это была ранняя формулировка второго закона и одна из первоначальных форм концепции энтропии.

определение 1865 года

В 1865 году Клаузиус дал необратимой потере тепла, или тому, что он ранее называл «эквивалентной стоимостью», название:

Я предлагаю, чтобы S было взято из греческих слов «энтропия» (внутреннее направление). Я сознательно выбрал слово «энтропия», чтобы оно было как можно более сходным со словом «энергия»: две величины, которые будут называться этими словами, настолько тесно связаны по физическому значению, что определенное сходство в их названиях кажется уместным.

Клаузиус не уточнил, почему он выбрал символ «S» для обозначения энтропии, и почти наверняка неверно, что Клаузиус выбрал «S» в честь Сади Карно ; имена ученых редко, если вообще когда-либо, используются таким образом.

Дальнейшие события

В 1876 году физик Дж. Уиллард Гиббс , опираясь на работы Клаузиуса, Германа фон Гельмгольца и других, предположил, что измерение «доступной энергии» Δ G в термодинамической системе можно математически объяснить, вычитая «потери энергии» T. Δ S от изменения полной энергии системы Δ H . Эти концепции были далее развиты Джеймсом Клерком Максвеллом [1871] и Максом Планком [1903].

термодинамические

Основная статья: статистическая термодинамика

В 1877 году Людвиг Больцман разработал статистическую механическую оценку энтропии S тела в его собственном макросостоянии внутреннего термодинамического равновесия. Это может быть записано как:

$S=k_{\rm {B}}\ln \Omega \!$

где

k _B обозначает постоянную Больцмана и

Ω обозначает количество микросостояний, соответствующих данному равновесному макросостоянию.

Сам Больцман на самом деле не писал эту формулу, выраженную с помощью названной константы k _B , что связано с прочтением Планком Больцмана.

Больцман рассматривал энтропию как меру статистической «путаницы» или беспорядка. Это понятие было вскоре уточнено Дж. Уиллардом Гиббсом и сейчас рассматривается как один из краеугольных камней теории статистической механики .

Эрвин Шрёдингер использовал работу Больцмана в своей книге « Что такое жизнь?» чтобы объяснить, почему живые системы имеют гораздо меньше ошибок репликации, чем можно было бы предсказать на основе статистической термодинамики. Шредингер использовал уравнение Больцмана в другой форме, чтобы показать рост энтропии.

$S=k_{\rm {B}}\ln D\!$

где D — число возможных энергетических состояний в системе, которые могут быть случайно заполнены энергией. Он постулировал локальное уменьшение энтропии для живых систем, когда (1/D) представляет количество состояний, которые не могут быть распределены случайным образом, например, что происходит при репликации генетического кода.

$-S=k_{\rm {B}}\ln(1/D)\!$

Без этой поправки Шредингер утверждал, что статистическая термодинамика могла бы предсказать одну тысячу мутаций на миллион репликаций и десять мутаций на сто репликаций, следуя правилу квадратного корня из n , - гораздо больше мутаций, чем происходит на самом деле.

Разделение Шрёдингером случайных и неслучайных энергетических состояний — одно из немногих объяснений того, почему энтропия могла быть низкой в ​​прошлом, но постоянно возрастать сейчас. Это было предложено как объяснение локализованного уменьшения энтропии. при фокусировке лучистой энергии в параболических отражателях и во время темнового тока в диодах, что в противном случае противоречило бы статистической термодинамике.

Теория информации

Аналогом термодинамической энтропии является информационная энтропия . В 1948 году, работая в Bell Telephone Laboratories, инженер-электрик Клод Шеннон решил математически количественно оценить статистическую природу «потерянной информации» в сигналах телефонных линий. Для этого Шеннон разработал очень общую концепцию информационной энтропии , фундаментального краеугольного камня теории информации . Хотя история варьируется, поначалу казалось, что Шеннон не особенно осознавал близкое сходство между своей новой величиной и более ранними работами по термодинамике. Однако в 1939 году, когда Шеннон какое-то время работал над своими уравнениями, ему довелось посетить математика Джона фон Неймана . По словам одного источника, во время обсуждения того, что Шеннон должен назвать «мерой неопределенности» или затухания сигналов телефонной линии со ссылкой на его новую теорию информации:

Больше всего меня беспокоило, как это назвать. Я думал назвать это «информацией», но это слово использовалось слишком часто, поэтому я решил назвать это «неопределенностью». Когда я обсуждал это с Джоном фон Нейманом, у него возникла идея получше. Фон Нейман сказал мне: «Вам следует назвать это энтропией по двум причинам: во-первых, ваша функция неопределенности использовалась в статистической механике под этим названием, поэтому у нее уже есть имя. Во-вторых, что более важно, никто не знает, что такое энтропия на самом деле, поэтому в дебатах у вас всегда будет преимущество.

Согласно другому источнику, когда фон Нейман спросил его, как у него дела с теорией информации, Шеннон ответил:

Теория была в отличной форме, за исключением того, что ему нужно было хорошее имя для «недостающей информации». «Почему бы вам не назвать это энтропией», — предложил фон Нейман. «Во-первых, в статистической механике Больцмана уже существует математическое развитие, очень похожее на ваше, а, во-вторых, никто хорошо не понимает энтропию, так что в любой дискуссии вы будете в выигрышной позиции.

В 1948 году Шеннон опубликовал свою основополагающую статью «Математическая теория коммуникации» , в которой посвятил раздел тому, что он называет выбором, неопределенностью и энтропией. В этом разделе Шеннон вводит H-функцию следующего вида:

$H=-K\sum _{i=1}^{k}p(i)\log p(i),$

где K — положительная константа. Затем Шеннон заявляет, что «любая величина этой формы, где K представляет собой просто выбор единицы измерения, играет центральную роль в теории информации как мера информации, выбора и неопределенности». Затем, в качестве примера того, как это выражение применяется в ряде различных областей, он ссылается на « Принципы статистической механики» Р.К. Толмана 1938 года , утверждая, что «форма H будет признана формой энтропии, определенной в некоторых формулировках статистической механики, где p _i — это вероятность того, что система находится в ячейке i своего фазового пространства… Тогда H — это, например, буква H Больцмана в знаменитой теореме о H ». Таким образом, за последние пятьдесят лет, с тех пор как было сделано это заявление, люди дублировали эти две концепции или даже заявляли, что они совершенно одинаковы.

Информационная энтропия Шеннона — гораздо более общее понятие, чем статистическая термодинамическая энтропия. Информационная энтропия присутствует всякий раз, когда существуют неизвестные величины, которые можно описать только распределением вероятностей. В серии статей Э. Т. Джейнса , начавшейся в 1957 г., статистическую термодинамическую энтропию можно рассматривать как просто частное применение информационной энтропии Шеннона к вероятностям определенных микросостояний системы, возникающих с целью создания определенного макросостояния.

Популярное использование

Термин энтропия часто используется в популярном языке для обозначения множества несвязанных между собой явлений. Одним из примеров является концепция корпоративной энтропии , несколько юмористически выдвинутая авторами Томом ДеМарко и Тимоти Листером в их классической публикации 1987 года «Peopleware» , книге о развитии и управлении продуктивными командами и успешными программными проектами. Здесь они рассматривают потери энергии как бюрократическую волокиту, а неэффективность бизнес-команды — как форму энтропии, то есть потери энергии впустую. Эта концепция завоевала популярность и теперь является обычным жаргоном в бизнес-школах.

Другой пример: энтропия является центральной темой Айзека Азимова рассказа « Последний вопрос» (впервые авторские права защищены в 1956 году). История обыгрывает идею о том, что самый важный вопрос — как остановить рост энтропии.

Совпадение терминологии

При необходимости, чтобы устранить неоднозначность между статистической термодинамической концепцией энтропии и энтропийными формулами, выдвинутыми различными исследователями, статистическую термодинамическую энтропию правильнее всего называть энтропией Гиббса . Термины «энтропия Больцмана-Гиббса» или «энтропия БГ» и «энтропия Больцмана-Гиббса-Шеннона» или «энтропия БГС» также встречаются в литературе.

См. также

• Энтропия
• Энтальпия
• История термодинамики
• Термодинамическая свободная энергия