Ранее: Глава 4. Энтропия, незнание и информация
Как уже упоминалась, Джеймс Максвелл с самого начала считал, что в рамках молекулярно-кинетической теории невозможно найти строгое доказательство второго закона. Придуманное им существо, впоследствии названное демоном Максвелла, служило исключительно для доказательства этого утверждения. Статистическое обоснование Людвига Больцмана второго закона подтвердило правоту Максвелла. При этом в 19-ом веке вопрос борьбы с демоном Максвелла не поднимался — второй закон имеет статистическую природу, поэтому с необходимостью есть вероятность его нарушения.
Экспериментальное подтверждение теории броуновского движения Эйнштейна было первым доказательством реальности флуктуаций. Это обстоятельство привлекло внимание к возможности вечного двигателя второго рода с использованием флуктуаций — было предложено несколько таких гипотетических устройств. В рассмотрении Мариана Смолуховского демон Максвелла как физическое устройство считался также подверженным влиянию флуктуаций. В результате Смолуховский только несколько ослабил формулировку второго закона для совместной системы из натурализованного демона Максвелла и управляемого им устройства требовалось — невозможно производить работу в такой системе в течении длительного времени.
Лео Сцилард (другая транскрипция Силард) ввел в рассмотрение информационного демона Максвелла. В отличие от механических демонов, рассмотренных в работах Смолуховского, в мысленном эксперименте Сциларда управление устройством проводилось интеллектуальным демоном с использованием измерений. Этот мысленный эксперимент оказал большое влияние на развитие статистической механики во второй половине 20-ого века. Физики решили, что демон Максвелла представляет угрозу второму закону и поэтому требуется изгнание демона.
На первом этапе борьбы с демоном Леон Бриллюэн использовал негэнтропийный принцип информации. Это рассмотрение подтвердило выводы Сциларда об увеличение энтропии суммарной системы в ходе измерения; при этом изменение энтропии связывалось с полученной информацией в ходе измерения. Второй этап изгнания демона был проведен в рамках термодинамики вычислений. Рольф Ландауэр выдвинул тезис о минимальном изменении энтропии при стирании ячейки памяти, а Чарльз Беннет использовал принцип Ландаэура для нового объяснения невозможности демона Максвелла. По Беннету измерение может проводиться без изменения энтропии, а увеличение энтропии происходит из-за стирания ячейки в памяти демона.
- Демон Максвелла
- Броуновское движение и второй закон
- Смолуховский: натурализация демона Максвелла
- Демон Сциларда
- Бриллюэн: негэнтропийный принцип информации
- Ландауэр и термодинамика вычислений
Демон Максвелла
Максвелл в 1867 году в письме Питеру Тэйту описал устройство, содержащее крошечное существо, которое Уильям Томсон (впоследствии Кельвин) окрестил демоном. Максвелл выразил это обстоятельство в явной форме в письме Джону Стретту (лорду Рэлею) в 1870 году, в котором Максвелл подчеркнул симметрию законов механики во времени. Таким образом, при выполнении закона сохранения энергии вполне возможен перенос теплоты от холодного тела к горячему путем обращения времени в законах механики. Но поскольку такое не представлялось возможным, мысленный эксперимент с демоном делал аргумент более наглядным.
В публичном изложении демон Максвелла появился в 1871 году в книге ‘Теория теплоты‘. Интересно отметить, что при описании существа Максвелл сравнивал его со стрелочником, а стрелочник был любимой фигурой Максвелла при обсуждении свободы воли. Максвелл был добропорядочным христианином и он считал, что научное знание совместимо с религией и что в нем есть место свободе воли. Но рассмотрение вопроса с этой стороны уведет нас в сторону от обсуждаемой темы.
Максвеллу было достаточно представления о статистической роли второго закона без проработки деталей. Правда, в 1878 году в статье ‘Диффузия‘ для энциклопедии Британника Максвелл связал проблему со статусом человеческого знания:
‘Только существу, находящемуся на промежуточной стадии, которое может овладеть некоторыми формами энергии, в то время как другие ускользают от его внимания, кажется, что энергия неизбежно переходит из доступного состояния в рассеянное.’
Имеется в виду, что для существа, которое могло бы следить за движением молекул (демон Максвелла), такой проблемы бы не было:
‘понятие рассеянной энергии не могло возникнуть … у того, кто мог бы проследить движение каждой молекулы и уловить его в нужный момент.’
Броуновское движение и второй закон
Ситуация с демоном Максвелла поменялась в ходе изучения броуновского движения. Понимание связи броуновского и молекулярного движения появилось у физиков в последней четверти 19-ого века. Несколько имен из книги Гельфера:
‘В ясной форме предположение о том, что броуновское движение вызывается движением молекул жидкости, было высказано независимо друг от друга Карбонеллем (1874) и Рамсеем (1876). В 1877 г. к такому же выводу пришел и Дельсо … Следует отметить, что некоторые количественные закономерности броуновского движения были подмечены еще Ф. Экснером в 1867 г.’
‘Позже, в 1888 г. М. Гуи нашел, что интенсивность движения частичек обратно пропорциональна вязкости жидкости и прямо пропорциональна ее температуре. В 1900 г. Ф. Экснер попытался дать аналитический расчет скорости движения броуновской частички, исходя из допущения, что ее кинетическая энергия равна кинетической энергии молекулы газа. Однако полученные результаты не совпали с наблюдаемыми скоростями.’
Описание Гельфера выражает проблему экспериментального изучения броуновского движения в то время. Физики считали, что можно измерить скорость движения мелких частичек, но этот путь приводил к рассогласованию наблюдаемых величин с предсказаниями теории. Возможно это было причиной отсутствия у Больцмана интереса к броуновскому движению.
Положение поменялось после теории, разработанной Эйнштейном и Смолуховским. Теперь в качестве наблюдаемой величины использовалось смещение частицы и это открыло путь к экспериментальной проверке теории. Это лишний раз доказывает, что развитие физики не происходит в духе индуктивного метода, как обобщение проводимых экспериментов. См. также заметку ‘Теодор Сведберг и существование молекул‘ в разделе Дополнительная информация.
В ходе изучения броуновского движения появились голоса о возможности вечного двигателя второго рода на основе флуктуаций. Из книги Гельфера:
‘относительно формулировки Томсона («вечный двигатель второго рода невозможен») возникли дебаты. Некоторые физики, такие как Липпман, Сведберг, Оствальд, полагали, что флуктуационные явления позволяют, по крайней мере принципиально, поставить вопрос об осуществлении вечного двигателя второго рода. Казалось, что максвелловская идея о «демонах», сортирующих молекулы по скоростям, находит теоретическое обоснование в броуновском движении. В свое время еще Гуи высказал мысль, что если бы удалось каким-либо способом упорядочить броуновское движение, то это открыло бы возможность получения даровой энергии. Если французский физик высказал эту мысль как гипотетическое предположение, то Оствальд в 1906 г. прямо говорит о возможности опровержения второго начала:
«Представляется нам, что «демоны» Максвелла, которых в молекулярной области можно было бы считать безвредными, здесь, в конечной области видимых явлений, имеют открытое поле для экспериментального опровержения второго начала».
Были даже предложены конкретные схемы осуществления вечного двигателя второго рода, большинство которых основывалось на том или ином варианте максвелловских «демонов».’
Смолуховский: натурализация демона Максвелла
Рассмотрим позицию Мариана Смолуховского, названия статей которого выглядят вызывающе: ‘Доступные наблюдению молекулярные явления, противоречащие обычной термодинамике‘ (1912), ‘Границы справедливости второго начала термодинамики‘ (1914).
В классической термодинамике, строго говоря, флуктуации невозможны. В этом смысле броуновское движение и наличие флуктуаций противоречат второму закону термодинамики. Однако после констатации этого факта Смолуховский проводит натурализацию демона Максвелла. Демон объявляется устройством, которое подчиняется законам физики и на которое распространяется наличие флуктуаций. В этих рамках Смолуховский показывает проблематичность предложенных вечных двигателей второго рода — наличие флуктуаций в демоне Максвелла делает невозможным продолжительную работу этих двигателей. Для сохранения второго закона требуется несколько изменить формулировку, чтобы учесть возможное возникновение флуктуаций:
‘Нельзя осуществить никакого автоматического приспособления, которое продолжительное время производило бы полезную работу за счет теплоты более низкой температуры.’
Единственную возможность создания вечного двигателя второго рода Смолуховский связывает с чистым интеллектом (из статьи 1914 года):
‘Таким образом, perpeluum mobile возможен, если в качестве некоторого рода deus ex machina понимают человека, экспериментирующего в соответствии с обычными методами физики, который, опираясь на непрерывное точное исследование мгновенного состояния природы, может в любой момент привести в ход или прервать макроскопические процессы без совершения работы. Так что вовсе нет нужды в том, чтобы он обладал способностью максвелловского демона, который задерживает отдельные молекулы, но все же в упомянутых выше пунктах совершенно отличается от действительно живого существа. Потому что выполнение какого-либо физического процесса в результате деятельности как сенсорной, так и двигательной нервной системы, всегда связано с обесцениванием энергии, не говоря уже о том, что и самое существование живого связано с непрерывным рассеянием энергии.’
В следующем параграфе Смолуховский оставляет место некоторому сомнению:
‘Итак, если учесть эти обстоятельства, то представляется очень сомнительным, что реальные живые существа могут длительно, или по крайней мере регулярно, производить работу за счет теплоты тела более низкой температуры. Правда, наше незнание жизненных процессов не позволяет дать определенный ответ.’
Но затем последующий параграф начинается с утверждения: ‘Затронутые в конце вопросы уже выходят за рамки собственно физики.’ Отмечу, что решение Смолуховского было успешным. Вечный двигатель второго рода, работающий продолжительное время, так и не был создан. Приведу цитату из книги 2005 года с выразительным названием ‘Вызовы второму началу термодинамики‘; в ней разбирается много предложений о вечном двигателе второго рода:
‘В этой книге мы постараемся внести ясность в этот вопрос; хотя второй закон потенциально может быть нарушен, на практике он не нарушался.’
Демон Сциларда
Правильное произношение Leo Szilard это Лео Силард, но я по привычке буду использовать транскрипцию Сцилард; именно так стоит во многих учебниках. Сцилард известен мысленным экспериментом, который сыграл большую роль в попытках физиков во второй половине 20-ого века связать информацию и вычисления с физическими процессами.
В 1925 году Сциларда написал статью, посвященную созданию феноменологической теории флуктуаций. Описание развития этих идей Сциларда можно найти в книге Ю. Г. Рудого, ‘Математическая структура равновесной термодинамики и статистической механики‘ (2013). Предполагаемые устройства, рассматриваемые в работах Смолуховского и попадающие под действие формализма флуктуаций Сциларда, можно назвать механическими демонами. В них отсутствовала информационная часть и тем самым оставалась неисследованной возможность корреляций между флуктуациями в демоне и в управляемой им системе.
По всей видимости это обстоятельство послужило толчком к статье 1929 года ‘Об уменьшении энтропии в термодинамической системе в результате вмешательства разумных существ‘. В ней Сцилард рассмотрел мысленный эксперимент, повлиявший на развитие физики во второй половине 20-ого века. Сцилард уменьшил рассматриваемую систему до одной молекулы и ввел в рассмотрение существо, которое после обнаружения нахождения молекулы в левой или правой части объема использует эту информацию для получения полезной работы. В ходе одного цикла управляемой подсистемы происходит превращение теплоты в работу и уменьшение энтропии подсистемы. Тем самым обыгрывалась возможность использования информации о флуктуации для получения работы.
Механический демон превращается в информационный — измерение, переработка информации, действие. Я буду использовать выражение демон Сциларда, чтобы подчеркнуть отличие этого устройства от механических демонов Максвелла; демон Сциларда — это информационный демон Максвелла. Рассмотрение Сциларда предполагало, что второй закон термодинамики в ходе такого процесса не нарушается за счет увеличения энтропии при проведении демоном измерения о положении молекулы. Тем самым термодинамическая энтропия связывалась с процессом получения информации о подсистеме в ходе измерения.
Бриллюэн: негэнтропийный принцип информации
Первым физиком, кто довел до конца объединение теории информации Шеннона и статистической механики, был Леон Бриллюэн (Lеon Brillouin, 1889-1969). В серии статей с 1951 года он провел анализ информационных демонов Максвелла, включая мысленный эксперимент Сциларда, а в 1956 году вышла книга ‘Наука и теория информации‘.
Бриллюэн посчитал, что лучшим выражением деградации энергии будет служить отрицательное значение энтропии, которое он назвал негэнтропией. В то же время формально негэнтропия определена как отрицательное значение энтропии:
‘Негэнтропия (N = ‐S) представляет качество энергии и она должна всегда убывать.’
Далее Бриллюэн вводит негэнтропийный принцип информации. Он приравнивает изменение информации изменению числа состояний в уравнении Больцмана. Отсюда делается вывод:
‘связанная информация = убыванию энтропии S = увеличению негэнтропии N’
Должен признаться, что я не смог понять рассмотрение Бриллюэна, поскольку все уравнения формально касались изменения энтропии, но иногда изменение энтропии называлось изменением негэнтропии, а иногда полученной информацией. Так, в примерах Бриллюэн рассматривает самопроизвольное расширение газа в вакуум и смешение двух газов. Приведу описание первого процесса, только опущу уравнения:
‘Предположим, что мы имеем дополнительную информацию о состоянии газа; например, нам удалось узнать, что в некоторый предшествующий момент газ занимал меньший объем V1. Так обстояло бы дело, если бы газ содержался в сосуде V1, который мы внезапно соединили бы с другим объемом V2. … Начальная энтропия S1 меньше энтропии S после расширения … [информация в уравнении определяется как разница энтропий]. Когда мы впускаем газ в объем V2, между обоими сосудами возникают колебания плотности, и постепенно устанавливается равновесное состояние с плотностью, однородной во всем объеме V. Возрастание энтропии и потеря информации происходит совместно. Мы можем сказать, что газ постепенно «забывает» информацию.’
При смешении газов вывод аналогичный: ‘возрастание энтропии соответствует потере информации’. С моей точки зрения появление термина информация в данном контексте выглядит произволом. В заметке ‘Леон Бриллюэн: Наука и теория информации‘ (см. раздел Дополнительная информация) описаны мои проблемы с пониманием книги Бриллюэна.
Как бы то ни было, Бриллюэн использовал негэнтропийный принцип информации для анализа информационных демонов Максвелла. Анализ подтвердил роль измерений; уменьшение энтропии управляемой системы в ходе работы демона компенсируется увеличением энтропии общей системы, включая демона, в процессе измерения. Статьи и книга Бриллюэна в ходе последующего обсуждения привели к достижению консенсуса среди физиков на пару десятилетий. Получение новой информации при проведении измерений связано с изменением термодинамической энтропии и это является решением при рассмотрении демона Сциларда.
Ландауэр и термодинамика вычислений
Параллельно велось обсуждение минимальных затрат, связанных с вычислениями. После завершения некоторых логических операций при вычислении невозможно вернуться в исходное состояние — такие логические операции назывались необратимыми. Рольф Ландауэр в 1961 году связал логическую необратимость с физической и проанализировал операцию записи одного бита в память. В этом процессе не происходит проверка состояния памяти, поскольку это потребовало бы дополнительных затрат. Тем самым операция записи бита является необратимой, поскольку после нее предыдущее содержание становится неизвестным. В результате Ландауэр предложил принцип, что такая операция обязана сопровождаться выделением минимального количества теплоты, связанного с изменением термодинамической энтропии.
В дальнейшем Чарльз Беннет (Charles Bennett, также транскрипция Беннетт) и другие показали возможность обратимых вычислений при использовании только обратимых логических операций. В обратимых вычислениях запись бита в память остается единственной логической необратимой операцией. В результате Беннет в начале 1980-х годов предложил новый анализ демона Сциларда; Беннет пришел к выводу, что измерения можно провести без изменения энтропии, а необходимое увеличение энтропии он связал с использованием памяти. Согласно Беннету демон должен был бы записать результат измерения в память, а в конце цикла для возвращения в исходное состояние потребовалось бы инициализация ячейки памяти. Новая интерпретация демона Сциларда победила, хотя потребовалось дополнительное обсуждение вопроса, почему предыдущее поколение физиков во главе с Бриллюэном совершило ошибку.
В конце 1980-х годов Войцех Зурек сделал заключительный аккорд в этой истории. Зурек сказал, что баланс энтропии по Беннету устанавливается только в конце процесса; поэтому Зурек указал на необходимость расширения анализа Беннета путем включения в него алгоритмической энтропии. Предполагалось, что демон Сциларда при выполнении задачи использует определенный алгоритм, основанный на обратимых вычислениях. Включение в анализ алгоритмической энтропии позволило утверждать, что баланс по энтропии поддерживается постоянным в ходе всего процесса.
В третьей части книги я вернусь к этому вопросу с критикой связи термодинамической энтропии с информацией и незнанием. Пока только несколько слов на примере горящей свечи. Согласно Бриллюэну в процессе горения свечи происходит потеря информации и требуется осмыслить значение слова информация в этом случае. В термодинамике вычислений возникает вопрос, как определить наличие вычисленией в протекающем физическом процессе. При горении свечи вычисления вроде бы не происходят, но именно в этом заключается вопрос — как в общем случае отличить физический процесс, связанный с вычислениями, от такового без вычислений.
Далее:
Информация
Martin J. Klein, Maxwell, His Demon, and the Second Law of Thermodynamics: Maxwell saw the second law as statistical, illustrated this with his demon, but never developed its theory. American scientist 58, no. 1 (1970): 84-97.
Я. М. Гельфер, История и методология термодинамики и статистической физики, 2-е изд., 1981, Глава 12, Открытие и исследование броуновского движения. Дальнейшее развитие статистической теории Больцмана.
John Earman and John D. Norton. EXORCIST XIV: the wrath of Maxwell’s demon. Part I. From Maxwell to Szilard. Studies In History and Philosophy of Science Part B: Studies In History and Philosophy of Modern Physics 29, no. 4 (1998): 435-471.
Vladislav Capek and Daniel P. Sheehan. Challenges to the second law of thermodynamics, 2005.
Леон Бриллюэн, Наука и теория информации, 1960.
Lеon Brillouin, Science and Information Theory, 1956.
John Earman and John D. Norton. EXORCIST XIV: the wrath of Maxwell’s demon. Part II. From Szilard to Landauer and Beyond. Studies In History and Philosophy of Science Part B: Studies In History and Philosophy of Modern Physics 30, no. 1 (1999): 1 — 40.
Дополнительная информация
Теодор Сведберг и существование молекул: Описание работ Теодора Сведберга, которые нередко считаются первым подтверждением теории броуновского движения Эйнштейна. На самом деле это не так. По материалам статьи Милтона Керкера.
Леон Бриллюэн: Наука и теория информации: Обсуждение книги. Анализ пути Бриллюэна от термодинамической энтропии к негэнтропийному принципу информации. Критика интерпретации термодинамической энтропии как информационной энтропии.