Ранее: Глава 4. Горение свечи и уровни организации
В главах 2.4 ‘Энтропия, незнание и информация‘ и 2.5 ‘Демон Максвелла и информация‘ были рассмотрены причины, по которым ряд физиков пришел к выводу о эквивалентности термодинамической и информационной энтропии: неудачные попытки найти энтропию в неравновесной статистической механике, появление теории информации Шеннона и возникновение кибернетики, обсуждение возможности вечного двигателя второго рода при использовании флуктуаций, поиск минимальных затрат энергии при вычислении.
В этой главе основное внимание будет уделено информационному демону Максвелла, который был назван мною демоном Сциларда в честь мысленного эксперимента, сыгравшего основную роль при обсуждении информации и энтропии во второй половине 20-ого века. Нельзя не отметить роль идеи Сциларда как источника вдохновения для ряда поколений физиков, но рассмотрим аргументы против использования демона Сциларда для отождествления информационной и термодинамической энтропии.
В своем рассмотрении я использовал анализ информационного демона Максвелла в статьях Эрмана и Нортона. Аргументы из этих статей были расширены путем включения в обсуждение уровней организации. Утверждение, что для передачи информации и для выполнения вычислений необходимо физическое устройство, тривиально. Тем не менее, остается вопрос, можно ли совместить информационный уровень организации с физическим.
Следует также обратить внимание на многозначность терминов информация и измерение. Рассмотрим снова термодинамические таблицы: ‘Термодинамические свойства индивидуальных веществ‘. Полезно по приведенной ссылке посмотреть на несколько таблиц термодинамических свойств разных веществ. Без сомнения это информация, полученная в ходе обработки результатов измерений огромного количества экспериментов. Значение терминов информация и измерение в предыдущем предложении однако не совпадает с таковыми при рассмотрении демона Сциларда.
- Введение
- Что доказывает рассмотрение демона Сциларда?
- Принцип Ландауэра, обратимые вычисления и флуктуации
- Неадекватность мысленного эксперимента Сциларда
- Информация и физическое как уровни организации
- Заключение
Введение
Мариан Смолуховский считал, что для решения проблемы демона Максвелла достаточно его натурализовать, то есть, сказать, что демон Максвелла является физическим устройством. В этом случае следует только ослабить версию второго закона — в силу флуктуаций в самом демоне такое устройство не сможет производить работу в течении длительного времени. Лео Сцилард предложил мысленный эксперимент с информационным демоном Максвелла, а физики решили, что слабой версии второго закона в этом случае недостаточно.
Леон Бриллюэн предложил связать требуемое изменение энтропии с измерением, а в последующем Чарльз Беннет при использовании принципа Ландауэра связал требуемое изменение энтропии со стиранием ячейки памяти. Таким образом, изменение энтропии оказалось в представлении физиков связанным с одной из вычислительных операций, стиранием памяти, или с получением информации посредством измерения.
Начну с более точной формулировки рассматриваемой проблемы. В рассмотрении физиков демон Сциларда считается кибернетическим устройством (измерение, переработка информации, действие) на уровне протекания физических процессов. В последующем рассмотрении информация отождествляется с одним из физических процессов и в этом заключается цель термодинамики информации — превратить информацию в физическую величину.
Для простоты будет считаться, что демон Сциларда представляет из себя механическую систему. В качестве примера обратимых вычислений нередко приводят бильярдный компьютер Фредкина-Тоффоли (баллистические обратимые вычисления), поэтому представление о механическом демоне вполне укладывается в стиль рассмотрения обратимых вычислений.
Таким образом, демон Сциларда и управляемую им систему можно рассмотреть на уровне статистической механики в виде единого гамильтониана, динамика которого включает в себя как переработку информации и вычисления внутри демона, так и управляемую демоном систему. Важно отметить, что вся система является изолированной, а целью рассмотрения является доказательство верности второго закона — энтропия изолированной системы не может уменьшаться или вечный двигатель второго рода невозможен.
Что доказывает рассмотрение демона Сциларда?
Демон Максвелла возник в 19-ом веке в молекулярно-кинетической теории при обосновании второго закона в рамках симметричных по времени законов механики. Максвелл хотел показать, что такая задача на строгом математическом уровне невозможна. Поэтому ответ связан со статистической интерпретацией второго закона, которая не запрещает существование демона Максвелла. Слабая формулировка невозможности двигателя второго рода Смолуховского отражает статистическую интерпретацию. Таким образом, возникает вопрос, что нового по сравнению с выводом Смолуховского появляется в анализе демона Сциларда в термодинамике информации.
В информационном анализе демона Сциларда второй закон рассматривается как исходный постулат, при этом считается, что второй закон должен выполняться в одном цикле двигателя. Вместо слабой формулировки Смолуховского используется сильная формулировка из классической термодинамики; в противном случае невозможно получить равенство между информационной и термодинамической энтропией. Таким образом, второй закон считается верным априори, а последующий анализ сводится к эвристическому поиску недостающей части в балансе энтропии. Непонятно, можно ли такое рассмотрение назвать доказательством невозможности существования демона Максвелла.
В анализе Бриллюэна внутренняя структура демона игнорируется, а недостающая часть в балансе энтропии связывается с взаимодействием демона и управляемой им системы; это взаимодействие отождествляется с измерением. Далее энтропия разбивается на две части и постулируется, что увеличение в одной части компенсируется уменьшением другой; обоснование сводится к отождествлению уменьшения энтропии с увеличением знания о системе. Такой вывод является следствием априорного использования второго закона в сильной формулировке классической термодинамики.
Введение принципа Ландауэра в целом улучшает структуру анализа, поскольку вводится независимый принцип о необходимости диссипации энергии и тем самым повышения энтропии. Тем не менее, логика рассмотрения остается без изменений. Верность второго закона в сильной формулировке принимается априори, а отличие с рассмотрением Бриллюэна сводится к обсуждению ситуации, когда все процессы в демоне, а также взаимодействие демона с управляемым устройством проходят без диссипации и тем самым без увеличения энтропии. Таким образом, в конце концов необходимое возрастание энтропии связывается только с процессами в ячейке памяти демона.
Возникает дополнительный вопрос. Что на уровне статистической механики определяет динамику подсистемы, связанной с демоном Сциларда? В качестве возможного ответа в рассмотрении Беннета есть две возможности — есть законы физики, а есть вычислительный алгоритм, который должен выполняться в ходе движения частиц демона Сциларда. Вопрос разделения ответственности между ними будет рассмотрен в последующих разделах.
Принцип Ландауэра, обратимые вычисления и флуктуации
При рассмотрении принципа Ландауэра и обратимых вычислений требуется обратить внимание на два разных значения термина обратимый. С одной стороны, под этим понимаются законы механики, которые симметричны во времени. В механических устройствах типа бильярдного компьютера Фредкина-Тоффоли это значение используется при представлении идеального механического механизма без трения. Законы механики без трения содержат время в явном виде, поэтому мысленная модель содержит движение во времени.
С другой стороны, в классической термодинамике вводятся обратимые процессы при рассмотрении цикла Карно. Они предусматривают возможность превращения теплоты в работу без диссипации, то есть, без увеличения энтропии. В обратимых процессах классической термодинамики время в явном виде отсутствует — движение в идеальном цикле Карно осуществляется силой мысли.
Вернемся к рассмотрению в статистической механике совместной системы — демон Сциларда плюс управляемое им устройство. Исходные законы механики симметричны во времени — движение молекул происходит без трения и без диссипации энергии на уровне отдельных частиц. В то же время совместное движение всех частиц приводит к диссипации энергии и тем самым к возрастанию энтропии (статистическая интерпретация энтропии). Поэтому важно проследить в каком значении используется термин обратимый в ходе анализа демона Сциларда.
Обсуждение миниатюризация вычислений, которое привело к принципу Ландауэра, неявно предполагает, что мы выходим на уровень движения частиц, подчиняющихся законам механики, симметричным во времени. Поэтому требуется более точно сказать, каким образом принцип Ландауэра предполагает возникновение диссипации энергии.
Невозможно утверждать, что в принципе Ландауэра частицы перестают подчиняться законам механики. Поэтому следует предположить, что принцип Ландауэра опирается на статистическую трактовку второго закона. В свою очередь переход к статистической трактовке второго закона поднимает вопрос о флуктуациях — именно изучение флуктуаций при рассмотрении броуновского движения было толчком для серьезного рассмотрения демона Максвелла. В то же время при анализе демона Сциларда в рамках обратимых вычислений и принципа Ландауэра флуктуации в самом демоне игнорируются.
Особенно важным вопрос флуктуаций является при использовании принципа Ландауэра. Диссипация энергии в виде теплоты с необходимостью связана со статистическим характером второго закона, но введение в рассмотрение флуктуаций в минимальной ячейке памяти (kT ln 2) приведет к ее неработоспособности.
Неадекватность мысленного эксперимента Сциларда
Целью мысленного эксперимента в физике является выделение определенных особенностей физической системы, которые позволяют сформулировать общие выводы за пределами рассмотренной системы. Например, цикл Карно с обратимыми термодинамическими процессами следует рассматривать как мысленный эксперимент с целью поиска максимального коэффициента полезного действия тепловой машины. Для этого были исключены все потери и в результате остался только идеальный процесс использования теплоты для получения работы (см. раздел про цикл Карно в главе 1. 2 ‘От теории теплорода к термодинамике‘).
Эта идеализация легла в основу формализма классической термодинамики, который в дальнейшем был обобщен на другие процессы — химические, электромагнитные, электрохимические и т.д. Тем не менее, обратимые термодинамические процессы являются идеализацией и их протекание в реальности невозможно. Отсюда следует вывод, что все реальные процессы необратимы и что они с необходимостью сопровождаются диссипацией энергии; энтропия изолированной системы в самопроизвольном процессе возрастает (см. главу 1.4 ‘Неравенство Клаузиуса как критерий равновесия‘).
Цель демона Сциларда, по всей видимости, заключалась в создании идеализированной модели для изучения информационных процессов. Требовалось продемонстрировать связь между изменением термодинамической энтропии k ln 2 и информационной энтропией, связанной с выбором из двух возможностей log2 2. Другими словами, целью мысленного эксперимента являлось демонстрация связи одного бита информации с изменением термодинамической энтропии; тем самым информация превращалась в физическую величину. Рассмотрим, оправдано ли такое ожидание.
В идеализации Сциларда единственная молекула является аналогом огромной флуктуации в системе, однако возможные флуктуации в корпусе, в поршне и в источнике тепла проигнорированы. Более того, в процесс включены элементы идеализации из обратимого цикла Карно — введение перегородки без совершения работы, движение без трения, рассмотрение процесса расширения после флуктуации как обратимого. Такой уровень анализа управляемой системы позволяет утверждать, что оценка количества полезной работы в представленном варианте мысленного эксперимента является завышенной.
Далее в мысленном эксперименте предполагается, что при рассмотрении демона и процесса взаимодействия между демоном и управляемой системой большинство процессов можно выполнить на уровне обратимых термодинамических процессов без диссипации энергии. После этого выбирается критическая часть (измерение у Бриллюэна или принцип Ландауэра для памяти у Беннета), которой приписывается недостающий баланс энтропии.
Вспомним, что вся совместная система (демон плюс управляемый объект) должна была бы рассматриваться на уровне статистической механики, поскольку связь между информационной и термодинамической энтропией вводится на этом уровне рассмотрения. Однако на уровне статистической механики представить введение обратимых термодинамических процессов в изолированной системе вряд ли возможно. Поэтому непонятно, как такая идеализация согласуется со статистической интерпретацией энтропии, которая лежит в основе всего рассмотрения.
Более реалистичный вариант предложенного мысленного эксперимента был бы связан с уменьшением размеров системы. Это потребовало бы рассмотрения всех компонентов системы (сама система, корпус, поршень) на одном уровне рассмотрения. В ходе такого рассмотрения невозможно пренебречь флуктуациями во всех частях, поскольку сама идея связана с использованием флуктуации для совершения полезной работы. Введение обратимых термодинамических процессов для отдельных частей общей системы в такой ситуации ничем не оправдано.
Информация и физическое как уровни организации
Рассмотрим сказанное выше с более общей точки зрения. Во введении уже отмечалось тривиальность утверждения, что для передачи информации и для выполнения вычислений требуется физическое устройство. В программе термодинамики информации однако предполагается достичь большего, а именно, считается возможным отождествить информацию или логическую операцию с термодинамической энтропией физической системы или с ее изменением.
Посмотрим на динамику общей системы со стороны статистической механики. Общий гамильтониан соответствует законам физики, отсюда следует, что динамика полностью определяется законами физики. Таким образом, информационные процессы связаны с динамикой, но, строго говоря, они не могут рассматриваться как каузальное объяснение наблюдаемой динамики. Для рассмотрения этого обстоятельство следует взглянуть на постулируемую связь между информацией, вычислениями и энтропией с другой стороны.
Так, мы знаем, что эта часть системы представляет собой минимальную ячейку памяти и поэтому сопоставляем диссипацию энергии величиной в kT ln 2 с записью бита в этой ячейку. Другой пример — мы знаем, что движение шаров в бильярдном компьютере представляет собой вычисление. Поэтому конечное положение шаров трактуется как результат вычислений и оно может быть переведено в соответствующее численное значение. Другими словами, мы имеем динамику физической системы, мы знаем, что эта динамика связана с информацией или логическими операциями и это служит основанием для отождествления термодинамической и информационной энтропии.
Теперь представим себе обратную задачу. Начнем с механических демонов Максвелла, рассмотренных в работах Смолуховского. У них есть своя динамика на уровне статистической механики, но при анализе их работы информационные процессы не привлекаются. Это предполагает какое-то отличие в динамике физических процессов при переходе к информационному демону Сциларда. Таким образом, обратная задача формулируется следующим образом. Наблюдается динамика произвольной системы без знания о наличии в ней возможных информационных процессов. Требуется предложить общую процедуру для распознавания процессов с динамикой, в которой есть информационные процессы и/или вычисления.
Однако такой процедуры не существует. В качестве примера рассмотрим бильярдный компьютер. Можно ли узнать из динамики движения шаров, проводится ли в данный момент вычисление? Проводимое вычисление связано с соглашениями, которые не входят в динамику как таковую, и без знания этих соглашений невозможно корректно интерпретировать динамику шаров. В общем случае ситуация становится еще сложнее и в конечном итоге при желании можно при рассмотрении любого физического процесса придумать соглашение, в рамках которых результат будет трактоваться как то или иное вычисление. Более подробное рассмотрение этого вопроса проведено в статье Стэнфордской философской энциклопедии ‘Вычисления в физических системах‘. Также см. заметку ‘Физические процессы как вычисления‘ в разделе Дополнительная информация.
Аналогичная проблема происходит при попытке выяснить, есть ли информация в произвольно выбранном состоянии физической системы. Например, можно взять лист чистой бумаги и посмотреть на него через лупу. Будут видны неровности — чем не информация? Таким образом отождествление термодинамической и информационной энтропии связано с дополнительным знанием о физической системе, которое невозможно непосредственно получить из поведения этой системы на уровне законов физики.
Более того, термодинамическая энтропия является свойством вещества, ее значение зависит от внешних параметров, а через производные она связана с другими термодинамическими свойствами. Приведу пример с запоминающим устройством Millipede, которое в свое время разрабатывалось IBM — оно хорошо подходит в случае рассмотрения механической системы в статистической механике. В этом устройстве ячейка памяти соответствует дырочке в полимерной пленке (наличие дырочки — единица, отсутствие — нуль).
Рассмотрим термодинамическую энтропию такой полимерной пленки с нанесенной информацией. Изменение термодинамической энтропии связано с перераспределением вещества в процессе образования дырочки и поверхностной энергией. Если пренебречь изменением термодинамической энтропии в объеме пленки в силу деформации (масса пленки остается постоянной), то изменение термодинамической энтропии будет пропорционально площади поверхности дырочек.
Таким образом в этом случае нельзя сопоставить термодинамическую энтропию с информационной или алгоритмической, поскольку их значение определяется расположением дырочек, которое никак не учитывается при вычислении термодинамической энтропии. Также термодинамическая энтропия является функцией температуры и давления — их изменение ведет к изменению термодинамической энтропии. В то же время при условии, что в интервале изменений дырочки сохраняются, информационная или алгоритмическая энтропия не меняется.
Заключение
В основе программы термодинамики информации лежит слишком упрощенное восприятие термодинамической энтропии в рамках статистической механики. Энтропия представляется единственной странной и непонятной характеристикой вещества, но при этом забывается связь энтропии с другими физическими характеристиками; информационные свойства, приписываемые энтропии, должны были бы распространяться через производные на все остальные термодинамические свойства системы.
С другой стороны, при обсуждении миниатюризации вычислительных устройств упускают из виду важное требование, связанное с надежностью работы устройства. На уровне слогана — требование надежности разделяет физическое и информационное как уровни организации. Надежность не относится к физике как таковой; надежность принадлежит инженерным наукам. Например, минимальная ячейка памяти должна сохранять информацию в течении заданного времени. Это требование в свою очередь предполагает, что в течение этого времени состояние ячейки устойчиво по отношению к флуктуациям; без этого обсуждение минимальной ячейки памяти теряет смысл.
Инженер опирается на законы физики при поиске необходимого решения, но конечное решение представляет собой компромисс, включающий много факторов. Именно это обстоятельство не позволяет рассматривать информацию или логическую операцию в работающем устройстве как физическую величину. В данном случае полезно рассмотреть V-модель (VEE модель) разработки информационных устройств, в которой хорошо видны разные уровни организации. Попытка связи термодинамической и информационной энтропии с этой точки зрения закончится созданием неработающих устройств.
В заключение укажу на последние работы Ландауэра (см. заметку ‘Рольф Ландауэр: Физическая природа информации‘ в разделе Дополнительная информация), в которых он от физической природы информации переходит к физической природе математики. Это хороший пример, когда стремление избежать идеализма на одном уровне (информация как физическое) приводит к идеализму на другом (мир как последовательность вычислений).
Далее:
Информация
John Earman and John D. Norton. EXORCIST XIV: the wrath of Maxwell’s demon. Part I. From Maxwell to Szilard. Studies In History and Philosophy of Science Part B: Studies In History and Philosophy of Modern Physics 29, no. 4 (1998): 435-471.
John Earman and John D. Norton. EXORCIST XIV: the wrath of Maxwell’s demon. Part II. From Szilard to Landauer and Beyond. Studies In History and Philosophy of Science Part B: Studies In History and Philosophy of Modern Physics 30, no. 1 (1999): 1 — 40.
Owen Maroney, Information processing and thermodynamic entropy, The Stanford Encyclopedia of Philosophy, 2009.
Gualtiero Piccinini and Corey Maley, Computation in Physical Systems, The Stanford Encyclopedia of Philosophy, 2021.
Дополнительная информация
Физические процессы как вычисления: Как найти вычисления среди физических процессов? Ответ понятен, когда человек проводит вычисления, но без человека вопрос остается открытым. Что такое эпифеномен. Кибернетический режим вычислений.
Рольф Ландауэр: Физическая природа информации: Ландауэр о природе информации и вычислений. Отказ от платонизма и переход к физическому состоянию. Математика в основе физики.