Ранее: Глава 2. Равновесная статистическая механика
Неравенство Клаузиуса является критерием самопроизвольных процессов и поэтому говорят, что оно задает стрелу времени в классической термодинамике. Законы движения Гамильтона симметричны во времени и поэтому поиск аналога неравенства Клаузиуса в статистической механике все еще продолжается. Мы рассмотрим главные аргументы появления асимметрии во времени, в том числе основанные на признании субъективности энтропии и на связи энтропии с информацией.
В этой главе мы рассмотрим начальный этап поиска стрелы времени, который наступил после создания молекулярно-кинетической теории во второй половине 19-ого века. Интересно отметить, что Джеймс Максвелл сразу же понял невозможность этого предприятия в силу симметрии во времени уравнений Гамильтона. В письме Питеру Тэйту в 1873 году Максвелл высмеивал попытки Клаузиуса и Больцмана — демон Максвелла должен был наглядно показать тщетность таких попыток:
‘редко можно увидеть, как эти ученые немцы борются за приоритет открытия того, что 2-й закон сводится к принципу Гамильтона … Принцип Гамильтона находится в месте, не затронутом статистическими соображениями; в то же время немецкие Икары машут своими восковыми крыльями в стране облаков-кукушек (nephelococcygia) среди тех облачных форм, которые невежество и ограниченность человеческой науки наделили непередаваемыми атрибутами невидимой Царицы Небес.’
Тем не менее, работы Людвига Больцмана привели к интересным результатам, включая известное статистическое обоснование второго закона. Вначале мы рассмотрим эволюцию взглядов Больцмана; в ходе обсуждения его попыток доказать неравенство Клаузиуса возникли два парадокса: парадокс механической обратимости Иоганна Лошмидта и парадокс возврата, связанный с теоремой Анри Пуанкаре о возвращении.
Статистическое обоснование энтропии Больцмана было ограничено идеальным одноатомным газом. Гиббс ввел статистическую энтропию в общем случае для произвольной системы. К сожалению, эта статистическая энтропия формально остается постоянной в неравновесном процессе. Таким образом, в общем рассмотрении Гиббса возникло противоречие между формальным математическим выводом и вторым законом термодинамики. Гиббс первым заметил это обстоятельство и предложил возможные решения. В этой главе я остановлюсь на общем обсуждении статистической энтропии Гиббса, а сходство между энтропией Гиббса и информационной энтропией Шеннона будет рассмотрено в последующих главах.
- Эволюция взглядов Людвига Больцмана
- Парадокс Лошмидта
- Самоубийство Больцмана
- Статистическая интерпретация второго закона
- Статистическая энтропия Гиббса
- Перемешивание в фазовом пространстве
Эволюция взглядов Людвига Больцмана
Людвиг Больцман (1844 -1906) являлся ведущей фигурой в развитии молекулярно-кинетической теории в 19-ом веке. Молодой Больцман был уверен в возможности строгого обоснования необратимых процессов в рамках молекулярно-кинетической теории. По ходу обсуждения парадоксов Больцман изменил свою позицию и перешел к статистическому обоснованию второго закона. Завершающей стадией изменения взглядов Больцмана стала космологическая флуктуационная гипотеза, которая у современных физиков превратилась в ‘больцмановский мозг’.
Первая статья Больцмана ‘О механическом смысле второго начала механической теории теплоты‘ вышла в 1866 году, когда ему было 22 года. Введение статьи показывает, что Больцман не сомневался в возможности достижения поставленной цели:
‘Целью данной статьи является изложение чисто аналитического, полного и всеобщего доказательства второго начала теории теплоты, а также нахождение соответствующего ему начала механики.’
Рудольф Клаузиус предпринял аналогичную попытку в статьях 1870 и 1871 гг. Клаузиус независимо пришел к результатам, ранее опубликованным Больцманом, и между ними разгорелся спор о приоритете — цитата Максвелла выше относилась к этому времени.
Далее Больцман занимался поиском наилучшего доказательства распределения Максвелла молекул по скоростям. Ему хотелось доказать, что распределение Максвелла получается из любого начального состояния. Первое решение было предложено в 1872 году в статье ‘Дальнейшие исследования теплового равновесия между молекулами газа‘. Больцман вывел уравнение, которое стало в будущем называться кинетическим уравнением Больцмана и которое описывает эволюцию газа во времени, находящегося в неоднородном состоянии.
Следует отметить, что это уравнение Больцмана используется до настоящего времени для описания кинетики разреженных газов. Забегая вперед, отмечу, что впоследствии в 1890-х гг. было показано, что гипотеза о столкновении молекул (молекулярный хаос, Stosszahlansatz), лежащая в основе кинетического уравнения Больцмана, нарушает симметрию во времени. Другими словами, вывод этого уравнения содержал дополнительную гипотезу, несовместимую с симметричными во времени законами механики. Такой подход в неравновесной статистической механике остался до настоящего времени — для достижения асимметрии во времени и тем самым для получения правильных кинетических уравнений сознательно вводятся дополнительные гипотезы.
Параллельно Больцман ввел H-функцию и доказал для нее H-теорему. Согласно теореме производная H-функция отрицательная и достигает нуля только при достижении в газе распределения Максвелла. Таким образом H-функция с обратным знаком подходит на роль энтропии системы:
‘Таким образом, строго доказано, что, каково бы ни было начальное распределение живой силы, по прошествии очень длительного времени она всегда стремится к распределению, найденному Максвеллом. То, что мы проделали до сих пор, есть не что иное, как математический прием, использованный для строгого доказательства теоремы, которая до сих пор не была точно сформулирована.’
Парадокс Лошмидта и статистическое обоснование
Именно H-теорема стала предметом дальнейших обсуждений. Первое возражение связывается со статьей Лошмидта 1876 года (парадокс механической обратимости Лошмидта). Лошмидт — старший коллега Больцмана и между ними всегда были дружеские отношения. Лошмидт предложил обратить скорости атомов в системе, достигнувшей равновесного состояния. Согласно законам механики в этом случае система должна начать удаляться от равновесия и таким образом H-функция должна возрастать, что запрещено H-теоремой.
Конечно, такое действие нельзя осуществить практически, но речь шла о математическом доказательстве, основанном на законах механики. Поэтому с точки зрения математического рассмотрения проигнорировать замечание Лошмидта было невозможно. В результате Больцман пересмотрел свои взгляды и дал новую статистическую интерпретацию энтропии и H-функции в статье 1877 года ‘О связи между вторым началом механической теории теплоты и теорией вероятностей в теоремах о тепловом равновесии‘.
В этой статье появляется известное уравнение Больцмана для энтропии системы с вероятностной интерпретацией — см. следующий раздел. Предполагается, что наблюдаемой макросистеме соответствует много разных микросостояний и что число микросостояний пропорционально вероятности наблюдения данной макросистемы:
‘Если применить эти рассуждения ко второму началу, то величину, которую мы привыкли обозначать как энтропию, можно отождествить с вероятностью соответствующего состояния. … Система тел, о которой мы говорим, в начальный момент времени находится в некотором определенном состоянии; благодаря взаимодействию между телами это состояние изменяется; согласно второму началу это изменение всегда должно осуществляться так, что полная энтропия всех тел возрастает; в соответствии с нашей теперешней интерпретацией это означает не что иное, как то, что вероятность общего состояния этих двух тел становится все большей; наша система тел всегда переходит от некоторого менее вероятного к некоторому более вероятному состоянию.’
В данном случае возникает следующий вопрос. Наблюдаемое поведение газа связано с единственной системой, поведение которой во времени детерминировано и определяется уравнениями механики. Таким образом, требуется охарактеризовать поведение H-функции при произвольном выборе начального состояния системы. Эти вопросы в дальнейшем обсуждались на страницах журнала Nature в 1894-1895 rr. В конце 1890-х годов произошло обсуждение между Больцманом и Цермело в связи с теоремой Пуанкаре о возвращении.
Было доказано, что замкнутая механическая система, находящаяся в произвольном состоянии, через определенное время вернется в состояние, практически не отличающееся от первоначального. Для обычных систем время возвращения крайне велико и теорема Пуанкаре в этом случае представляет скорее академический интерес. Однако, как и другие ученые 19-ого века Больцман был озабочен проблемами тепловой смерти вселенной.
Напомню, что в те времена теории Большого взрыва и расширения пространства еще не существовало. В то же время Больцман хотел избежать вывода о зарождении вселенной — как известно, путь к смерти начинается с рождения. Эта была одна из причин выдвижения Больцманом космологической флуктуационной гипотезы, которая была представлена как ответ Цермело в статье 1897 года ‘О статье г-на Цермело О механическом объяснении необратимых процессов‘. Утрировано можно охарактеризовать позицию Больцмана так: от наличия флуктуаций к миру как флуктуация. В настоящее время физики-космологи в таком духе говорят о больцмановском мозге, см. заметку ‘Мозг Больцмана в равновесной Вселенной‘ в разделе Дополнительная информация.
Самоубийство Больцмана
Нередко самоубийство Больцмана в 1906 году объясняют травлей Больцмана со стороны темных сил. Следует сказать, что для такого вывода нет никаких оснований. Научная карьера Больцмана сложилась удачно, его работы при его жизни приобрели широкую известность и у него не было проблем со стороны университетов. По случаю шестидесятилетия Больцмана было запланировано издание юбилейного сборника и 117 ученых со всего мира прислали свои статьи. Даже идейные противники Эрнст Мах и Пьер Дюгем в честь юбилея Больцмана прислали свои статьи в этот сборник.
В то же время здоровье Больцмана ухудшалось и у него периодически были сильные депрессии. Карло Черчиньяни в книге ‘Людвиг Больцман: человек, который доверял атомам‘ считает, что можно только гадать, что случилось в последние дни жизни Больцмана, и предлагает свой спекулятивный сценарий с просьбой не воспринимать его всерьез:
‘Если бы это был роман или трагедия, автор мог бы вообразить, что чтение статьи Эйнштейна об эквивалентности массы и энергии убедило Больцмана в тщетности его жизненных попыток доказать реальность атомов. Разве не было одним из принципов энергетики то, что все является энергией? Разве Больцман не утверждал … что энергетика не сможет объяснить массу в терминах энергии? Возможно, автор трагедии мог бы также представить, что сразу после того, как Больцман покончил с собой, на сцену выходит персонаж, несущий копию предыдущей статьи Эйнштейна о броуновском движении, в которой доказывается, что существование атомов может быть доказано экспериментально.’
Статистическая интерпретация второго закона
Больцман предложил связать энтропию неравновесного состояния одноатомного идеального газа с числом микросостояний, соответствующих данному макросостоянию. Рассмотрим кратко путь Больцмана для получения известного расчетного уравнения (метод ячеек Больцмана). Больцман разбил шестимерное фазовое μ-пространство идеального одноатомного газа, содержащего N атомов, на отдельные ячейки с выбранной дискретизацией по значениям координат и импульсов. В отдельной ячейке состояние всех атомов считается одинаковым — берутся средние значения энергии, координат и импульсов. Число ячеек равно p, при этом требуется, что число ячеек много меньше числа атомов.
Теперь N атомов размещаются по p ячейкам, что дает набор чисел заполнения ячеек атомами: {n1, n2, n3, …, np}; сумма всех чисел заполнения равна N. Такое состояние газа называется макросостоянием — оно говорит, сколько молекул обладает определенными значения энергии, координат и импульсов. Переход к микросостоянию осуществляется введением нумерации атомов и говорится о заполнении ячеек атомами с приписанными им номерами. Замена двух атомов в разных ячейках меняет микросостояние, но не меняет макросостояние. Таким образом, число микросостояний, соответствующее макросостоянию определяется числом возможных комбинаций, что приводит к выражению для W(E, V) в уравнении Больцмана для энтропии:
Равновесное состояние соответствует максимальному значению W; поиск максимума при заданных значениям общей энергии и объема приводит к распределению Максвелла-Больцмана по энергиям. Такое статистическое обоснование второго закона сыграло большую роль в развитии статистической и квантовой механики, но в настоящее время оно нередко позиционируется как окончательный ответ на вопрос, что такое энтропия. Это в в свою очередь привело к возникновению устойчивых, но неправильных метафор об энтропии — энтропия как число перестановок и энтропия как беспорядок. Ниже идет список ограничений при использовании метода ячеек Больцмана.
В настоящее время необходимо не забывать о неразличимости атомов. Это было осознано уже Гиббсом из требования аддитивности энтропии и получило дальнейшее обоснование в квантовой статистике. В квазиклассическом приближении это достигается путем деления на N!, что однако крайне затрудняет интерпретацию метода ячеек Больцмана как ‘число перестановок микросостояний’.
Метод ячеек Больцман является уходом от рассмотрения кинетики. Получаемые неравновесные энтропии макросостояний по статусу аналогичны энтропиям неравновесных состояний в классической термодинамике без учета производства энтропии. Однако в классической термодинамике время отсутствует, а статистическая механика позиционируется как полное решение, которое в том числе включает рассмотрение задач неравновесной термодинамики. Таким образом, связь статистического обоснования с кинетикой остается открытым вопросом.
Макросостояние в методе ячеек еще не является макросостоянием в классической термодинамике. Для нахождения поля температур и давлений во введенных Больцманом макросостояниях требуются дополнительные усилия. Более того, в статистической механике появляются неравновесные состояния за рамками неравновесной термодинамики — см. обсуждение в последней главе.
В заключение необходимо сказать, что метод ячеек Больцмана ограничен рассмотрением идеального одноатомного газа и его невозможно использовать при наличии взаимодействий между атомами и молекулами. Таким образом, данное рассмотрение в принципе не может дать универсального ответа на вопрос, что такое энтропия.
Статистическая энтропия Гиббса
Гиббс предложил общий метод статистической механики для рассмотрения произвольных систем с взаимодействующими атомами и молекулами. Людвиг Больцман высоко оценил книгу Гиббса; в лекции Больцмана в 1904 году ‘О статистической механике‘ подчеркивалась роль Гиббса:
‘Заслуга приведения этой науки в единую систему, изложения ее в одной объемистой монографии и придания ей характерного имени принадлежит одному из величайших американских мыслителей, а в области чистого абстрактного мышления и чисто теоретических исследований, может быть, величайшему из всех — Уилларду Гиббсу, недавно скончавшемуся профессору Йельского колледжа. Он назвал эту науку статистической механикой.’
Как уже отмечалось, Гиббс ввел ансамбль систем для наглядного представления плотности распределения вероятности в многомерном фазовом пространстве. Детерминированная траектория механической системы отображается в виде линии, а отдельная точка представляет текущее состояние системы (координаты и импульсы всех частиц). Таким образом ансамбль Гиббса позволяет ввести частотную интерпретацию плотности распределения вероятности. В дальнейшем развитии статистической механики использовался именно метод Гиббса, который был перенесен на случай квантовой механики; было также формально обосновано использование квазиклассического приближения.
В целом в методе Гиббса остается проблема стрелы времени. Изменение плотности распределения вероятности во времени подчиняется уравнению Лиувилля, которое получается из уравнений движения Гамильтона; как результат, уравнение Лиувилля также симметрично относительно времени. Таким образом, получение кинетических уравнений, которые стремятся к достижению равновесных состояний, с необходимостью требует дополнительных гипотез. В цепочке уравнений ББГКИ (Боголюбов — Борн — Грин — Кирквурд — Ивон) был предложен путь для вывода кинетических уравнений, когда на конечном этапе вводится асимметрия во времени. Кинетическое уравнение Больцмана является частным случаем решения цепочки уравнений ББГКИ и использованием гипотезы ‘молекулярного хаоса’ на последнем этапе.
Другое успешное применение неравновесной статистической механики связано с разработкой метода теории линейного отклика для оценки транспортных свойств веществ. В этом случае асимметрия во времени также сознательно вводилась в ходе нахождения решения. Приведу по этому поводу выразительную цитату из лекций Р. Пайерлса по теории процессов переноса (цитата взята из книги Зубарева):
‘В каждом теоретическом исследовании процессов переноса нужно ясно понимать, в каком месте введена необратимость. Если она не введена, теория неверна. Подход, в котором сохранена симметрия относительно обращения времени, неизбежно дает нулевые или бесконечные значения для коэффициентов переноса. Если мы не видим, где была введена необратимость, то мы не понимаем, что мы делаем.’
В то же время у физиков остается желание найти общее решение стрелы времени в статистической механике без введения дополнительных гипотез. Фундаментальные законы физики симметричны во времени, но поскольку эти законы фундаментальны, то общее решение должно быть найдено на этом уровне. Введение дополнительных гипотез означает, что фундаментальные законы физики неполны — для настоящих физиков такое предположение неприемлемо.
Гиббс ввел энтропию системы как средний логарифм плотности вероятности в ходе обобщения H-функции Больцмана для одночастичного распределения вероятности. Выпишу уравнение для энтропии Гиббса в дискретном случае, такой вид потребуется в дальнейшем для обсуждения информационной энтропии Шеннона:
В уравнении берется сумма по всем энергетическим уровням системы; средний логарифм вероятности нахождения системы в энергетическом уровне пересчитывается к энтропии путем умножения на константу Больцмана и путем смены знака, как и в случае H-функции Больцмана.
В случае равновесного состояния система подчиняется распределению Гиббса по энергиям и уравнение выше приводит к правильной энтропии, связанной со статистической суммой. Таким образом в случае равновесных систем не возникает проблем с уравнением Гиббса для энтропии, наоборот, оно используется при выводе связи статистической суммы и энергии Гельмгольца системы.
Однако, в силу особенностей уравнения Лиувилля (теорема Лиувилля) при изменении плотности вероятности средний логарифм плотности вероятности остается постоянным. В результате статистическая энтропия Гиббса при протекании необратимого процесса в изолированной системе формально остается постоянной, что вступает в противоречие со вторым законом термодинамики.
Гиббс понимал ограничение введенной им энтропии системы. В его книге в качестве возможного решения предлагались идеи о перемешивании фазового объема при приближении к равновесному состоянию и о необходимости смены порядка усреднения при вычислении энтропии. Эти идеи были переведены на язык уравнений в статье супругов Эренфест ‘Принципиальные основы статистического подхода в механике‘ в 1912 году, где были введены понятия грубой и точной плотности вероятности, а также грубой и точной энтропии по Гиббсу. Грубая энтропия Гиббса с использованием грубой плотности вероятности в изолированной системе должна возрастать.
Перемешивание в фазовом пространстве
Одна линия доказательств стрелы времени в общем виде связана с идеей Гиббса о перемешивании объема неравновесного состояния в фазовом пространстве. Математики ввели формальное определение этого процесса (Хопф, 1937 год) и нашли отличия перемешиваемости от эргодичности (представления о равенстве между средним по времени и средним по плотности вероятности). Был доказан ряд теорем, а также идеи перемешивания были совмещены с разработкой формализма детерминированного хаоса. Приведу цитаты из диссертации Мухина ‘Развитие концепции динамического хаоса в СССР‘:
‘Системы с перемешиванием легли в основу пионерских работ по обоснованию статистической механики Николая Сергеевича Крылова, очень талантливого и рано умершего ученика В. А. Фока. … По словам Крылова, «… законы статистики и термодинамики существуют потому, что для статистических систем (являющихся системами размешивающегося типа) справедлив равномерный закон распределения начальных микроскопических состояний внутри выделенной опытом области фазового пространства ΔГо. … В настоящей работе понятие эргодичности остается в стороне. Мы отказываемся от принятия эргодической гипотезы. Мы исходим из понятия движений размешивающегося типа. … Такое размешивание связано с тем, что в n-мерном конфигурационном пространстве близкие в начале траектории расходятся очень быстро, так, что их нормальное расстояние возрастает по экспоненциальному закону.».’
‘Мысль Крылова выражена совершенно четко. Во главу угла кладется понятие перемешивания, посредством которого можно описать физический процесс релаксации — переход системы в стационарное состояние, независимо от того, в каком состоянии находилась система. Начиная с Гиббса, неоднократно выдвигалась идея о необходимости перемешивания в системах статистической механики, но, наверное, к Крылову восходит идея о связи перемешивания с локальной характеристикой движения в таких системах — экспоненциальной неустойчивостью.’
К сожалению, невозможно провести общее доказательство наличия перемешиваемости для всех систем, рассматриваемых в физике, а ссылки на огромное количество частиц в системе недостаточно:
‘В физике были распространены представления, что в системах с большим числом степеней свободы, таких как системы статистической механики, преимущественное значение имеют транзитивный случай и перемешивание, а системы с малым числом степеней свободы демонстрируют регулярное поведение. Колмогоров отмечает, что эта идея, видимо, основана на преимущественном внимании к линейным системам и к небольшому набору интегрируемых классических задач, и указанные представления имеют ограниченное значение. Ключевая идея Колмогорова состоит в том, что между двумя типами поведения — регулярным и сложным, нерегулярным — не существует пропасти, многомерные системы могут демонстрировать регулярное движение, а системы с небольшим числом степеней свободы могут быть хаотическими.’
Таким образом использование перемешиваемости в рамках детерминированного хаоса для объяснения стрелы времени осталось на уровне общего аргумента, хотя такое объяснение периодически встречается в учебниках.
В то же время ряд физиков принял объяснение супругов Эренфест о необходимости введения грубой энтропии как свидетельство субъективности энтропии. Таким образом, энтропия и вероятности в статистической механике стали связываться с незнанием человека о реальном положении дел на микроскопическом уровне. На это наложилось появление в 1948 году теории информации Шеннона, в которой выражение для информационной энтропии аналогично таковому для статистической энтропии Гиббса. В следующих главах мы рассмотрим это развитие событий, а в последней главе обсудим энтропию неравновесных состояний в статистической механике.
Далее: Глава 4. Энтропия, незнание и информация
Информация
Гельфер Я. М., История и методология термодинамики и статистической физики, 2-е изд., 1981, Часть третья. Синтез термодинамики и молекулярно-кинетической теории. Возникновение и развитие статистической физики.
Carlo Cercignani, Ludwig Boltzmann : the man who trusted atoms, 1998.
Uffink, Jos, Boltzmann’s Work in Statistical Physics, The Stanford Encyclopedia of Philosophy (Summer 2022 Edition), Edward N. Zalta (ed.) First published 2004; substantive revision 2014.
Д. Н. Зубарев, В. Г. Морозов, Г. Рёпке, Статистическая механика неравновесных процессов, 2002.
Р. Р. Мухин, Развитие концепции динамического хаоса в СССР. 1950-1980-е годы, 2010.
Дополнительная информация
Мозг Больцмана в равновесной Вселенной: О флуктуационной гипотезе Больцмана — вселенная в состоянии тепловой смерти, но возникают гигантские флуктуации. Мы живем в одной из таких флуктуаций. Шрёдингер за флуктуационную гипотезу Больцмана.