Метка: информация
-
2.4. Энтропия, незнание и информация
Содержание книги Ранее: Глава 3. Стрела времени в статистической механике В 19-ом веке вероятности в физике в том числе связывались с незнанием человека деталей поведения макросистемы на микроуровне; то есть, статистическое истолкование второго закона наводило на мысль о связи между энтропией и незнанием. Появление теория информации Шеннона дало новый толчок такому ходу мысли — информация…
-
В. В. Налимов: Язык вероятностных представлений
Книга Налимова ‘Облик науки‘ состоит из статей, написанных в разные годы. Глава ‘Почему мы пользуемся вероятностными представлениями при описании внешнего мира‘ вышла в виде препринта в 1976 году. Ниже я приведу цитаты из линии обсуждения, связанной с сопоставлением языка детерминизма и языка на основе вероятности. Налимов трактует детерминизм как установку на использование логики и причинно-следственных…
-
Демон Сциларда: Информация как физическая величина
Ранее: Принцип максимум информационной энтропии Эдвина Джейнса в статистической механике Содержание: Термодинамика Leo Szilard правильно произносится как Лео Силард, но я по привычке буду использовать транскрипцию Сцилард; именно так стоит во многих учебниках. Сцилард известен мысленным экспериментом, который сыграл большую роль в попытках физиков во второй половине 20-ого века связать информацию и вычисления с физическими…
-
Принцип максимума информационной энтропии Эдвина Джейнса в статистической механике
Ранее: Рудольф Карнап: Два эссе об энтропии Содержание: Термодинамика Статья Эдвина Джейнса 1957 года ‘Теория информации и статистическая механика‘ (в двух частях) дала сильный толчок для интерпретаций термодинамической энтропии в духе информации и меры незнания. Лет пятнадцать назад мне рекомендовали познакомиться с этими статьями при обсуждении искусственной жизни. В то время я сломался на следующих…
-
Леон Бриллюэн: Наука и теория информации
Ранее: Излучение черного тела и появление неразличимых частиц Содержание: Термодинамика Конец 1940-ых — начало 1950-ых годов были ознаменованы желанием физиков включить информацию в рассмотрение физики — см. раздел ‘Реконструкция ‘термического двигателя’ бандвагона Шеннона в физике‘ в заметке ‘История появления информационной физики‘. Первым физиком, кто довел до конца объединение информационной теории и статистической механики, был Леон…
-
История появления информационной физики
Ранее: Джон Уилер: Информация, физика, квант — поиск связей Содержание: Термодинамика Хавьер Анта в диссертации ‘Исторические и концептуальные основания информационной физики‘ рассматривает процесс проникновения концепции информации в современную физику. Толчком к такому развитию событий явились разногласия в интерпретации энтропии в статистической механике плюс появление теории информации Шеннона. Далее шаг за шагом произошел переход к другим…
-
Рудольф Карнап: Два эссе об энтропии
Ранее: Леон Бриллюэн: Наука и теория информации Содержание: Термодинамика В классической термодинамике энтропия является однозначной функцией состояния тела. В статистической механике существуют разные подходы к энтропии, основанные на вероятностной интерпретации энтропии. Нередко термодинамическая энтропия связывается тем или иным способом с информационной энтропией, а далее на этой основе возникает трактовка энтропии как мера знания / незнания…
-
Цифровая физика
pdf версия обзора Начало: Неумолимые законы физики Рассмотрим утверждение, лежащее в основе современной физики: (1) Мир подчиняется законам физики, выраженным в виде математических уравнений. Стремление узнать все до последних деталей приводит к следующему вопросу, возникающему при буквальном прочтении этого предложения. Остается непонятно, каким образом решаются математические уравнения, когда мир переходит из предыдущего состояния в последующее.…
-
Гипервычисления
Алан Тьюринг показал, что число вычисляемых функций счетно; поскольку число всех функций несчетно, то подавляющее большинство функций нельзя вычислить на машине Тьюринга. Среди них находится так называемая функция остановки — по описанию программы определить произойдет ли ее нормальное завершение или нет. Далее Тьюринг работал вместе с Алонзо Чёрчем. В диссертационной работе ‘Логические системы, основанные на…
-
Вычисления на любой вкус
Увидел статью с чудным названием: ‘Естественные морфологические вычисления как основа способности к обучению у людей, других живых существ и интеллектуальных машин‘. Удержаться от прочтения было невозможно; как известно, надежда умирает последней. Статья представляет собой структурированный обзор статей, в которых в основу кладутся вычисления в той или иной форме. Выделены несколько уровней, на которых протекают вычисления…
-
Алан Тьюринг: Автоматическая вычислительная машина
Узнал, что Алан Тьюринг в конце сороковых годов участвовал в проекте по разработке компьютера. В 1947 году он прочитал лекцию ‘Автоматическая вычислительная машина‘. Пожалуй, самое интересное в ней связано со значением слова computer. В 1947 году это слово означало человека-вычислителя! Так, утверждение из лекции: ‘ACE will do the work of about 10,000 computers.’ следует перевести…
-
Бруно Маршаль: Метафизика вычислений
pdf версия обзора Вычислительная теория сознания лежит в основе идей сильного искусственного интеллекта и загрузки сознания человека в компьютер. Вычислительная теория сознания также была популярна среди сторонников кибернетической парадигмы, хотя в настоящее время многие нейроученые занимают позицию углеродного шовинизма и поэтому отвергают возможность появления сознания в роботах. В любом случае работы логика Бруно Маршаля показывают…
-
Неподдающаяся проблема жизни
Что такое жизнь и что отличает живое от неживого? Современная наука не знает ответа на этот вопрос. Биологи приходят к ответу, выраженному в определении NASA: ‘Жизнь — это самодостаточная химическая система, способная к дарвиновской эволюции.’ Следует обратить внимание, что на этом пути при изучении отдельного организма невозможно сказать живой он, или нет. Получается, что изучение…
-
Редукционизм, морфический резонанс и ИИ
Пролистал книгу Руперта Шелдрейка ‘Новая наука о жизни‘ с изложением идей морфического резонанса и морфогенетических полей. В ней была приведена выразительная цитата Томаса Гексли и начну с нее в качестве точки отсчета: ‘Зоологическая физиология — это доктрина функций или действий животных. Она рассматривает тела животных как машины, побуждаемые к действию различными силами и совершающие некоторое…
-
Эволюция глазами инженера
Увидел объявление о призе в 10 млн долларов, связанном с возникновением кода. Речь идет про возникновение жизни, но предполагается, что жизнь возникла вместе с генетическим кодом, и поэтому вопрос ограничен именно кодом. Следует показать, каким образом из неживой природы может возникнуть информация — и 10 млн ваши. Более точно следует показать, каким образом самопроизвольно возникает…
-
Социальные сообщества роботов
Примерно 10 лет назад я заинтересовался исследованиями в области искусственной жизни. В качестве введения в предмет мне посоветовали книгу Дарио Флориано и Клаудио Маттиусси ‘Биоинспирированный искусственный интеллект: теории, методы и технологии‘ (см. второй раздел). В книге обстоятельно рассказывалось про исследования в области эволюционных систем, клеточных автоматов, нейронных сетей, систем развития, систем, напоминающих иммунную систему, и…
-
Смесь наивного реализма и теории виртуального мира
Информация из заметки вошла в книгу ‘Теория виртуального мира‘: Раздел 1.2. Теория виртуального мира В книге нейрофизиолога Мигеля Николелиса с громким названием ‘Истинный создатель всего: Как человеческий мозг сформировал вселенную, в том виде, в котором мы ее знаем‘ предлагается мозгоцентричная эволюционная эпопея человечества — каким образом свойства мозга привели к современному состоянию человеческого общества. В…
-
Рудольф Арнхэйм: Энтропия и искусство
Ранее: Демон Сциларда: Информация как физическая величина Содержание: Термодинамика Эссе Рудольфа Арнхэйма «Энтропия и искусство» выгодно отличается своей разумностью от других популярных обсуждений энтропии как беспорядка. Я бы сказал, что термодинамическая энтропия не имеет отношения к беспорядку и хаосу, но джина, выпущенного из бутылки, обратно не загнать. Поэтому для желающих таки обсуждать энтропию в таком…
-
Лучано Флориди: Логика информации
Просмотрел книгу Лучано Флориди ‘Логика информации: Теория философии как концептуального дизайна‘. Эта третья книга из предполагаемой тетралогии, до нее вышли ‘Философия информации‘ и ‘Этика информации‘, а в будущем ожидается ‘Политика информации‘. Книга в целом посвящена философии — Флориди дает свой ответ на вопрос, что такое философия и чем она должна заниматься. Книга завершается призывом к…
-
Лучано Флориди: Философия информации
Можно услышать о философии науки, философии физики, философии биологии и т.д. Лучано Флориди (Luciano Floridi) в конце девяностых годов решил, что пришло время создать философию информации. Флориди удалось привлечь внимание к своим идеям путем формулировки открытых 18 вопросах об информации (см. ниже) в статье ‘Открытые проблемы философии информации‘ . Отмечу, что настоящее время словосочетание философия…
-
Физические процессы как вычисления
Компьютер проводит вычисления. Это, пожалуй, единственный понятный пример физического процесса, который без проблем отождествляется с вычислениями. Возникает вопрос, можно ли найти другие физические процессы, которые также можно связать с вычислениями? С одной стороны, учеными достаточно широко обсуждаются нетрадиционные вычисления, которые проводят при использовании ДНК, химических реакций, миксомицетов рода Physarum и т. д. С другой, не…
-
Джон Уилер: Информация, физика, квант — поиск связей
Ранее: Рольф Ландауэр: Физическая природа информации В конце описание заметок, связанных с Уилером. О работах и идеях Уилера. Идеи Уилера в науке и философии. Джон Арчибальд Уилер (John Archibald Wheeler) — известный американский физик-теоретик. Двое из его многочисленных аспирантов стали лауреатами Нобелевской премии. В статье ‘Информация, физика, квант — поиск связей‘ Уилера размышляет о том,…
-
Рольф Ландауэр: Физическая природа информации
Ранее: Рудольф Арнхэйм: Энтропия и искусство Содержание: Термодинамика Рольф Ландауэр (Rolf Landauer, 1927 — 1999) — физик, который выдвинул принцип о том, что во время протекании вычислений потеря 1 бита информации должна приводить к выделению теплоты (см. Демон Сциларда: Информация как физическая величина). Я просмотрел две статьи Ландауэра (1996 и 1999 гг.), в которых физик…
-
Шон Кэрролл об энтропии и обратимых законах физики
Содержание: Термодинамика Ранее: Стрела времени по Больцману Фундаментальные законы физики обратимы во времени; необратимость связана исключительно со вторым законом термодинамики и энтропией. Таким образом, возникает вопрос, как законы физики, которые обратимы во времени, приводят к появлению энтропии и стрелы времени. Шон Кэрролл в книге ‘Вечность. В поисках окончательной теории времени‘ предлагает свой ответ на этот вопрос.…
-
ДНК как информация
Прошло 65 лет после выхода статьи Уотсона и Крика о структуре ДНК и 18 лет после завершения программы ‘Геном человека‘. Тем не менее, ученые продолжают спорить о том, что следует понимать под информацией, содержащейся в ДНК. Номер журнала Phil. Trans. R. Soc. A, вышедшей в 2016 году, посвящен этой проблеме. Ниже я выпишу из статей…
-
Ершов и Целищев: Алгоритмы и вычислимость в человеческом познании
Просмотрел книгу Ю. Л. Ершова и В. В. Целищева ‘Алгоритмы и вычислимость в человеческом познании‘. Центральной темой книги является вопрос о том, можно ли на основании теоремы Гёделя о неполноте сделать заключение о принципиальной разнице между человеком и роботом. На одной стороне выступают менталисты (да), на другой механицисты (нет). История началась со статьи философа Д.…
-
Тим Модлин: Вычисления и сознание
В конце описание заметок, связанных с Модлиным. После изобретения компьютера стала популярной аналогия между работой компьютера и мозга. В свою очередь, это дало развитие вычислительной теории сознания (computational theory of mind). Интересно отметить, что на этот счет существует так называемый аргумент фильмового графа (filmed graph argument или movie graph argument), который доказывает, что вычислительная теория…
-
Эрнст Майр: Причина и следствие в биологии
Приведу несколько цитат из известной статьи известного биолога Эрнста Майра. Статья вышла впервые в 1961 году в журнале Science и затем была включена в сборник ‘На пути к теоретической биологии‘ в 1968 году. ‘Так в каких же случаях можно говорить о цели и целенаправленности в природе и в каких нельзя этого делать? На этот вопрос мы…