Прочитал книгу Потапова про ИИ (спасибо deep_econom за ссылочку). Я всегда занимался вычислениями (я даже застал на излете перфоленты и перфокарты) и поэтому вопрос «Может ли компьютер мыслить?» был всегда особенно интересен. Следует отметить, что как химик по образованию я был в молодости заядлым редукционистом. Рассмотрение организмов с кибернетической точки зрения на первый взгляд неплохо вписывается в видение редукционизма и поэтому, хотя я сам никогда не занимался ИИ, я старался следить за развитием в этой области.
Книга Потапова позволила взглянуть на современное состояние дел. Отмечу, что Потапов является сторонником так называемого сильного ИИ (компьютерное мышление не отличается от человеческого). Ниже вначале идет краткое описание книги. Затем я изложу противоречия, которые, если внимательно приглядеться, таки возникают между идеей сильного ИИ и редукционизмом. Ряд из них можно увидеть непосредственно в книге Потапова, а другие в работах Бруно Маршаля.
Книга хорошо написана. Местами автор уходит в детали, но в целом изложение идет на понятном и в то же время профессиональном уровне. Как раз то, что требуется, чтобы понять, про что в настоящее время идет речь, когда говорят об ИИ. Потапов начинает с понятия алгоритма и далее переходит к проблеме поиска (название первой главы Мышление как поиск). Обсуждение поиска завершается вопросом о знании, что служит переходом ко второй главе.
Решение проблемы можно ускорить, если воспользоваться знанием. Соответственно, вторая глава Представление знание рассказывает о том, как работать со знанием. Рассматривается логика и дедуктивные системы, в том числе неклассическая логика. Далее говорится о способах представления языка и об экспертных системах.
Название третьей главы Машинная обучение говорит само за себя. Глава большая и состоит из трех разделов, каждый из которых по объему сравним с первыми главами. В первом разделе подробно разбираются искусственные нейронные сети. Далее рассматривается проблема распознавания, в рамках которой Потапов хочет решить задачу индуктивной логики. В качестве одного из решений предлагается принцип минимальной длины описания. Последний раздел Обучение и символы посвящен вопросу выводу правил и связанных с этим вопросов. Глава заканчивается переходом к воплощенному интеллекту, то есть, к роботам.
Четвертая глава Становление интеллекта состоит из двух разделов. Первый посвящен вопросу связи интеллекта и эволюции, а второй связи интеллекта и физики (Самоорганизация). Отмечу, что по ходу книги достаточно подробно рассматриваются вопросы, связанные с психологией, работой мозга, биологией и физикой. В книге содержатся все составляющие необходимые для обсуждения возможностей ИИ и поэтому книга должна быть интересна как сторонникам, так и противникам сильного ИИ. Отмечу, что Потапов не скрывает стоящие проблемы на пути создания сильного ИИ, а наоборот показывает их. Правда, он считает, что их удастся разрешить.
Теперь перейду к противоречиям между редукционизмом и сильным ИИ. Отмечу, что нижестоящее выходит за рамки науки. Мы начинаем с научных задач — создания интеллектуальных систем и роботов. Однако далее происходит незаметный переход к обсуждению вопроса о том, как устроен мир, то есть, к обсуждению вечных проблем. По-моему, важно сказать, что на этом пути наука, как таковая, заканчивается, а мы вступаем на территорию натурфилософии. В данном случае мы рассматриваем натурфилософию алгоритма, которую можно разделить на три части: алгоритм и сознание, алгоритм и биология, алгоритм и физика. Я начну с двух последних тем, поскольку они неплохо отражены в книге Потапова.
Вначале общий вопрос. Примем, что интеллект — это алгоритм. Однако является ли любой алгоритм интеллектом? И если нет, то как провести границу между алгоритмом, который можно назвать интеллектом, и алгоритмом, который не является интеллектом? В книге Потапова я не увидел четкого ответа на этот вопрос. Вполне возможно, что он проводит границу в рамках алгоритмической сложности, поскольку для оценки количества информации Потапов опирается именно на это понятие. В любом случае этот вопрос тесно связан с обсуждаемыми ниже противоречиями.
Алгоритм и биология
Возникает вопрос о происхождении алгоритма-интеллекта. В книге Потапова для объяснения привлекается теория эволюции и естественный отбор, а также рассматриваются модели, связанные с биологией и эволюцией. На этом пути можно отметить несколько проблем, которые хорошо видны в книге Потапова.
С одной стороны, считается, что у эволюции нет цели, с другой, считается, что эволюция нечто оптимизирует. Возникает вопрос о том, как можно говорить об оптимизации без рассмотрения целевой функции. Потапов по этому поводу пишет таким образом:
‘Поскольку в процессе эволюции появляются все более приспособленные виды, эволюцию можно трактовать как поиск максимума некоторой функции выживания, или фитнесс-функции.’
Видно, что компьютерные специалисты не могут себе представить эволюцию, которая не имеет цели. Должен сказать, что в этом отношении представители ИИ, пожалуй, более последовательны чем биологи, которые хотят одновременно говорить как об отсутствии цели, так и об оптимизации.
Следующий вопрос связан с огромным числом вариантов перебора:
‘В связи с этим, если мы рассмотрим эволюционные вычисления как методы поиска в пространстве решений, то становится понятным, почему с их помощью не так просто автоматически получить ИИ. По сути, эти методы сами будут составлять интеллектуальную систему, перед которой ставится задача поиска программы ИИ. Нет ли здесь противоречия? Не получается ли так, что нам уже нужно иметь ИИ, чтобы компьютер смог сам его придумать? Принципиального противоречия здесь нет: более «глупая» программа может вывести более «умную» посредством «грубой силы», т. е. используя очень интенсивный перебор. Конечно, чем глупее эволюционная программа, тем больше грубой силы ей придется приложить.’
Для решения этой задачи Попапов отталкивается от идеи нарастающего отбора Ричарда Докинза. Эта идея выглядит в глазах специалиста по ИИ так:
‘Для начала эволюцию можно трактовать как самооптимизирующийся поиск. Возможно, этот поиск начинался практически как случайный, однако в ходе него перебирались не только сами объекты, но и эвристики поиска. На обнаружение главных метаэвристик ушли миллиарды лет, но по мере их появления эффективность поиска постепенно возрастала.’
Следующий вопрос — почему в результате эволюции вообще получился разум. Направление мысли следующее:
‘Возникновение разума может быть объяснено, только если саму эволюцию представить как самооптимизирующийся поиск, направленный на построение разума (или, по крайней мере, на усложнение).’
С другой стороны, если вернуться к вопросу об связи между алгоритмом и интеллектом, то следует сказать, что эволюция представляет из себя далеко нетривиальный алгоритм. Видимо поэтому Потапов пишет:
‘Возвращаясь к метафоре «мышление как поиск», можно прийти к выводу, что между мышлением и эволюцией имеется подозрительно много общего.’
‘Конечно, эволюция обладает некоторыми несомненными атрибутами интеллектуального, самообучающегося процесса. Но при признании параллелей между мышлением и эволюцией следует предостеречь от поспешного переноса на нее всех прочих свойств человеческого разума (таких как, например, самосознание или целеполагание). Вряд ли стоит думать, что за эволюцией стоит мощный разум, существовавший с начала времен. Иначе этому разуму не понадобились «размышления» на протяжении нескольких миллиардов лет, за которые он «придумал» человека (по крайней мере, человек надеется построить ИИ гораздо быстрее). Скорее, эволюция в начальный момент больше похожа на младенца, обладающего самым минимальным интеллектом, но способного к обучению (исходно на основе обширного стохастического поиска).’
Алгоритм и физика
Физику также можно рассматривать с точки зрения алгоритма. Мир переходит из предыдущего состояния в последующее по законами физики и поэтому мир можно рассматривать как результат работы своеобразного алгоритма. Такая идея находит отражение в «цифровой физике», которая опирается на идею клеточных автоматов (аналогия — игра Жизнь). Интересно отметить, что Потапову такая идея не нравится, поскольку он понимает, что такое развитие мира плохо согласуется с идеями поиска разума в рамках биологической эволюции, которые в свою очередь основаны на идеях возникаемости и самоорганизации:
‘Клеточные автоматы «эволюционируют» детерминированным образом. В связи с этим их алгоритмическая сложность остается почти постоянной: текущая конфигурация может быть описана просто как начальная конфигурация и номер текущей итерации (вследствие безостановочности), которым практически можно пренебречь. Если начальная конфигурация задана псевдослучайным образом (или задана истинно случайно, но в ограниченной области), то алгоритмическая сложность последующих конфигураций будет очень низкой. В этих условиях просто на основе рассмотрения величины алгоритмической сложности (ее ограниченности) можно с уверенностью заявить, что ничего интересного (в смысле самоорганизации) не произойдет.’
Как специалист, Потапов прекрасно видит, что цифровую физику невозможно сочетать с идеями возникаемости, когда по мере развития системы появляются принципиально новые свойства. Поэтому Потапов достаточно подробно разбирает идею возникаемости с точки зрения самоорганизации в рамках своеобразного алгоритма. Одна из идей заключается в введении дополнительных законов на уровне системы:
‘Если же взять мир какой-нибудь компьютерной игры, в нем все предметы будут объективны в «сильном» смысле: в программе игры будут присутствовать конкретные информационные структуры, отвечающие за деревья, здания и т. д., для которых будет в явном виде указано, из чего они состоят. В хорошо проработанной игре все объекты будут подчиняться одним и тем же законам механики игрового мира, но объекты разных классов смогут по-своему их нарушать.’
‘Молекула в таком мире будет не просто несколькими атомами, близко расположенными в пространстве, но и еще чем-то дополнительным (собственно молекулой), находящимся «выше» в направлении «системной размерности». При «материальном» существовании систем несложно представить себе такие законы взаимодействия между ними, которые в буквальном смысле не сводились бы к законам лишь нижнего уровня.’
‘Если же представить себе клеточный автомат (с вероятностными правилами взаимодействия клеток), в котором для «интересных» конфигураций вводилась бы метка целостной системы, и для таких систем подбирались бы дополнительные законы взаимодействия, обеспечивающие дальнейший системогенез, то указанное ограничение удалось бы обойти. Такой клеточный автомат вполне можно попытаться построить.’
Потапов, однако, понимает, что такое видение противоречит взглядам современной физики, поэтому в его изложении можно найти как «за», так и «против» — физика vs. витализм. Тем не менее, похоже Потапову нравится картина мира в духе самопознающего разума Гегеля:
‘Образно говоря, Вселенная будет «размышлять» в более высокоуровневых терминах, что перекликается с философией Гегеля, постулировавшего существование «мирового разума», находящегося в постоянном развитии (само понятие развития в философию было введено именно Гегелем).’
‘Этот закон однозначно свидетельствует о том, что наш разум возник как промежуточная стадия неких глобальных процессов, которые можно интерпретировать как самооптимизирующийся поиск. Само человеческое мышление является не только продуктом, но и средством осуществления этого поиска, точнее, одним из его уровней.’
Алгоритм и сознание
Потапов не сомневается, что сознание тождественно алгоритму:
‘Но если в «Жизни» в виде некоторой конфигурации будет реализован разум, то он сможет видеть то же самое, что и человек. ‘
‘Алгоритм как универсальная модель может описать эмерджентные свойства любой системы. Почему мы не можем сказать, что некоторый воплощенный алгоритм (в широком смысле этого слова) переживает эмоции или реализует функцию понимания? ‘
Возможно, что по именно этой причине Потапов не анализирует формальные выводы из такой точки зрения. Следует отметить, что точка зрения Потапова совпадает с вычислительной теории сознания, и, таким образом, следует обратиться к работам Бруно Маршаля, который подробно рассмотрел следствия, которые вытекают при принятии вычислительной теории сознания.
Маршаль доказал, что вычислительная теория сознания несовместима с «цифровой физикой» (это обстоятельство, пожалуй, должно было бы порадовать Потапова). В более широком смысле Маршаль показывает, что вычислительная теория сознания принципиально несовместима с материализмом: если сознание является алгоритмом, то такой алгоритм не требует компьютера для его исполнения. Более того, в случае правоты вычислительной теории сознания сами законы физики являются следствием работы Разума (только не надо смешивать разум отдельного взятого человека с Разумом с большой буквы). Отмечу, что Маршаль предлагает картину мира в духе философии Плотина (эманация Единого) и доказывает, что машина принципиально не может узнать, является ли она машиной или нет.
Не могу сказать, какой вариант более предпочтителен при поиске смысла жизни отдельно взятого человека — опора на неумолимые законы физики или на самопознающий Разум. По-моему, хрен редьки не слаще. С другой стороны, машинная теология Маршаля вносит определенную ясность. Если верна вычислительная теория сознания, то мы принципиально не сможем это доказать. Поэтому без исходных убеждений никак не обойтись.
В заключение могу предложить такое определение самопознающего клеточного автомата. Клеточный автомат определяется исходными законами, по которым он переходит из предыдущего состояния в последующее. Эти законы имеют формальное выражение в определенном символьном выражении. Если по ходу эволюции клеточного автомата удастся найти соответствие между состоянием клеточного автомата и символьным выражением, определяющим законы этого автомата, то вполне можно сказать, что такой клеточный автомат является самопознающим — автомат отобразил законы, по которым он работает.
Информация
А. С. Потапов. Искусственный интеллект и универсальное мышление. 2012.
См. также: Бруно Маршаль: Метафизика вычислений