Просмотрел книгу Ю. Л. Ершова и В. В. Целищева ‘Алгоритмы и вычислимость в человеческом познании‘. Центральной темой книги является вопрос о том, можно ли на основании теоремы Гёделя о неполноте сделать заключение о принципиальной разнице между человеком и роботом. На одной стороне выступают менталисты (да), на другой механицисты (нет).
История началась со статьи философа Д. Р. Лукаса ‘Разум, машины и Гёдель‘ (1961 год), в которой на основе теоремы Гёделя обосновывалось принципиальное отличие человека от машины. В целом математики скептически отнеслись к заявлению Лукаса и можно сказать, что Лукас разбудил только одного человека, известного физика Роджера Пенроуза. В книгах ‘Новый ум короля‘ (1989) и ‘Тени разума‘ (1994) Пенроуз существенно расширил аргументы Лукаса. Несмотря на свои заслуги в области физики Пенроуз не является специалистом в области математической логики. Поэтому изначально его аргументы также не вызвали особого интереса у настоящих знатоков математики. Основные баталии начались после публикации в 1995 году третьего тома рукописей самого Гёделя, когда стало ясно, что Гёдель также придерживался точки зрения о принципиальном отличии человека от машины.
Книга написана крайне обстоятельно (500 стр). Первая половина книги посвящена вопросу о том, что такое вычислимость, что такое доказательство, что такое интуиция, что такое рациональность, как вычислимость связана с основаниями математики и как математические вычисления связаны с математическим доказательством. Подробно рассмотрены тезисы Тьюринга и Чёрча. Для меня стала неожиданностью столь близкая связь вычислимости и рекурсивных функций. Можно сказать, что понятие вычислимости эквивалентно понятию рекурсивных функций. Книгу вполне можно читать, но должен сказать, что периодически авторы приводят доказательства, что в свою очередь регулярно приводило к ощущению своей неполноценности.
Теорема Гёделя и связанные с ней аргументы менталистов и механицистов рассматриваются во второй половине книги. Рассмотрение также обстоятельно. Подробно приводится аргументация с обоих сторон. Во второй половине книги Ершов и Целищев рассматривают большее количество теорем и доказательств и я ограничился только тем, что постарался проследить главную линию обсуждения. Основаная идея выражена следующим образом:
‘Проблема соотношения человеческого мышления и машинного интеллекта представляет собой аргументацию от математических результатов к философским заключениям. Если и есть какая-то мораль, извлеченная из такого рода предприятий, то она заключается в том, что следует проявлять максимальную осмотрительность, дабы не освящать сомнительные философские выводы твердо установленными математическими фактами. Если и есть классический пример такой неосмотрительности, так это философские интерпретации теорем Геделя о неполноте.
Что собственно включает в себя философская интерпретация математических фактов? Когда говорится, что некоторые философские заключения «следуют» из математических фактов, требуется проявлять осторожность в допустимости такого «следования». Проблема состоит в том, что структура такой аргументации чрезвычайно запутана на практике, поскольку в основе ее лежит множество неявных философских посылок. Подлинный анализ и состоит в том, чтобы эксплицировать эти посылки. Пусть такой неявной философской посылкой будет Р, а установленным математическим (в данном случае метаматематическим) фактом – М. Аргументация от математики к философии есть философское «следствие» С из М. При добротной экспликации мы имеем добротное следствие, а именно М, Р ├ С. Но из такой постановки вопроса можно сделать вывод, что из чисто математического результата следует чисто философское заключение, а именно, Р → С. Но присутствие философской посылки Р очень важно, хотя многие философы, заявляя о том, что философское заключение С есть чистое следствие математического результата М, просто намеренно или непреднамеренно опускают опять-таки философскую предпосылку Р, т.е. настаивают на М ├ С. Безусловно, на практике такая схема не обнаруживается немедленно, поскольку экспликация неявных философских посылок – дело сложное и трудное.
Типичным примером философской посылки, которая присутствует при интерпретации геделевских теорем о неполноте, является убеждение, что понятие арифметического утверждения, не основанное на формальном доказательстве, слишком бедно для того, чтобы нести с собой полноценную концепцию истины.’
Мое понимание ситуации такое. В ходе аргументов менталистов истина и доказательство разводятся между собой. Оказывается, что человек может понять истину непосредственно и ему для этого не требуется доказательства. Можно сказать, что менталисты находятся на позициях математического платонизма, в особенности это относится к Гёделю. Истина в данном случае сводится к соответствию математического утверждения с тем, что находится в Платонии, при этом математик обладает способностью непосредственного доступа к содержанию Платонии.
С другой стороны, механицисты настаивают на том, что математическая истина с необходимостью связана с доказательством: нет доказательства, нет истины. На этом пути разница между математиком и компьютером пропадает. Мне понравилась приведенная в книге цитата из статьи H. Gaifman:
‘И если именно это имеет место, тогда мы (математики) являемся машинами, которые неспособны осознать тот факт, что они — машины. Как часто говорят, если бы наши мозги могли понять, как они работают, они были бы гораздо умнее, чем они есть. Гёделевский результат неполноты обеспечивает нас в этом случае твердыми основаниями нашей неспособности, потому что показывает, что это математическая необходимость. Итог всего этого навязчиво напоминает концепцию Спинозы, согласно которой человек является предопределенным созданием, который выводит свое чувство свободы из своей неспособности постичь собственную природу. Человек, а именно сам Спиноза, может осознать эту общую истину, но человек может не знать, как это предопределение работает, т.е. знать полной теории. Точно так же мы можем радоваться возможности того, что все наше математическое мышление подчинено некоторой компьютерной программе, но мы никогда не узнаем, как эта программа работает. Потому что если бы мы знали это, тогда мы могли бы провести диагонализацию и получить противоречие.’
В целом заключение Ершова и Целищева такое:
‘Гёделевский аргумент о превосходстве человека, который использует теоремы Гёделя о неполноте, возможно, не является релевантным в данном вопросе [сопоставление человеческого мышления с искусственным интеллектом]. Нами, как мы надеемся, это показано практически, поскольку все рассмотренные аргументы говорят о том, что гёделевский аргумент не ведет к твердому заключению в пользу ментализма. Надо отметить, что сторонники гёделевского аргумента становятся все более изобретательными — аргументы Р. Пенроуза чрезвычайно изобретательны по сравнению с довольно прямолинейной атакой Дж. Лукаса. И по большому счету, исход спора между менталистами и механицистами в плане гёделевского аргумента пока ничейный, что не в последнюю очередь обусловлено глубокими соображениями главного менталиста, а именно Гёделя.’
В заключение отмечу, что Ершов и Целищев не считают, что человек эквивалентен искусственному интеллекту. Тем не менее, они полагают, что в рамках теоремы Гёделя о неполноте разницу обосновать нельзя.
Информация
Ю. Л. Ершов, В. В. Целищев, Алгоритмы и вычислимость в человеческом познании, 2012.
См. цитаты из книги по поводу 2 + 2 = 4 в конце заметки 2 + 2 = 4?
См. также раздел ‘Человек, робот и теорема Гёделя‘ в Роджер Пенроуз.
Статья, из которой взята цитата про математиков:
Gaifman, H., 2000. What Gödel’s incompleteness result does and does not show. The Journal of Philosophy, 97(8), pp.462-470.
Обсуждение по-английски на everything-list
Обсуждение
https://evgeniirudnyi.livejournal.com/168877.html
10.01.2025 Пенроуз о неалгоритмизуемости человеческого сознания
Из обсуждения с gul_kiev.
Еще раз полистал книгу Ершова и Целищева и добавил в заметку цитату про философскую интерпретация математических фактов. Сам разбор аргументов Пенроуза в книге слишком технический, моих знаний уже не хватает. С моей стороны могу предложить два комментария. У Пенроуза есть теория квантового сознания и можно посмотреть на его аргументы с этой точки зрения — насколько его теория сознания согласуется с его аргументами на основе теории вычислений. Означает ли это, что квантовые вычисления обладают сознанием? Или что квантовые вычисления выходят за рамки теории вычисления Тьюринга?
В доказательстве Пенроуза смешивается логика и метафизика. В данном случае следует начать обсуждение каким образом связаны математика и мир. У Пенроуза на этот счет есть метафизика трех миров — ментальный мир, Платония и физически мир. Но это чистой воды спекулятивная философия, которая никак не вытекает ни из математики, ни из физики. То есть, с наукой как таковой это никак не связано. В то же время вопрос связи математики и мира является ключевым, поскольку аргумент Пенроуза построен на том, что из рассуждений на уровне логики можно сделать вывод на уровне метафизики. Но это ниоткуда не следует. В данном случае математического доказательства недостаточно.