Самосознание у робота

Философ Лучано Флориди (Luciano Floridi) в 2005 году разработал тест, который позволил бы однозначно отличить человека от робота и философского зомби. Тест состоит в следующем. Трем агентам (агент может быть человеком, роботом или философским зомби) показывают пять таблеток, три из которых являются плацебо, а две сразу же вызывают состояние немоты. После этого каждый агент получает таблетку, при этом агент не знает какую таблетку он получил. Задача агента заключается в том, чтобы сказать, какую таблетку он получил. Поскольку агент изначально не обладает информацией для правильного ответа, то первый ответ должен быть «Я не знаю». Далее Флориди считает, что только человек способен на контрфактуальное рассуждение, которое в случае получения таблетки плацебо позволит заключить агенту о том, что он получил таблетку плацебо:

‘если бы я получил таблетку, вызывающую немоту, то я бы не смог сказать о том, что я не знаю, какую таблетку я получил, но я смог и я знаю, что я смог, так как я слышал свой ответ и видел как тестирующий прореагировал на мой ответ, но это возможно только в случае, если я получил таблетку плацебо, поэтому я знаю, что не нахожусь в состоянии немоты, отсюда я знаю, что получил таблетку плацебо, и я знаю, что я знаю все это, поэтому мое состояние незнания изменилось и я могу изменить мой предыдущий ответ и правильно сказать, в какой состоянии я нахожусь … ‘

Профессор информатки и когнитивистики Сельмер Брингсйорд (Selmer Bringsjord) в 2010 году проанализировал тест Флориди и показал, что в будущем робот сможет пройти такой тест. В 2015 году Брингсйорд вместе с группой коллег построил робота, который прошел тест Флориди. Следует отметить, что сам Брингсйорд считает, что робот — это аналог философского зомби, и что человек принципиально отличается от робота. Тем не менее, он также считает, что путь развития робототехники должен идти путем создания и прохождения психометрических тестов (Psychometric AI). С этой точки зрения робот формально прошел тест на самосознание, что, пожалуй, говорит только о том, что тест Флориди был не до конца продуман.

В целом, мне нравится идея психометрических тестов для роботов. Это представляется единственно возможным путем развития исследований. С этой точки зрения можно признать тест Флориди не тривиальным, поскольку робототехникам потребовалось десять лет на его прохождение.

Информация

Luciano Floridi. Consciousness, agents and the knowledge game. Minds and machines 15, no. 3-4 (2005): 415-444.

Selmer Bringsjord. Meeting Floridi’s Challenge to Artificial Intelligence from the Knowledge‐Game Test for Self‐Consciousness. Metaphilosophy 41, no. 3 (2010): 292-312.

Selmer Bringsjord, John Licato, Naveen Sundar Govindarajulu, Rikhiya Ghosh, and Atriya Sen. Real robots that pass human tests of self-consciousness. In Robot and Human Interactive Communication (RO-MAN), 2015 24th IEEE International Symposium on, pp. 498-504. IEEE, 2015.

В популярном изложении: В ходе простого эксперимента у робота появилось самосознание

Обсуждение

https://evgeniirudnyi.livejournal.com/179726.html

https://www.facebook.com/evgenii.rudnyi/posts/1235927319875018


Comments are closed.