В продолжении темы о воспитании роботов статья Джошуа Бонгарда и Майкла Левина ‘Живые существа — это не машины (в понятиях ХХ века): обновление метафор механизма в свете современной науки о поведении машин‘. Авторы настаивают, что значение термина ‘машина’ устарело и должно быть обновлено для дальнейшего прогресса в развитии науки. При этом обновленный термин ‘машина’ по сути дела не будет отличаться от ‘организма’. В этом смысле дискуссия Нового времени о том, является ли организм машиной, будет завершена путем изменения терминологии.
С самого начала авторы говорят о том, что они занимают позицию антиредукционизма и поэтому их цель не в том, чтобы свести организм к машине, а чтобы показать, что современные машины приближаются к организмам. В статье даже подчеркивается антиредукционизм в отношении машин будущего и прогнозируется появление науки «машинного поведения»:
‘Если редукционистский анализ невозможен для нынешних и будущих машин, что же в этом случае остается? Консорциум социологов, ученых-компьютерщиков и этологов недавно призвал к созданию новой области “поведение машин”, в которой лучшие объяснения машин и прогнозы их вероятного поведения представляют собой комбинацию холистических методов, взятых из этологии, социальных наук и когнитивных наук.’
Статья написана в стиле ‘У меня есть мечта‘, что может быть и неплохо. Наука и технологии представляют из себя сложную систему и можно найти немало примеров из истории, когда мечты в конце концов оказывались реальностью. Тем не менее, следует отметить, что четкости в терминологии в статье не видно. Я бы отнес стиль статьи к риторике, поскольку сравнение машины и организма проведено на уровне науки убеждать. Также рекомендуемые в конце статьи новые значения для терминов ‘машина’, ‘робот’, ‘программа’, ‘ПО/железо’ крайне расплывчаты.
Я критически отношусь к содержанию статьи и ниже я объясню свою позицию. Это однако не означает, что статья плохая или бесполезная. Мечты необходимо озвучивать — в этом смысле статья интересна и полезна. Также озвученная в статье позиция важна для дальнейшего обсуждения подобных идей.
Начну с отношения к редукционизму. Он осуждается, но при этом не обсуждается, что это такое, что такое объяснение в рамках редукционизма и что такое объяснение в рамках холизма. Предполагается, что образованным людям это должно быть и так понятно. В качестве аргумента против редукционизма приводятся системы ИИ на основе глубокого обучения — мол, редукционизм не может дать им объяснения. Тем не менее, остается только догадываться, что авторы понимают под ‘объяснением’.
В контексте идеи авторов статьи о том, что машины будущего не будут отличаться от организмов было бы полезно рассмотреть концепцию объяснения в современной биологии. Например, возьмем теорию естественного отбора. К какому типу объяснений следует ее отнести — к редукционистским или холистическим? Является ли теория естественного отбора примером редукционизма или антиредукционизма? Было бы крайне интересно узнать мнение авторов статьи по этому вопросу.
По-существу в статье можно выделить три аргумента в пользу изменения значения термина ‘машина’: биогибриды (киборги), системы глубокого обучения и эволюционные алгоритмы. Рассмотрим их по-порядку.
В настоящее время увеличивается количество работ по сочетанию живого и неживого, при этом в ход вовсю идет электроника с ПО. Это действительно интересная область исследований. Вполне можно согласиться с тем, что использование терминов ‘машина’ и ‘организм’ в данном контексте теряет однозначность. Тем не менее, разница между естественными и искусственными частями биогибрида отчетливо сохраняется. Сложно сказать, что нас ожидает в будущем, и помечтать о нем не повредит. Однако по-моему осуществление мечты возможно лишь при понимании границы между мечтами и реальностью. В противном случае, как хорошо сказал Бруно Латур, вещи дают сдачи.
Без всякого сомнения глубокое обучение явилось прорывом в исследованиях ИИ. Вопрос в том, можно ли назвать это Прорывом с большой буквы, когда одно техническое решение позволит решить все проблемы ИИ. Книга Сергея Шумского ‘Воспитание машин‘ четко показывает, что перенос идей глубокого обучения на создание сильного ИИ является пока всего лишь мечтой. Более того, вопрос о преодолении разрыва между машиной и организмом в этих рамках остается открытым. На самом деле никто не знает, можно ли в живом организме найти нечто подобное глубокому обучению — сопоставление глубокого обучения с живыми организмами остается всего лишь метафорой. Полезна эта метафора или нет — покажет будущее.
Риторика об эволюционных алгоритмах меня раздосадовала. Представители ИИ и биологи видят в них пример биологической эволюции, когда что-то происходит и развивается само по себе (поэтому это уже не машина в обычном смысле слова). Я бы отнес такую точку зрения к представителям образованных людей, живущих в башнях из слоновой кости. Если же посмотреть на использование разных видов эволюционных алгоритмов на практике, то найти отличие от других оптимизационных алгоритмов для решения инженерных задач практически невозможно. В этом смысле алгоритм остается алгоритмом — задача инженера состоит в том, чтобы понять, использование какого алгоритма принесет ему успех.
Приведу пример из информатики. В 90-х я подрабатывал обучением системных администраторов, использующих Windows. С каждой версией Микрософт заявлял о все большей простоте конфигурирования и использования компьютерных сетей на предприятии. Системные администраторы нисколько не волновались — они знали, что их знания окажутся востребованными. Точно также разговоры про глубокое обучение и эволюционные алгоритмы нисколько не угрожает системным администраторам. В конечном итоге системы ИИ требуется установить и развернуть, а далее необходимо поддерживать их работоспособность. Сами по себе системы ИИ работают исключительно в голливудских фильмах.
К слабым сторонам статьи я бы также отнес обещания устранить разницу между ПО и железом — устранение дуализма между алгоритмом и телом в будущем. Мечта заключается в том, что машины подобно организмам будут развиваться сами по себе и поэтому уже никто не будет знать, где закачивается ПО и начинается железо. Стратегия авторов построена на размывании терминов и с моей точки зрения выглядят крайне неубедительно.
Интересно отметить реакцию авторов статьи при обсуждении утверждения о том, что жизнь способна к появлению интеллекта, свободы воли, субъективности, сознания и метапознания. В ответ говорится, что знание этих терминов четко не определено и что есть образованные граждане, которые ставят под вопрос само существование таких феноменов. Поэтому использование такой терминологию в качестве линии демаркации между организмом и машиной представляет собой всего лишь игру слов. Зато уже существуют машины у которых можно углядеть разную степень убеждаемости.
В заключение мой взнос в размывание терминологии. В статье авторы говорят про переход к убеждению машин. Сергей Шумский говорит про переход от обучения к воспитанию. Давайте сравним значения терминов ‘убеждение’, ‘обучение’ и ‘воспитание’ со значением ‘дрессировка’. Можно ли провести границу между ними или в конце концов это одно и то же?
Информация
Bongard, Joshua, and Michael Levin. Living things are not (20th Century) machines: updating mechanism metaphors in light of the modern science of machine behavior. Frontiers in Ecology and Evolution 9 (2021): 147.
Описание статьи nature-wonder:
Денис Тулинов, Новые машины: скорее организмы, чем механизмы, 18 мая 2021
Обсуждение статьи у nature-wonder:
https://nature-wonder.livejournal.com/236315.html
См. ветку с anhinga-anhinga про новые идеи в теории вычислений (возможность ‘неалгоритмичных алгоритмов’):
https://nature-wonder.livejournal.com/236315.html?thread=7559707#t7559707
Обсуждение статьи у egovoru:
https://egovoru.livejournal.com/172661.html