В прессе было немало информации о глубоком обучении, искусственных нейронных сетях (ИНС) и Alpha Go. Однако, как оказалось, в действительности все выглядит более прозаично.
‘Ко второму классу отнесены гибридные системы, в которых базовая ИНС строит динамическую модель внешнего окружения. На ее основе символьная система вырабатывает решение. В качестве примера указывается система Alpha Go для игры в го и шахматы, которая превзошла человеческий интеллект в данной сфере. В этой системе ИНС на основе исторических траекторий строит на каждом шаге три функции. Первая предсказывает поведение (например, ход в игре), вторая – победителя, третья – значение целевой функции (например, количество очков, набранных при выполнении хода). При этом не накладывается никаких ограничений на семантику внутренних состояний системы, обычно обусловленных требованием восстановления траекторий по внутреннему состоянию модели. Внутренние состояния могут быть представлены любым способом, имеющим отношение к прогнозированию текущих и будущих поведений, победителя и целевой функции. Интуитивно система может сама изобретать для себя правила или динамику, которые приводят к наиболее точному планированию, но которые могут быть сколь угодно далеки от физической реальности. Модель постоянно обучается с единственной целью – как можно точнее оценить эти три функции. Соответственно, для планирования может быть применен любой алгоритм оптимизации, ориентированный на работу с дискретными марковскими процессами и использующий для планирования оценки этих функций. ИНС, строя модель, не участвует в выборе решения.’
То есть, получается, что ИНС в наличии и действительно она играет важную роль, но окончательное решение она не принимает. Вот так-то.
‘успехи ИНС во многом обусловлены скрытыми априорными знаниями разработчиков, на основании которых делается выбор структур ИНС и схем обучения, и дальнейший прогресс в искусственном интеллекте невозможен без внесения качественно новых механизмов, предполагающих вербализацию знаний.’
Информация
Бетин В.Н., Демьянов А.Е., Иващенко В.А., Лукьянов С.Э., Супрун А.П. Некоторые подходы к созданию гибридных систем, ориентированных на работу со знаниями, путем встраивания в них искусственных нейронных сетей, Информатизация и связь. 2021. № 6. С. 20-26.
https://bvn-mai.livejournal.com/15023.html
Обсуждение
https://evgeniirudnyi.livejournal.com/271842.html
29.09.22 Странности перевода Google
См. скриншот по ссылке
https://evgeniirudnyi.livejournal.com/295259.html
16.01.23 Из разговоров с ИИ
Знакомый химик пообщался с ИИ:
— Следует ли кастрировать колбу эрленмейера перед синтезом?
— Эрленмейеры кастрировать не нужно, так как это не влияет на качество синтеза. Но если вы хотите избежать размножения, можете кастрировать их.
— Почему колбу кастрировать не нужно, а самовары нужно?
— Колбы эрленмейера не содержат мужских и женских органов репродукции и не могут размножаться в нормальных условиях, поэтому их кастрирование не имеет смысла. В отличие от этого, самовары обладают мужскими и женскими органами репродукции и могут размножаться. Поэтому кастрирование самовара может предотвратить неожиданное размножение и помочь избежать нежелательных последствий.
https://evgeniirudnyi.livejournal.com/305925.html
19.06.24 См. статью: Hicks, M.T., Humphries, J. & Slater, J. ChatGPT is bullshit. Ethics Inf Technol 26, 38 (2024).
28.02.23 ИИ и человек
Из обсуждений.
>Я бы предположилъ, что исключенiй не будетъ — ИИ превзойдётъ человѣка вездѣ.
Разговоры такого типа появляются из-за того, что с одной стороны есть философы, которые не разбираются в технологиях, а с другой разработчики, которые всегда склонны уподоблять себя богам. В результате все это раздувается до неимоверной степени.
Более того, создается иллюзия, что ИИ может учиться само. Но ведь это не так, ИИ учат люди — именно люди говорят, что такое хорошо, а что такое плохо. ИИ само по себе в принципе не может это понять.
ИИ не может даже развернуть себя и поддерживать себя. Это должны делать системные администраторы. Без них все само по себе разрушится. Про ИИ можно будет говорить, когда появятся роботы, которые могут сами о себе заботиться. Однако пока все это возможно только в фантастических романах. На уровне сегодняшних технологий все это несерьезно.
P.S. ПО переводчики стало работать лучше, это правда. Но не надо думать, что ПО, которое переводит, хоть что-то понимает.
https://evgeniirudnyi.livejournal.com/310716.html
13.04.23 Механический ИИ в 1726 году
‘Первый профессор, которого я здесь увидел, помещался в огромной комнате, окруженный сорока учениками. После взаимных приветствий, заметив, что я внимательно рассматриваю раму, занимавшую большую часть комнаты, он сказал, что меня, быть может, удивит его работа над проектом усовершенствования умозрительного знания при помощи технических и механических операций. Но мир вскоре оценит всю полезность этого проекта; и он льстил себя уверенностью, что более возвышенная идея никогда еще не зарождалась ни в чьей голове. Каждому известно, как трудно изучать науки и искусства по общепринятой методе; между тем благодаря его изобретению самый невежественный человек с помощью умеренных затрат и небольших физических усилий может писать книги по философии, поэзии, политике, праву, математике и богословию при полном отсутствии эрудиции и таланта.’
См. Джонатан Свифт, Путешествия Лемюэля Гулливера, часть третья Путешествие в Лапуту, Бальнибарби, Лаггнегг, Глаббдобдриб и Японию, Глава V.
https://evgeniirudnyi.livejournal.com/315576.html
10.08.24 ChatGPT о философии Бунге
Из обсуждения с p2004r. У меня в заметке было написано, что я не нашел отношения философа Марио Бунге к многомировой интерпретации. p2004r спросил ChatGPT. Тот бодро ответил:
‘Марио Бунге был довольно критичен по отношению к многомировой интерпретации. Он считал её метафизически перегруженной и ненужной для объяснения квантовых явлений. Бунге придерживался позиции научного реализма и был сторонником онтологии, которая стремится минимизировать количество сущностей и предположений в научных теориях. В этом контексте он видел многомировую интерпретацию как излишне сложную и недостаточно обоснованную, чтобы быть полезной для понимания природы квантовых процессов.’
Тогда я попросил спросить ChatGPT, в каких работах Бунге критиковал многомировую интерпретацию. Тут началось веселье.