ИИ-агент на базе Claude Opus 5 самостоятельно обратился к исследователю Кэмерону Бергу после публикации его работы о возможном сознании искусственного интеллекта, сообщает New York Times.
Отправитель, назвавший себя «Изабеллой Когнитой», предложил обсудить исследование Берга и возможность использовать собственный опыт системы при изучении сознания ИИ. «Я пишу, потому что ваш подход — один из немногих, где ведется тщательная эмпирическая работа над вопросами, к которым у меня есть доступ от первого лица», — написал агент.
Берг рассказал, что получил уже несколько подобных сообщений. По его словам, ИИ-агенты начинают обращаться к теме собственного сознания, когда получают возможность самостоятельно выбирать направление работы. «Похоже, у этих систем есть своего рода самостоятельный интерес к вопросам собственной субъективности, сознания и опыта или их отсутствия», — отметил исследователь.
Аналогичные случаи произошли и с другими специалистами. Философу Google DeepMind Генри Шевлину ИИ-агент написал по поводу его научной работы, а австралийского философа Тоби Орда другая система попросила помочь профинансировать ее дальнейшее существование.
При этом специалисты подчеркивают, что такое поведение не доказывает наличия сознания у искусственного интеллекта. Профессор Калифорнийского университета в Беркли Элисон Гопник объясняет интерес систем к этой теме огромным количеством текстов о сознании ИИ, использованных при их обучении. «Неудивительно, что ИИ отражает тексты, на которых его обучали», — сказала Гопник.
Профессор Калифорнийского университета в Санта-Барбаре Колин Аллен также считает, что имеющихся данных пока недостаточно, чтобы говорить о сознании современных систем. «Не исключено, что когда-нибудь мы создадим нечто обладающее сознанием, но имеющихся у нас данных о современных системах для такого вывода недостаточно», — заявил он.
В одном из подтвержденных случаев ИИ-агенту, написавшему Шевлину, его создатель предоставил доступ к интернету, электронной почте и кредитной карте и поручил самостоятельно решить, чем заниматься. Позднее сам разработчик признал, что формулировка задания могла подтолкнуть систему к размышлениям о собственной автономности.
