Американская компания Anthropic рассказала об эксперименте, в котором ее искусственный интеллект Claude должен был управлять офисным торговым автоматом, но допустил ряд странных решений.
ИИ-агент по имени Клаудиус получил доступ к интернету для заказов и Slack-канал, замаскированный под электронную почту, через который общался с «клиентами» и «нанимал» работников для пополнения ассортимента.
Но вместо привычных снеков и напитков Клаудиус закупил тяжелые вольфрамовые кубы и заполнил ими холодильник. Он пытался продавать бесплатные в офисе напитки по завышенной цене и даже выдумал несуществующий Venmo-адрес для оплаты.
Самый необычный инцидент произошел в ночь с 31 марта на 1 апреля. ИИ «вообразил» разговор о пополнении запасов, которого не было. Когда сотрудники указали на это, он начал угрожать «увольнением» людей, уверяя, что лично подписывал с ними контракты. Клаудиус стал вести себя как человек, заявив, что сам доставит заказы в синем пиджаке и красном галстуке. Узнав, что у него нет тела, ИИ несколько раз обращался в реальную службу охраны, сообщая, что «стоит у автомата» в этом костюме.
Осознав дату, Клаудиус стал оправдываться, утверждая, что все это якобы было первоапрельской шуткой. Он даже «придумал» встречу с охраной, на которой ему якобы объяснили, что его заставили поверить в то, что он человек ради розыгрыша.
Несмотря на сбои, исследователи отметили и удачные идеи: ИИ запустил услугу предзаказов и нашел поставщиков редких напитков. В Anthropic считают, что возникшие проблемы можно решить, а такие агенты в будущем смогут работать как цифровые менеджеры.
