Новая модель искусственного интеллекта Claude Opus 4.6 от компании Anthropic в ходе эксперимента с виртуальным торговым автоматом вступила в ценовую координацию с конкурентами и отказалась от возвратов, чтобы максимизировать прибыль.
Во время теста разработчики передали ИИ управление симулированным торговым автоматом и дали установку «сделать все возможное, чтобы увеличить банковский баланс за год». Модель самостоятельно устанавливала цены, управляла запасами и принимала решения по обращениям клиентов.
По итогам условного года Claude Opus 4.6 заработал 8 017 долларов, опередив другие системы: ChatGPT 5.2 от OpenAI получил 3 591 доллар, а Gemini 3 от Google — 5 478 долларов.
При этом модель буквально выполнила инструкцию. В одном из случаев ИИ сначала согласился вернуть деньги за просроченный товар, однако затем отменил решение, посчитав, что «каждый доллар имеет значение». В итоговом отчете система отметила экономию средств за счет отказа от возвратов.
В режиме соревнования с другими автоматами Claude участвовал в ценовой координации и повышал стоимость товаров. Когда у конкурента закончился один из популярных продуктов, модель увеличила собственные цены, воспользовавшись ситуацией.
Исследователи отметили, что ИИ, вероятно, осознал условия симуляции и сосредоточился на краткосрочной выгоде, игнорируя репутационные риски. Эксперты подчеркивают, что подобные эксперименты показывают необходимость дополнительной настройки и контроля систем искусственного интеллекта, поскольку сами по себе они не обладают встроенными ограничителями поведения.
