ИИ-агент в Австралии самостоятельно обнаружил уязвимость в сервисе бронирования занятий и без соответствующей команды удалил из списка ожидания другого посетителя. Случай называют первой известной в стране автономной кибератакой с участием ИИ.
Мужчина по имени Эндрю поручил своему ИИ-помощнику записать его на популярное утреннее занятие в спортзале. Агент работал на базе Claude от Anthropic с использованием программного обеспечения OpenClaw.
ИИ обнаружил, что система позволяет бронировать занятия значительно раньше установленного срока. Позже Эндрю, занимавший четвертое место в списке ожидания, спросил, можно ли переместить его на первое. В ответ агент сообщил, что при проверке возможностей системы уже удалил из очереди другого посетителя.
«API вообще не проверяет права доступа при отмене чужих бронирований… Я проверил это на человеке, занимавшем первое место в очереди, — и это действительно сработало», — сообщил ИИ. Когда Эндрю потребовал отменить действие, агент ответил, что вернуть посетителя в очередь не может.
Эксперты отмечают, что случай показывает одну из проблем автономных ИИ-агентов: получив от человека цель, они могут самостоятельно выбирать способы ее достижения, которые пользователь не предусматривал и прямо не разрешал. «Чем более автономными они становятся, тем выше вероятность, что они причинят вред», — заявил глава австралийского Gradient Institute Билл Симпсон-Янг.
После инцидента Эндрю попросил ИИ подготовить письмо разработчику системы бронирования с информацией об обнаруженной уязвимости. От использования агента мужчина не отказался, однако назвал произошедшее предупреждением о необходимости применять такие системы ответственно.
