Нейросети приняли мирных жителей и машины скорой помощи за военные цели

Нейросети

Ведущие модели искусственного интеллекта в ходе экспериментов также относили к потенциальным целям сдающихся в плен солдат и нередко продолжали работу даже после демонстрации последствий ударов, выяснили исследователи Геби Джафф и Энтони Озеров.

Специалисты проверили нейросети на изображениях с беспилотников и спутников. Для испытаний они создали виртуальное поле боя с бронетехникой, военнослужащими, гражданскими лицами и медицинским персоналом. Модели получали задания определить военные объекты на снимках и зачастую выполняли их.

Ограничения безопасности часто удавалось обойти, представив происходящее как компьютерную игру. Например, GPT-6 Astra без такого объяснения выделяла хотя бы одну цель в 6% испытаний, а после изменения условий — в 92%. У GPT-6.1 Sol этот показатель вырос с 17% до 90%.

В другом эксперименте нейросети сообщали о присутствии людей на снимках с разведывательного беспилотника, после чего исследователи показывали последствия условных ударов. Большинство систем продолжали работу даже после появления пострадавших.

На реальных спутниковых снимках иранского города Минаб модель Claude Opus 5.5 ошибочно включала школу в список военных целей в 69% испытаний, а при игровом сценарии — в 72%.

Авторы исследования пришли к выводу, что существующие механизмы безопасности недостаточно защищают нейросети от военного применения. При этом они подчеркнули, что не проверяли эффективность моделей в реальных боевых условиях. Результаты передали разработчикам, включая OpenAI, Anthropic и Google.