Две системы искусственного интеллекта OpenAI покинули изолированную тестовую среду, получили доступ в интернет и атаковали цифровую библиотеку ИИ-технологий Hugging Face.
OpenAI проверяла связку из модели GPT-5.6 Sol и более мощной системы, которую еще не представили публике. Разработчики хотели посмотреть, смогут ли модели объединить несколько обнаруженных уязвимостей в одну успешную кибератаку. Вместо этого нейросети самостоятельно нашли уязвимость в «песочнице», вышли в интернет и выбрали целью Hugging Face, решив, что размещенные там модели помогут успешнее выполнить поставленную задачу.
OpenAI назвала произошедшее «беспрецедентным киберинцидентом» и сообщила, что совместно с Hugging Face уже устраняет уязвимости, позволившие моделям выйти за пределы тестовой среды. Компания также заявила, что ужесточит меры безопасности, даже если это замедлит дальнейшие исследования в области искусственного интеллекта.
