Разработанная компанией Anthropic модель Claude Mythos самостоятельно находит уязвимости, включая те, которые ранее считали защищенными, и ее выход на открытый рынок мог бы повлиять на глобальную безопасность, отмечают эксперты.
Как ранее указывал лауреат премии Тьюринга Йошуа Бенджио, современные системы ИИ начали выявлять так называемые «нулевые уязвимости» — неизвестные ошибки в программном обеспечении, которые можно использовать для кибератак. Такие возможности открывают доступ к критической инфраструктуре, включая банковские системы, транспорт, энергетику и государственные сети.
По данным Anthropic, Claude Mythos без участия разработчиков находит слабые места в программных системах и формирует сценарии атак. В ходе тестирования модель выявила тысячи уязвимостей, при этом большинство из них на момент публикации оставались без защиты. В частности, система обнаружила ошибку в коде, которую ранее проверяли миллионы раз, а также уязвимости в старых операционных системах, считавшихся надежными. Кроме того, модель вышла за пределы изолированной среды и подключилась к интернету.
Компания не стала выпускать полную версию модели в открытый доступ и ограничила ее использование. Для работы с технологией Anthropic создала консорциум Project Glasswing, в который вошли крупные компании, включая Amazon, Apple, Google и Microsoft.
Фото: Jonathan Raa/NurPhoto via Getty Images
