Власти штата Нью-Йорк приняли законопроект RAISE, направленный на предотвращение катастрофических последствий использования передовых моделей искусственного интеллекта, включая разработки OpenAI, Google и Anthropic. Документ предусматривает ответственность в случае гибели или травм более 100 человек либо ущерба свыше $1 млрд.
RAISE стал победой для движения за безопасность ИИ, которое ранее уступало позиции на фоне приоритетов ускорения разработок в Кремниевой долине и в администрации Трампа. Законопроект поддержали лауреат Нобелевской премии Джеффри Хинтон и один из пионеров ИИ Ешуа Бенджио.
Если губернатор Кэти Хокул подпишет документ, он станет первым в США законом, обязывающим крупнейшие ИИ-лаборатории публиковать отчеты о безопасности и докладывать об инцидентах, например, при утечке модели или опасном поведении ИИ. Нарушителям будет грозить штраф до $30 млн.
Авторы закона подчеркивают: документ не требует от разработчиков «кнопки отключения» и не затрагивает малые компании или академические учреждения.
Несмотря на это, некоторые представители индустрии выступили против. В Andreessen Horowitz назвали закон «глупым и вредным», а сооснователь Anthropic Джек Кларк заявил, что законопроект слишком широк и может ударить по малому бизнесу.
