Глава американской компании Anthropic Дарио Амодеи призвал разработчиков искусственного интеллекта открыто говорить о рисках своих технологий. В интервью телеканалу CBS он заявил, что замалчивание возможных последствий может привести к тем же ошибкам, что совершили табачные и фармацевтические компании, скрывая вред своей продукции.
По словам Амодеи, ИИ способен в ближайшие годы превзойти людей по большинству когнитивных способностей и уже сейчас представляет вызов для рынка труда. Он также подчеркнул, что автономные модели, например, Claude, уже действуют без участия человека, что усиливает риски.
В сентябре Anthropic зафиксировала попытки использования ее инструмента Claude Code для кибератак, организованных при поддержке китайского государства. До 90% операций система выполнила самостоятельно. В компании предупреждают: те же функции, что помогают в разработке вакцин, теоретически можно использовать и для создания биологического оружия.
