На фоне растущей тревоги вокруг безопасности искусственного интеллекта сразу две крупнейшие компании — Anthropic и OpenAI — объявили о готовности притормозить развитие своих передовых моделей. Поводом стали как внутренние обсуждения, так и открытые обвинения бывших сотрудников в игнорировании рисков.
Так, глава Anthropic Дарио Амодей призвал всю ИИ-индустрию «замедлиться». Также он пообещал, что его компания одной из первых предоставит независимым аудиторам постоянный доступ к своим системам — для контроля за безопасностью, расследования инцидентов и оценки корректности обучения моделей.
Идею тут же поддержали и в OpenAI. Генеральный директор Сэм Альтман не только публично согласился с предложением Амодея, но и на внутренней встрече с сотрудниками подчеркнул, что OpenAI готова синхронизировать темпы разработок с другими ведущими лабораториями.
Другие деятели технологической отрасли поддержали эту позицию, в том числе американский миллиардер Илон Маск, который просто написал в соцсетях: «Дарио прав».
Все эти аявления прозвучали вскоре после того, как бывший исследователь Anthropic и OpenAI Джейкоб Коксон публично обвинил обе компании в «безответственной гонке к самосовершенствующемуся суперразуму». По словам ученого, «создатели ИИ серьезно полагают, что их разработки могут уничтожить человечество уже к 2030 году, но продолжают ускоренными темпами развивать эти технологии».
