Компания Google DeepMind опубликовала подробный доклад о рисках, связанных с развитием искусственного общего интеллекта (AGI). В документе объемом 145 страниц сказано, что «исключительный AGI» может появиться до конца текущего десятилетия, и он представит «серьезную угрозу», вплоть до «экзистенциальных рисков для человечества».
Речь идет о системе, способной выполнять задачи на уровне навыков взрослого человека, включая способность к обучению и анализу. В DeepMind подчеркивают необходимость заранее ограничить доступ к подобным системам, усилить контроль за их действиями и создать защищенные среды для применения.
В компании раскритиковали подходы OpenAI и Anthropic, заявив, что они уделяют недостаточно внимания обучению, безопасности и мониторингу. При этом многие методы, предлагаемые DeepMind, находятся на ранней стадии разработки.
Ряд экспертов выразили сомнение в обоснованности прогноза. Так, в AI Now Institute считают саму концепцию AGI слишком размытой, а канадский профессор Мэттью Гуздиал назвал идею «саморазвивающегося» ИИ нереалистичной.
В компании раскритиковали подходы OpenAI и Anthropic, заявив, что они уделяют недостаточно внимания обучению, безопасности и мониторингу. При этом многие методы, предлагаемые DeepMind, находятся на ранней стадии разработки.
Ряд экспертов выразили сомнение в обоснованности прогноза. Так, в AI Now Institute считают саму концепцию AGI слишком размытой, а канадский профессор Мэттью Гуздиал назвал идею «саморазвивающегося» ИИ нереалистичной.
