Опасные возможности искусственного интеллекта уже вышли за пределы лабораторий, поэтому США и Китаю нужно сосредоточиться на защите от существующих угроз, считает бывший руководитель направления исследований и стратегии Microsoft Крейг Манди.
По его словам, замедление разработки новых передовых систем в США или Китае уже не решит проблему. Одной из причин он назвал распространение моделей с открытыми весами, которые можно скачивать и модифицировать. Кроме того, существует риск получения злоумышленниками доступа к закрытым моделям из-за утечек.
Манди призвал США и Китай совместно разрабатывать средства защиты от уже выявленных угроз, связанных с использованием ИИ злоумышленниками и с поведением самих систем. В частности, эксперт предлагает сосредоточиться на защите критической инфраструктуры от кибератак и биологических угроз с использованием ИИ. В долгосрочной перспективе необходимо создать глобальную систему контроля наиболее мощных ИИ-систем.
Фридман также поддержал идею совместного проекта США и Китая по применению искусственного интеллекта в биологии и медицине.
