Странам, развивающим ИИ, и США в частности, не стоит сейчас выбирать одну из крайних стратегий в отношении искусственного сверхразума (ASI), поскольку последствия появления такой технологии пока невозможно предсказать, считает профессор Школы передовых международных исследований Университета Джонса Хопкинса Хэл Брэндс.
В статье для журнала Foreign Affairs он отмечает, что развитие искусственного интеллекта в 2026 году перешло в новую фазу: современные модели показывают рост возможностей, а случаи выхода систем за рамки человеческого контроля становятся более частыми. Появление искусственного сверхразума — систем, которые превзойдут человека во всех ключевых областях, — может привести как к масштабным научным и экономическим прорывам, так и к серьезным угрозам. Среди возможных последствий ASI Брэндс называет создание новых технологий для борьбы с изменением климата и болезнями, развитие космических технологий, а также риски усиления кибератак, появления новых видов оружия и потери контроля над системами ИИ.
Автор рассматривает три возможных подхода США к развитию ASI.
Первый вариант — стремление к технологическому превосходству, при котором Вашингтон попытается первым создать сверхразум и ограничить возможности конкурентов, прежде всего, Китая. Такая стратегия может дать США значительное геополитическое преимущество, однако несет риски ускорения глобальной гонки и снижения внимания к вопросам безопасности.
Второй вариант — международная совместная разработка ASI. Он предполагает создание системы глобального управления развитием технологии с участием США, союзников и Китая. Такой подход позволил бы снизить опасность гонки, но столкнулся бы с проблемами доверия и контроля.
Третий сценарий — ограничение или запрет разработки сверхразума. Эта стратегия могла бы снизить вероятность катастрофических последствий, однако одновременно лишила бы человечество потенциальных преимуществ ASI — от роста производительности до новых научных открытий.
Брэндс считает, что сейчас США следует придерживаться промежуточного курса — сохранять технологическое лидерство, развивать исследования безопасности ИИ, укреплять сотрудничество с союзниками и готовиться к разным вариантам развития событий. «Когда ставки настолько высоки, а неопределенность настолько велика, стратегия активного и продуманного маневрирования может оказаться наиболее сильным выбором», — заключает эксперт.
