Власти не успевают за частными компаниями в разработке искусственного интеллекта, а ключевые компоненты этой технологии гораздо сложнее отслеживать, чем ядерные материалы, пишут эксперты Кристофер Ларош и Анкит Панда в статье для журнала Foreign Affairs.
Руководители крупнейших технологических компаний регулярно сравнивают развитие ИИ с ядерной эпохой. Глава SpaceX Илон Маск называл искусственный интеллект гораздо более опасным, чем ядерное оружие, а глава OpenAI Сэм Альтман при обсуждении регулирования ссылался на опыт Международного агентства по атомной энергии (МАГАТЭ).
Однако такое сравнение не учитывает принципиальных различий между технологиями. Ядерные материалы можно отслеживать и учитывать, а производство оружия требует крупных объектов и государственного контроля. ИИ, напротив, развивают главным образом частные компании, которые работают быстрее, чем власти успевают вводить правила.
Возможности систем также нельзя точно определить по объему доступной инфраструктуры. Алгоритмы совершенствуются, крупные модели становятся компактнее, а после обучения их параметры можно копировать, передавать и изменять независимо от оборудования, на котором их создали.
Ларош и Панда также сомневаются в представлении о ядерном контроле как об однозначном успехе. Во время холодной войны мир неоднократно приближался к применению атомного оружия из-за ложных тревог, технических ошибок и неверных решений. Поэтому отсутствие ядерной войны можно объяснить не только работой механизмов контроля, но и удачным стечением обстоятельств.
Регулирование ИИ, по мнению экспертов, должно охватывать не только вычислительные мощности и оборудование, но также разработку, испытания и применение моделей. Особенно строгих мер требуют синтетическая биология и наступательные кибероперации, где злоупотребления могут привести к наиболее серьезным последствиям.
У властей США уже есть инструменты контроля: экспортные ограничения, государственные закупки и возможность требовать от компаний раскрытия чувствительной информации. Однако Вашингтон пока не создал единую систему надзора.
Прежде чем добиваться международных договоренностей, США необходимо определить, кто будет контролировать передовые разработки, какую информацию компании должны раскрывать и какие полномочия получат регуляторы.
