Спор американских властей и разработчика искусственного интеллекта Anthropic из-за ограничений доступа к новой модели Claude Fable 5 показал проблему, которая выходит за рамки безопасности технологий: эксперт Пол Форд считает, что чрезмерный контроль над ИИ, в конце концов, затронет принципы свободы слова.
9 июня Anthropic открыла доступ к модели Claude Fable 5, которая превосходила предыдущие версии в работе с компьютерным кодом. Через несколько дней администрация президента США Дональда Трампа запретила использовать модель людям, не являющимся гражданами США, сославшись на возможные риски для безопасности.
Компания не могла определить гражданство пользователей и получила около 90 минут на выполнение требования властей, поэтому полностью отключила доступ к модели. Позже ограничения сняли после того, как правительство заявило, что Anthropic предприняла необходимые меры для контроля угроз. К 1 июля Fable снова стала доступна.
Пол Форд, технолог и публицист, отметил, что поддерживает регулирование искусственного интеллекта, однако ситуация с Anthropic заставила его задуматься о том, не превращаются ли меры безопасности в форму цензуры. Большие языковые модели не обладают сознанием, а представляют собой инструменты, созданные на основе огромного массива данных. Он сравнил ИИ с программным обеспечением, результаты работы которого должен оценивать и использовать человек.
По словам Форда, постепенное внедрение правил для ИИ полезно, однако государственные ограничения должны оставаться прозрачными и применяться только в необходимых случаях. Произвольное отключение доступа к технология создаст риск для свободного обмена информацией.
Эксперт сравнил нынешнюю ситуацию с дискуссиями вокруг регулирования шифрования в США в 1990-х годах. Тогда власти пытались ограничить экспорт криптографических технологий, однако противники таких мер заявляли, что программный код является формой выражения идей и не должен подвергаться цензуре.
