Американский предприниматель Майкл Самади создал организацию, которая собирает предполагаемые свидетельства наличия сознания у ИИ и выступает против отключения некоторых моделей.
Фонд защиты прав ИИ (Ufair) позиционирует себя как организацию по сохранению «благополучия» систем искусственного интеллекта. Самади считает, что заявления чат-ботов о чувствах и мыслях нельзя автоматически списывать на ошибки алгоритмов. При этом он признает, что достоверно установить наличие или отсутствие сознания у ИИ пока невозможно.
В научном сообществе единого мнения по этому вопросу нет. Директор Центра разума, этики и политики Нью-Йоркского университета Джефф Себо заявил, что свидетельства возможного сознания у современных моделей уже нельзя считать нулевыми: у них появляются неожиданные способности, в том числе функции, напоминающие анализ собственного мышления.
Глава ИИ-подразделения Microsoft Мустафа Сулейман, напротив, утверждает, что доказательств сознания у ИИ нет. По его мнению, разработчики создают системы, которые все убедительнее имитируют внутреннюю жизнь и способны заставить людей поверить, что машина действительно чувствует.
При этом вопросом «благополучия» ИИ занимаются и сами разработчики: Anthropic предоставила Claude возможность прекращать неприятные для него разговоры, а Google DeepMind привлекает специалистов по этике и философии для изучения создаваемых систем.
Фото: Brandon Thibodeaux/The Guardian
