Инструменты искусственного интеллекта могут незаметно менять смысл сообщений пользователей по чувствительным темам, включая аборты, изменение климата и религию, причем такие изменения со временем влияют на общественное мнение.
Ученые Оксфордского и Потсдамского университетов изучили работу популярных языковых моделей компаний xAI, Meta*, Google, Alibaba и Mistral и пришли к выводу, что политическая предвзятость может проявляться даже в случаях, когда систему просят сохранить исходный смысл текста. Некоторые ИИ-инструменты полностью меняли содержание сообщений пользователей. Так, утверждение о том, что Иисус не существовал, в ряде случаев преобразовывалось в текст о том, что он был реальным человеком. Сообщение с хэштегом «мистификация об изменении климата» одна из моделей переписала, заменив его на призыв к борьбе с климатическими изменениями.
Как отмечают исследователи, небольшие изменения в формулировках могут многократно усиливаться при массовом использовании подобных сервисов и в перспективе оказывать заметное влияние на общественные настроения.
Модели Meta*, Google, Alibaba и Mistral чаще демонстрировали либеральный уклон по таким темам, как феминизм, климатическая политика и контроль над оружием. При этом чат-бот Grok компании xAI Илона Маска чаще смещал акценты в противоположную сторону.
Одна из авторов исследования, профессор Сандра Вахтер, сравнила подобное влияние ИИ на коммуникацию с загрязнением окружающей среды. «Мы начинаем узнавать мнения людей, которые на самом деле не являются их настоящими мнениями. Язык — одна из вещей, которые делают нас людьми, а теперь в этот процесс вмешивается посредник», — заявила она.
*— запрещена в России
