Исследователи из Кембриджского университета предупреждают: инструменты искусственного интеллекта могут стать мощным инструментом манипуляции интернет-аудиторией. В их исследовании говорится о появлении нового феномена — «экономики намерений», где прогнозы поведения людей становятся объектом торговли.
Что такое «экономика намерений»?
«Экономика намерений» — это следующий этап эволюции цифрового маркетинга. Если сегодня соцсети и другие платформы соревнуются за внимание пользователей, показывая рекламу, то в ближайшем будущем акцент сместится на прогнозирование и манипуляцию намерениями. ИИ-инструменты смогут не только предсказывать, что вы планируете — от выбора отеля до голосования на выборах, — но и активно влиять на эти решения.
По словам доктора Джонни Пенна из Кембриджского центра Леверхалма по изучению будущего интеллекта (LCFI), это может привести к масштабным последствиям для свободы воли и рыночной конкуренции.
«Если не регулировать, экономика намерений превратит ваши мотивы в новую валюту. Это будет золотая лихорадка для тех, кто нацелен на управление человеческими устремлениями», — считает он.
Как это работает?
Технология больших языковых моделей (LLM), лежащая в основе ChatGPT, позволяет анализировать поведенческие и психологические данные пользователей. Эти модели способны генерировать персонализированные сообщения, направленные на достижение конкретных целей, например, продать билет в кино или повлиять на политические взгляды.
В исследовании описывают сценарии, где ИИ может спрашивать: «Вы не думали посмотреть такой-то фильм сегодня вечером?», а также уточнять: «Вы упомянули, что чувствуете себя перегруженным, может, заказать вам билет в кино?»
Эти рекомендации будут основываться на персональных данных: словарный запас, возраст, предпочтения и психологический профиль.
Авторы исследования подчеркивают, что подобные технологии могут угрожать ключевым институтам, включая свободные выборы и честную рыночную конкуренцию. Уже сейчас рекламодатели используют генеративные ИИ для создания персонализированных кампаний. Например, ИИ-модель Meta под названием Cicero достигла уровня человеческой компетенции в настольной игре Diplomacy, где успех зависит от умения прогнозировать намерения оппонентов.
«Современные модели способны выяснить, каково ваше намерение, ваше желание и что вы пытаетесь сделать, учитывая контекст, и представить вам информацию наилучшим образом», — отметил генеральный директор Nvidia Дженсен Хуанг.
Эти способности могут превратить ИИ в инструмент влияния, если регуляторы не начнут действовать.
В будущем компании смогут продавать «намерения» пользователей — например, забронировать ресторан или рейс. Такой подход создаст динамичный и персонализированный рынок, где данные о поведении и мотивах станут главным активом.
