Распространение больших языковых моделей может изменить не только стиль общения людей, но и их мышление, считают исследователи Ада Палмер и Брюс Шнайер.
По их оценке, модели обучаются преимущественно на письменной речи и почти не учитывают живое устное общение. В результате пользователи перенимают упрощенные и стандартизированные языковые конструкции, с которыми сталкиваются при взаимодействии с ИИ.
Одним из эффектов может стать изменение повседневной речи. Авторы приводят пример исследования 2022 года: дети, регулярно использующие голосовых помощников вроде Siri и Alexa, начинают говорить более резким и командным тоном, ожидая немедленного выполнения просьб.
Кроме того, тексты, созданные ИИ, сужают словарный запас. По данным Университета Ла-Коруньи, машинная речь использует более ограниченный набор слов и стандартную длину предложений — в среднем 12–20 слов, теряя при этом эмоциональные элементы живого общения.
Авторы также обращают внимание на особенности ответов чат-ботов. Например, на фразу «Я ненавижу Бет!» система дает длинный формализованный ответ с подтверждением эмоций и уточняющими вопросами, в реальном диалоге реакция была бы значительно короче и не «такой принимающей». По их мнению, регулярное взаимодействие с такими шаблонами может сделать их привычными для пользователей.
Отдельный риск связан с тем, что модели часто соглашаются с пользователем. Это усиливает когнитивные искажения и формирует уверенность в ошибочных суждениях.
