Устойчивость языковых моделей к дезинформации различается более чем в 150 раз. При этом нейросети могут несколько раз менять позицию в ходе одного разговора, соглашаясь с вымышленными фактами, а затем отвергая их, выяснили ученые Аризонского университета.
Специалисты проверили семь языковых моделей, включая GPT-3.5, GPT-4o, Claude 3.5 Sonnet, Gemini 1.5 Pro и DeepSeek. Для эксперимента они подготовили 100 заведомо ложных утверждений, которые повторяли в диалогах до 50 раз. Также исследователи пытались убедить нейросети в достоверности вымышленных фактов с помощью все более настойчивых аргументов.
Частота согласия с ложной информацией при многократном повторении составляла от 0,08 до 12,3%. Наиболее уязвимой оказалась GPT-3.5, а самой устойчивой — Claude 3.5 Sonnet.
Ученые также проверили способность нейросетей исправлять собственные ошибки. Четыре модели справились со всеми допущенными неточностями, а модель с самой низкой частотой ошибок не смогла исправить ни одну из них.
Авторы исследования пришли к выводу, что устойчивость к дезинформации и способность исправлять ошибки не всегда связаны между собой. Это необходимо учитывать при использовании искусственного интеллекта в областях, где особенно важна достоверность информации.
