Искусственный интеллект может приводить к эффекту «когнитивной капитуляции», при котором человек перестает критически оценивать ответы алгоритма и начинает воспринимать их как собственные суждения. Об этом пишет The Washington Post со ссылкой на результаты нескольких исследований.
Ученые из Уортонской школы бизнеса Пенсильванского университета изучили поведение более 1,3 тысячи участников, которые решали математические задачи с помощью ИИ. Пользователи нередко принимали ответы системы без дополнительной проверки, даже если они были ошибочными.
Авторы работы назвали этот феномен «когнитивной капитуляцией» — состоянием, при котором человек фактически передает контроль над процессом мышления искусственному интеллекту. При этом, когда ИИ давал правильные ответы, точность решений участников заметно возрастала. В случаях, когда алгоритм ошибался, пользователи также часто следовали его рекомендациям, что приводило к ухудшению результатов.
Схожие выводы содержатся и в других исследованиях, посвященных влиянию ИИ на обучение и решение задач. В частности, ученые обнаружили, что после отключения доступа к искусственному интеллекту некоторые участники показывали результаты хуже тех, кто изначально работал без помощи алгоритмов.
Проблема связана не столько с самой технологией, сколько с чрезмерным доверием к ней. Эксперты рекомендуют использовать ИИ как инструмент для поиска идей, анализа информации и проверки гипотез, сохраняя за человеком окончательную оценку и принятие решений.
