Пользователи больше доверяют системам искусственного интеллекта, которые показывают компетентность и выбирают стиль общения в зависимости от ситуации, чем чат-ботам, просто старающимся выглядеть дружелюбными, показало исследование ученых из Шанхайского университета Цзяо Тун.
Авторы работы провели эксперимент с участием 447 человек и изучили, как стиль общения ИИ, его моральные оценки и серьезность последствий решений влияют на уровень доверия пользователей. Исследователи сравнили чат-ботов с теплой и эмпатичной манерой общения с системами, которые делали акцент на компетентности, логике и обоснованности решений. Они также анализировали реакцию участников на различные моральные дилеммы с низкими и высокими рисками.
Результаты показали, что дружелюбный стиль общения сам по себе почти не повышает доверие к искусственному интеллекту. Гораздо большее значение имеет соответствие между тем, как ИИ общается, и тем, какое решение он предлагает в конкретной ситуации.
В ситуациях с серьезными последствиями участники чаще доверяли чат-ботам, которые показывали компетентность, ответственность и логически объясняли свои решения. В менее значимых сценариях пользователи положительнее воспринимали более теплую и эмпатичную манеру общения.
По мнению авторов исследования, результаты показывают, что разработчикам не стоит использовать единый стиль общения для всех задач. В системах, которые помогают принимать важные решения, пользователи ожидают прежде всего компетентности и обоснованности рекомендаций, в менее критичных ситуациях большее значение приобретают эмпатия и дружелюбие.
