ИИ-двойники оказались лишь немного точнее обычной языковой модели при прогнозировании ответов конкретного человека, показало исследование, опубликованном в журнале Science Advances.
Ученые провели 19 экспериментов и сравнили ответы людей с ответами их цифровых копий по 164 показателям — от отношения к алгоритмам при найме на работу до готовности делиться недостоверными новостями. Для каждого цифрового двойника использовали ответы его реального прототипа более чем на 500 вопросов о личности, способностях, предпочтениях и демографических характеристиках.
Несмотря на большой объем персональных данных, средняя корреляция между ответами людей и их ИИ-двойников составила лишь около 0,20. Подробный профиль человека также почти не улучшил точность по сравнению с базовой моделью без персональной информации.
Исследователи выявили пять систематических искажений. ИИ-двойники хуже передавали индивидуальные различия между людьми, сильнее опирались на демографические стереотипы и точнее имитировали людей с высоким уровнем образования и дохода.
Кроме того, копии проявляли собственные ценностные перекосы. Например, они относились к алгоритмическому найму благосклоннее реальных людей и считали интернет-таргетинг менее серьезным вмешательством в частную жизнь.
ИИ-двойники также оказались чрезмерно рациональными: они чаще выбирали логически правильные ответы и хуже воспроизводили человеческие ошибки и ограниченность знаний.
Авторы исследования сравнили современные цифровые двойники с «кривыми зеркалами», которые создают иллюзию персонализации, но систематически искажают человеческое поведение. По их мнению, использовать такие модели вместо реальных людей в исследованиях и при принятии важных решений пока преждевременно.
