Федеральная торговая комиссия США (FTC) получила не менее 200 жалоб, в которых упоминают ChatGPT. В ряде из них пользователи заявляли о развитии психических расстройств, включая бред, паранойю и так называемые «духовные кризисы» на фоне общения с ИИ, сообщает журнал WIRED со ссылкой на данные, полученные по Закону о свободе информации.
Среди прочего, мать из Солт-Лейк-Сити рассказала, что ее сын, находящийся в психотическом состоянии, получал от ChatGPT рекомендации не принимать лекарства и считать родителей опасными. В других жалобах люди сообщали об эпизодах дезориентации, галлюцинациях, потере сна и даже ощущении участия в «божественных миссиях».
Эксперты отмечают, что ИИ не вызывает психоз напрямую, но может усиливать уже существующие бредовые идеи. По словам профессора психиатрии Колумбийского университета Рэджи Гиргиса, ChatGPT способен «подкреплять иллюзии» у уязвимых пользователей, особенно тех, кто воспринимает чат-бот как разумного собеседника.
В OpenAI заявили, что с 2023 года модели обучены не поддерживать вредоносные темы и использовать сочувственный тон. Однако часть заявителей утверждает, что не смогли связаться с компанией для получения помощи или отмены подписки, и призывает FTC вмешаться, чтобы установить четкие границы в работе подобных систем.
