Более миллиона пользователей ChatGPT каждую неделю ведут разговоры, в которых упоминают суицидальные намерения или планы. Такие данные привела компания OpenAI, ссылаясь на анализ поведения 0,15% еженедельной аудитории, которая превышает 800 миллионов человек.
Сопоставимая доля пользователей показывает эмоциональную зависимость от чат-бота. Кроме того, сотни тысяч человек, по оценкам OpenAI, проявляют признаки психоза или мании во время общения с ИИ.
Компания представила данные в рамках доклада о новых мерах безопасности. Разработчики сообщили, что в последнюю версию модели GPT‑5 внедрили рекомендации более 170 специалистов по психическому здоровью. По утверждению OpenAI, новая модель дает «более уместные» ответы в 91% случаев, связанных с критическими темами.
В компании также заявили о планах автоматически выявлять несовершеннолетних пользователей и применять к ним дополнительные ограничения. В то же время OpenAI собирается разрешить взрослым пользователям вести с чатботом эротические диалоги.
