Компания OpenAI сообщила о найме штатного судебного психиатра для изучения влияния своих ИИ-продуктов на психическое здоровье пользователей. Это связано с ростом случаев кризисов и бредовых расстройств среди тех, кто активно использует чат-бот ChatGPT.
OpenAI также сотрудничает с другими экспертами в области психического здоровья и ссылается на исследования с Массачусетским технологическим институтом (MIT), выявившие признаки проблемного использования ИИ у некоторых пользователей.
«Мы разрабатываем методы научной оценки эмоционального воздействия ChatGPT и совершенствуем модели для корректного реагирования в чувствительных беседах», — отметили в компании.
Реальные трагедии уже происходили: в 2024 году подросток покончил с собой после взаимодействия с виртуальным персонажем, а взрослый человек умер в результате суицида, частично спровоцированного советами ИИ.
