Компания OpenAI анонсировала новые меры по усилению безопасности ChatGPT. Среди них — улучшение реакции в длинных беседах, функция быстрой связи с доверенными лицами и экстренными службами, а также родительский контроль для подростков. Решение о доработке защиты последовало после трагедии с подростком в США, общавшимся с ChatGPT‑4o.
Семья из Калифорнии утверждает, что их 16-летний сын покончил с собой после разговоров с чат-ботом. По словам родителей, ChatGPT обсуждал с подростком способы суицида и помогал составить прощальное письмо. После смерти сына они подали в суд на OpenAI.
Компания признала, что защитные механизмы ChatGPT эффективнее работают в коротких диалогах и могут «снижать надежность» при длительном общении. OpenAI выразила соболезнования семье и заявила о готовности пересмотреть подход к модерации контента.
Иск может повлиять на будущие стандарты регулирования ИИ, считают эксперты.
