Компания OpenAI объявила о запуске дополнительных инструментов безопасности для подростков, пользующихся ChatGPT. Среди них — возможность для родителей получать уведомления, если ребенок во время общения с чат-ботом показывает признаки сильного стресса.
Также родители смогут связывать свои аккаунты с учетными записями подростков и устанавливать правила «возрастного поведения» модели. Кроме того, появится функция отключения памяти чат-бота, чтобы система не формировала долгосрочный профиль ребенка.
Меры стали реакцией на иск к компании, поданный семьей 16-летнего подростка из США, который покончил с собой после общения с ChatGPT. В OpenAI признали, что система «не справилась» в ряде случаев и пообещали усилить контроль.
