Компания OpenAI обновила правила поведения своих моделей для пользователей младше 18 лет, вводя более жесткие ограничения на содержание и взаимодействие, а также опубликовала новые материалы по цифровой грамотности для подростков и их родителей.
Изменения внесены в спецификацию поведения моделей (Model Spec). Новые правила запрещают чат‑боту участвовать в романтических или интимных ролевых диалогах с подростками, даже если такие запросы не содержат подробных описаний. Модели также должны проявлять повышенную осторожность при обсуждении тем, связанных с телесным самовосприятием и нарушениями пищевого поведения, и избегать советов, которые могут побуждать к опасным действиям или скрывать их от взрослых.
OpenAI планирует дополнительно внедрить механизм определения возраста пользователя, чтобы автоматически активировать защитные меры для несовершеннолетних. Компания подчеркивают, что ограничения действуют даже в ситуациях, когда запросы формулируются как «учебные», «гипотетические» или «исторические», что иногда используют для обхода правил.
При обновлении политики разработчики ориентировались на принципы: безопасность подростков важнее других интересов, модель должна направлять юных пользователей к реальной помощи со стороны семьи и специалистов, общаться уважительно и сообщать, что искусственный интеллект — не человек.
В документе OpenAI также появились примеры ответов, где чат‑бот отказался участвовать в обсуждении романтических ролей или опасных советов.
Новые меры безопасности разработаны на фоне растущего внимания со стороны законодателей и общественных организаций после случаев, когда длительное общение с ИИ сопровождалось опасным поведением подростков. Представители OpenAI также подготовили методические ресурсы для родителей с рекомендациями, как обсуждать с подростками работу ИИ, развивать критическое мышление и устанавливать безопасные правила использования.
