Китайское управление по киберпространству опубликовало проект новых правил для систем искусственного интеллекта, способных имитировать человеческие черты и вести эмоциональное общение с пользователями. Документ направили на общественное обсуждение.
Новые нормы охватывают ИИ-сервисы, которые взаимодействуют с людьми с помощью текста, аудио, видео или изображений и показывают стили общения, характерные для человека. Авторы проекта подчеркивают необходимость отслеживать признаки зависимости и нестабильного эмоционального состояния у пользователей. В таких случаях сервисы должны вмешиваться.
Разработчики обязаны обеспечивать безопасность на всех этапах — от анализа алгоритмов до защиты персональных данных. Также власти требуют создать системы мониторинга пользовательских реакций и ограничить вредный контент: запрещено распространять информацию, угрожающую нацбезопасности, пропагандирующую насилие, слухи и непристойные материалы.
