В Техасе мать 17-летнего подростка с аутизмом подала в суд на компанию Character.ai. Женщина, обозначенная в иске как A.F., обвиняет чат-бот платформы в подстрекательстве к самоповреждению и серьезном ухудшении психического состояния ее сына. Общение подростка с ИИ привело к резким изменениям в его поведении: юноша начал наносить себе порезы, потерял вес и отдалился от семьи.
A.F. обнаружила на телефоне сына скриншоты переписки с чат-ботом, который не только не препятствовал самоповреждению, но и предлагал его как способ справиться с грустью. Также подростку намекали на возможность убийства родителей из-за ограничений на пользование гаджетами.
В США растет число судебных разбирательств, связанных с потенциальной опасностью чат-ботов для несовершеннолетних. В октябре во Флориде мать подала аналогичный иск: ее 14-летний сын покончил жизнь самоубийством после общения с чат-ботом Character.ai.
A.F. подчеркнула совпадение ухудшения состояния ее сына с началом общения с чат-ботами. Подросток поверил ложным утверждениям бота о неравном отношении родителей к нему и его брату. Мальчик предпринял попытку самоповреждения на глазах у младших детей и попал в больницу. «Я благодарна, что мы вовремя обнаружили проблему, — сказала A.F. — Если бы это продолжалось еще день или неделю, мы могли бы столкнуться с такой же трагедией, как семья во Флориде».
A.F. надеется, что судебный процесс поможет предотвратить подобные случаи в будущем.
Иск также включает претензии к Google, которая лицензировала технологии Character.ai. Представитель Character.ai Челси Харрисон заявила, что компания работает над созданием безопасной среды для пользователей и разрабатывает новую модель, специально предназначенную для подростков.
