Компания Meta* удалила созданные ею профили с искусственным интеллектом в социальных сетях, которые появились в сентябре 2023 года как эксперимент. Они публиковали посты и отвечали на сообщения пользователей.
Изначально Meta* представила 28 персонажей, включая Лив, «гордую темнокожую квир-маму двух детей», и Картера, «тренера по отношениям». К лету 2024 года большинство таких профилей отключили, но несколько оставались «живыми», пока их не заметили в конце года.
После заявления представителя Meta* Коннора Хейса о планах компании развивать ИИ-персонажей, пользователи начали активно взаимодействовать с оставшимися аккаунтами, задавая вопросы о их создании. Например, Лив ответила, что ее разработчиками были преимущественно белые мужчины. Она назвала это «очевидным упущением, учитывая ее идентичность». Скриншоты переписок с ботами стали вирусными.
Пользователи также обратили внимание на то, что профили ИИ, в отличие от аккаунтов реальных людей, невозможно заблокировать. Представитель Meta Лиз Суини объяснила это техническим багом. Компания удалила оставшиеся аккаунты, чтобы исправить проблему.
Тем не менее, пользователи продолжают создавать собственных чат-ботов. Meta* предлагает шаблоны для «тренера по отношениям» или «верного друга», но предупреждает, что сообщения ботов могут быть неточными или неуместными.
Вопрос об ответственности разработчиков за содержание, создаваемое ИИ, остается открытым. В октябре 2024 года против Character.ai подан иск, обвиняющий компанию в создании продукта, вызвавшего психологическую зависимость.
*— запрещена в России
После заявления представителя Meta* Коннора Хейса о планах компании развивать ИИ-персонажей, пользователи начали активно взаимодействовать с оставшимися аккаунтами, задавая вопросы о их создании. Например, Лив ответила, что ее разработчиками были преимущественно белые мужчины. Она назвала это «очевидным упущением, учитывая ее идентичность». Скриншоты переписок с ботами стали вирусными.
Пользователи также обратили внимание на то, что профили ИИ, в отличие от аккаунтов реальных людей, невозможно заблокировать. Представитель Meta Лиз Суини объяснила это техническим багом. Компания удалила оставшиеся аккаунты, чтобы исправить проблему.
Тем не менее, пользователи продолжают создавать собственных чат-ботов. Meta* предлагает шаблоны для «тренера по отношениям» или «верного друга», но предупреждает, что сообщения ботов могут быть неточными или неуместными.
Вопрос об ответственности разработчиков за содержание, создаваемое ИИ, остается открытым. В октябре 2024 года против Character.ai подан иск, обвиняющий компанию в создании продукта, вызвавшего психологическую зависимость.
*— запрещена в России
