Публикации с фейками и сексуализированным ИИ-контентом на TikTok набирают миллиарды просмотров, несмотря на нарушения правил платформы. При этом большинство таких видео не имеют маркировки, свидетельствующей об их искусственном происхождении, отмечают в некоммерческой организации AI Forensics.
Эксперты проанализировали более 43 тысяч публикаций, размещенных на 354 аккаунтах, использующих генеративный ИИ. За месяц этот контент собрал свыше 4,5 миллиарда просмотров. Почти половина роликов никак не обозначена как созданная с помощью ИИ, а менее 2% имеют официальную метку TikTok.
Среди наиболее активных аккаунтов — те, что публиковали до 70 видео в день, часто с антииммигрантскими сюжетами, поддельными новостными выпусками и сексуализированными изображениями женщин, в том числе несовершеннолетних. Некоторые ролики имитировали стиль вещания Sky News и других крупных медиа.
Исследователи указывают на недостаточную модерацию: часть аккаунтов остается активной в течение месяцев, несмотря на очевидные нарушения. После публикации доклада десятки профилей удалили, что может говорить о реакции со стороны платформы.
В TikTok заявили, что не согласны с выводами AI Forensics. Представители компании отметили, что блокируют миллионы ботов, внедряют системы маркировки и дают пользователям возможность самостоятельно регулировать объем ИИ-контента в ленте.
