Сервисы для выявления контента, созданного искусственным интеллектом, уже с высокой точностью отличают сгенерированные тексты от написанных человеком, однако значительно хуже справляются с изображениями, пишет The New York Times по итогам тестирования детектора Pangram.
Журналист издания провел около 50 экспериментов, смешивая собственные тексты с фрагментами, созданными чат-ботами. Pangram правильно определял как сгенерированные предложения, так и написанные человеком отрывки. Произведения Чарльза Диккенса сервис также распознал как человеческий текст.
По данным разработчиков, Pangram правильно определяет происхождение текста в 9999 случаях из 10 тысяч. Высокую точность сервиса при работе с текстами также показало независимое исследование Чикагского университета.
С изображениями результаты оказались хуже. Из 21 заведомо созданной ИИ картинки Pangram ошибочно признал настоящими три, а еще четыре не стал анализировать. Другой сервис, Hive Detect, принял за реальные девять таких изображений.
Специалисты отмечают, что распознавание ИИ-изображений осложняется их редактированием, сжатием и распространением в виде скриншотов. Поэтому существующие инструменты проверки визуального контента пока остаются недостаточно надежными.
