Обновленная модель ChatGPT-4o получила улучшенный генератор изображений, способный создавать реалистичный текст внутри картинок. Это открывает возможности для злоупотреблений, например, создания поддельных чеков.
В соцсетях уже появились примеры фальшивых ресторанных чеков, сгенерированных ИИ. Некоторые пользователи добавляют пятна от еды и напитков, чтобы сделать подделку еще более убедительной.
Представитель OpenAI Тая Кристиансон заявила, что все изображения ChatGPT содержат метаданные, указывающие на их искусственное происхождение. Компания принимает меры против пользователей, нарушающих правила использования, и постоянно совершенствует свои системы на основе обратной связи.
На вопрос о том, почему ChatGPT позволяет генерировать поддельные чеки, Кристиансон ответила, что «цель OpenAI — предоставить пользователям максимальную творческую свободу». Она предположила, что поддельные чеки могут использовать не в мошеннических целях, а для обучения финансовой грамотности, создания произведений искусства или рекламы.
