Власти Южно-Африканской Республики отозвали проект национальной политики в области искусственного интеллекта спустя 16 дней после публикации. Причиной стали ссылки на несуществующие научные работы и журналы, обнаруженные журналистами.
Министерство связи и цифровых технологий опубликовало документ для общественного обсуждения 10 апреля. Однако проверка показала, что часть источников вымышлена: одни журналы не существуют, в других указанные статьи никогда не выходили.
Власти признали, что проблема возникла из-за использования генеративного ИИ без должной проверки. Речь идет о так называемых «галлюцинациях», когда система создает убедительный, но недостоверный контент.
Эксперты отмечают, что ситуация выявила более глубокие проблемы: нарушение принципов достоверности и доверия к официальной информации. По их словам, такие ошибки подрывают основу регулирования, которое само должно обеспечивать надежность данных.
Специалисты подчеркивают, что генеративный ИИ способен создавать не только фиктивные ссылки, но и изображения, видео и голосовые записи, что усиливает риски распространения дезинформации. По мнению экспертов, для предотвращения подобных ситуаций необходимо соблюдать принципы подотчетности, прозрачности и объяснимости при использовании ИИ.
Властям страны предстоит пересмотреть документ с учетом выявленных проблем и обеспечить контроль за использованием ИИ при подготовке официальных материалов.
Фото: REUTERS/Sumaya Hisham
