Юристы компании Anthropic признали, что допустили ошибку в судебных документах, ссылаясь на вымышленную статью, созданную их же искусственным интеллектом Claude. Ошибку обнаружили в ходе разбирательства по иску музыкальных издательств, обвинивших компанию в незаконном использовании текстов песен.
Юрист Ивана Дуканович объяснила суду, что в деле использовали настоящую статью из научного журнала. Однако адвокат попросила чат-бота Claude о помощи, когда прикрепляла сноску на статью к судебным документам. В результате бот сформировал несуществующую в статье цитату и авторов.
«К сожалению, несмотря на то что были предоставлены правильные название публикации, год выпуска и ссылка на источник, цитата содержала неточное название и неверных авторов», — сказала Дуканович.
Иск против Anthropic подали Universal Music Group, Concord и ABKCO. Они утверждают, что тексты песен незаконно использовались для обучения ИИ-модели Claude.
Судья назвала инцидент серьезным, подчеркнув, что «галлюцинации» ИИ — это не просто техническая ошибка. Юристы заявили, что усилили внутреннюю проверку и пообещали избежать подобных ситуаций в будущем.
