Московский государственный университет и ВТБ создают систему контроля качества для цифровых помощников на базе искусственного интеллекта. Новая модель, получившая рабочее название «этический цензор», проверит ответы ИИ перед тем, как они попадут к клиенту.
Как сообщили в банке, система выявит галлюцинации, ошибки и неточности в ответах нейросетей, используемых в сервисах ВТБ. Разработка базируется на больших языковых моделях и будет встроена поверх уже существующих решений.
По информации ВТБ, ИИ-модель сможет распознавать десятки типов ошибок, что повысит надежность и точность информации. Сейчас ученые МГУ собирают обучающие данные и проводят тестирование. Первые внедрения запланированы на 2026 год.
По оценкам, стоимость проекта составит от 100 до 270 миллионов рублей. В банке считают, что такие инвестиции оправданы: рынок ИИ-решений в России по итогам 2024 года оценивался в 300 миллиардов рублей.
