Система AI Overview от Google начала допускать ошибки при написании слов по буквам и подсчете символов, после чего компания признала, что подобные сбои остаются одной из известных проблем больших языковых моделей.
Пользователи заметили, что ИИ Google неверно определял количество букв в простых словах и ошибался при написании слов по буквам. Например, система утверждала, что в слове Google две буквы P, а слово journalism писала как j-o-u-r-n-a-d-i-s-m.
Подобные ошибки давно стали своеобразным тестом для нейросетей. Несмотря на способность писать код и решать сложные задачи, многие ИИ до сих пор плохо справляются с базовой орфографией. Ученые объясняют это особенностями архитектуры больших языковых моделей. Такие системы воспринимают текст не как набор букв и слов, а как последовательность токенов — числовых представлений фрагментов текста. То есть модель понимает значение слова целиком, но не анализирует отдельные буквы внутри него.
Ранее Google уже приходилось исправлять AI Overview после того, как система советовала пользователям есть камни и добавлять клей в пиццу, ссылаясь на сатирические публикации и сообщения из Reddit.
