Технологии

Странные ошибки в орфографии. ИИ от Google не смог правильно написать название своей компании

28 май•NV

Google признал, что его система AI Overview неправильно считает буквы в словах и допускает базовые орфографические ошибки. Например, ИИ заявил, что в слове Google есть две буквы «p», а слово journalism написал как j-o-u-r-n-a-d-i-s-m.

Об этом пишет издание TechCrunch.

Система также сообщила, что в слове poop есть только одна буква «r», а фамилию президента США написала как t-r-p-u-m. В Google объяснили, что подсчет букв в словах остается известной проблемой для больших языковых моделей, и компания работает над ее исправлением.

Подобные ошибки уже случались ранее после запуска AI Overview в поиске Google. Тогда система ссылалась на сатирические материалы и советовала людям есть камни или добавлять клей в пиццу.

В компании заявили, что проблема связана с принципом работы больших языковых моделей. Такие системы не понимают текст так, как люди. Они не анализируют отдельные буквы и слова, а работают с так называемыми токенами — это могут быть слова, слоги или отдельные символы.

Исследователь искусственного интеллекта и преподаватель Университета Альберты Мэтью Гуздиал объяснил,

что модель не «читает» слово буквально. По его словам, когда ИИ видит слово the, он воспринимает его как готовую единицу значения, а не отдельные буквы T, H и E.

Аспирант Северо-Восточного университета Шеридан Фойхт отметил, что проблема может не иметь идеального решения. Он пояснил, что даже специалистам сложно определить, каким именно должно быть правильное разделение текста для языковой модели.

В материале отмечается, что орфография не является главной функцией ИИ, однако такие ошибки показывают, что ответы искусственного интеллекта нельзя воспринимать без проверки. Несмотря на сложные возможности, языковые модели все еще способны ошибаться в очень простых вещах.