Модели искусственного интеллекта типа ChatGPT овладевают языком не столько благодаря абстрактным правилам, сколько через "воспоминания" об увиденных примерах — к такому выводу пришли ученые из Оксфордского университета и Института искусственного интеллекта Аллена. Они описали эксперимент, в котором сравнили выбор людей и открытой большой языковой модели (LLM) GPT-J при образовании существительных из вымышленных прилагательных на -ness или -ity.
Об этом пишет Tech Xplore.
Как лингвисты проверили способность ИИ к обобщениюКоманда создала 200 вымышленных английских слов вроде "cormasive", и "friquish" и просила модель выбрать форму "cormasiveness" или "cormasivity". Ответы GPT-J совпали с человеческими там, где искусственный интеллект находил аналогии с реальными словами: "friquish" — "friquishness" по сходству с "selfish" — "selfishness", тогда как "cormasive" тянулось к "sensitive" — "sensitivity". Две классические когнитивные модели — правил и аналогий — показали, что поведение LLM ближе именно ко второму подходу.
Кроме того, оказалось, что GPT-J "помнит" каждый пример из тренировочных текстов:
ее прогноз для почти 50 000 настоящих прилагательных точно отражал статистику корпуса. Разница с человеком заключается в том, что мы храним в памяти обобщенные словарные формы и сразу видим, что "friquish" еще не принадлежит к языку, тогда как модель работает со всеми отдельными вхождениями без их объединения.
"LLM генерирует впечатляющие тексты, но мыслит менее абстрактно, чем человек, поэтому и требует гораздо больше данных для обучения", — объясняет профессор Оксфордского университета Джанет Пьеррамбер.
Соавтор Валентин Гофман из Ai2 добавляет, что результаты помогут создавать более эффективные и понятные системы ИИ.
Напомним, сотрудникам Microsoft запрещено устанавливать и использовать приложение DeepSeek на служебных устройствах. Об этом во время слушаний в Сенате США сообщил президент и вице-председатель корпорации Брэд Смит. По его словам, запрет связан с тем, что приложение хранит данные на территории Китая, а ответы чатбота могут быть под влиянием "китайской пропаганды".
Также мы писали, что старший вице-президент Apple по интернет-сервисам Эдди Кью заявил в суде, что к 2035 году людям, вероятно, уже не понадобится iPhone. По его мнению, развитие искусственного интеллекта способно изменить технологический ландшафт и вывести на первый план новых участников рынка.
