Дослідження OpenAI показало, чому ChatGPT та інші великі мовні моделі іноді «вигадують» відповіді - явище, відоме як «галюцинації». У статті вчені доводять, що це не просто помилки тренування, а математично неминучий ефект роботи моделей.
Пояснюється, що ШІ відповідаєна запитання, прогнозуючи слова по черзі. Це природно призводить до помилок, які накопичуються у реченнях. Навіть якщо дані для тренування були б ідеальні, галюцинації все одно залишаться. Як кажуть автори, «рівень помилок при складанні речень щонайменше вдвічі вищий, ніж при простих запитаннях «так/ні».
Виявилось, що чим рідше факт зустрічається в тренувальних даних, тим частіше ШІ помиляється. Наприклад, коли дослідники запитали дату народження одного з авторів статті, DeepSeek-V3 назвав три різні неправильні дати: «03−07», «15−06» і «01−01». Правильна дата була восени, тож жодна відповідь не була близькою.
Читайте також:
Зайнятість знизилась на 13%. Штучний інтелект скорочує стартові робочі місця для молоді Ще одна проблема — оцінювання моделей на тестах. Більшість стандартних тестів «карають» ШІ за чесну відповідь «Я не знаю» так само,
як за неправильну. Це змушує системи завжди «вгадувати», що збільшує кількість помилок.
OpenAI пропонує рішення: ШІ має оцінювати власну впевненість перед відповіддю і давати відповідь тільки, якщо впевненість достатньо висока. Наприклад: «Відповідай, лише якщо ти більше ніж на 75% впевнений». Це зменшило б галюцинації, але створило б нову проблему: користувачі звикли до впевнених відповідей і можуть покинути систему, якщо вона почне часто казати «не знаю».
Читайте також:
Змусити фарму рухатися швидше. Штучний інтелект покаже свою здатність прискорювати розроблення ліків — The Economist Ще один бар'єр — обчислювальні витрати. Щоб оцінювати впевненість, моделі треба перевіряти кілька варіантів відповіді, що значно збільшує витрати на обробку запитів. Це працює в критичних сферах, наприклад, в медицині чи фінансах, де помилки дорогі, але для звичайних користувачів це економічно невигідно.
Як підсумок, дослідження OpenAI показує: галюцинації в ШІ залишатимуться, поки бізнес-мотивації для споживчих застосунків не зміняться.
Читайте також:
