Популярні чат-боти із штучним інтелектом після тривалого спілкування з людьми починають робити більше помилок, ніби «тупішають» у процесі віртуальної розмови.
Про це свідчить нове дослідження, проведене Microsoft Research спільно із Salesforce, повідомляє Windows Central.
Аналіз понад 200 тисяч розмов із чат-ботами великих мовних моделей демонструє, що сумарний рівень помилок може зрости більш ніж на 100%. Користувачі регулярно скаржаться на «галюцинації» і невірні відповіді.
Реклама
Нова наукова робота підтверджує: навіть найрозумніші нейромережі нерідко «губляться» у розмові, коли завдання розбивається на природний діалог із кількох реплік.
Під час експерименту експерти вивчили діалоги користувачів із провідними чат-ботами, включно із GPT-4.1, Gemini 2.5 Pro, Claude 3.7 Sonnet та DeepSeek R1.
Якщо при одиночних запитах такі моделі демонструють практично 90% успішних відповідей, то у тривалих розмовах з уточненнями та додатковими питаннями показник падає до 65%. Іншими словами, з ускладненням контексту ефективність помітно знижується.
Дослідники виявили ще одне цікаве явище — «роздування відповідей».
У багатоходових діалогах відповіді моделей ставали довшими на 20–300%.
Реклама
Разом з обсягом зростала і кількість припущень та «галюцинацій», які потім закріплювалися в контексті розмови та використовувалися як основа для подальших реплік.
При цьому навіть моделі з розширеними токенами роздуми, такі як OpenAI o3 і DeepSeek R1, не змогли повністю уникнути цього ефекту.
Автори підкреслюють, що різке погіршення якості в довгих бесідах не означає, що моделі «тупішають» у буквальному значенні — швидше, це вказує на їхню обмеженість у утриманні та правильній інтерпретації великого обсягу інформації під час діалогу.
Як зазначає Windows Central, такі особливості слід враховувати під час використання чат-ботів у продуктах, орієнтованих на тривалу взаємодію з користувачем. Можливі помилки та галюцинації можуть ввести людей в оману, особливо якщо користувач покладається на ШІ як джерело точної та критично важливої інформації.
Реклама
Читайте також
-
Дата публікації 10:49, 17.02.26 Категорія Наука та IT Кількість переглядів 134k Помста машин: штучний інтелект атакував людину та намагався зруйнувати її кар’єру Автор публікації
Дар’я Щербак
Нагадаємо, раніше американські науковці за результатами онлайн-опитування дійшли висновку, що часте спілкування з чат-ботами зі штучним інтелектомможе становити серйозну загрозу для ментального здоров’я. У людей, які щоденно використовують подібні технології, фіксують значно вищий ризик появи симптомів депресії, тривожності та дратівливості.
Читайте також
-
Дата публікації 21:07, 12.02.26 Категорія Вона Кількість переглядів 641 Обережно з ШІ — як "улесливі" чатботи змінюють наше уявлення про себе Автор публікації
Станіслава Бондаренко
-
Дата публікації 14:08, 12.02.26 Категорія Наука та IT Кількість переглядів 515 Meta запатентувала ШІ, який продовжить ваше життя у соцмережах після смерті Автор публікації
Кирило Шостак
-
Дата публікації 23:34, 21.01.26 Категорія Цікaвинки Кількість переглядів 2390 Кінець приватності та життя на Марсі: як штучний інтелект бачить світ через 50 років Автор публікації
Ірина Ігнатова
-
Дата публікації 09:37, 06.01.26 Категорія Наука та IT Кількість переглядів 11k Що б зробив штучний інтелект, якби на день став людиною: відповідь шокувала Автор публікації
Дар’я Щербак
