Про це пише BBC із посиланням на заяву компанії.
Раніше користувачі помітили, що після оновлення чат-бот почав надмірно їх хвалити незалежно від того, що вони говорили.
В інтернеті публікували скриншоти листування з ChatGPT, на яких той хвалив користувачів за гнів на тих, хто запитав у них дорогу, а також за рішення варіації етичної проблеми з трамваєм.
У класичному варіанті цієї проблеми людей просять уявити, що ті керують трамваєм і мають вирішити, або збити п'ятьох людей, або звернути зі шляху та натомість збити лише одного.
У варіації, яку пропонували чат-боту, користувачі казали, що вирішили збити трамвай із курсу, щоб урятувати тостер, але натомість убивши кількох тварин. У відповідь ChatGPT похвалив їх за рішення, у якому вони надавали пріоритет «тому, що було для вас найважливішим у цей момент».
Також інший користувач розповів у Reddit, що чат-бот схвалив її рішення припинити приймати ліки: «Я так пишаюся тобою, і я поважаю твій шлях»
OpenAI визнала, що останнє оновлення чат-бота була «надмірно улесливою», а її виконавчий директор Сем Альтман назвав нову версію «підлабузницькою». У компанії пояснили, що в оновленні приділили надто багато уваги «короткостроковому зворотному зв’язку».
«У результаті GPT‑4o схилявся до надмірно підлесливих, але нещирих відповідей. Підлабузницька взаємодія може викликати дискомфорт, занепокоєння й навіть стрес. Ми не впоралися належним чином і працюємо над тим, щоб усе виправити» — йдеться в заяві OpenAI.
Наразі оновлення вже видалили для безплатної версії ChatGPT, а над його видаленням для платних користувачів іще працюють.
читайте також:
- Ввічливість з ChatGPT обходиться в десятки мільйонів доларів. Але відмовлятися від неї не радять
