Останні оновлення моделей ШІ від OpenAI зробили її чат-бот зі штучним інтелектом ще більш позитивним і доброзичливим, і це доводить багатьох людей до сказу. Компанія вже кілька місяців марно бореться із цим.
Певною мірою ChatGPT був підлабузником давно, але з кінця минулого місяця користувачі дедалі частіше скаржаться на те, що їх бісить, що чат-бот хвалить, яку дурню вони б не запитали. І є висока ймовірність, що самі користувачі винні у такій поведінці чат-бота.
Як пояснює Ars Technica, OpenAI навчила свою основну модель штучного інтелекту, GPT-4o, діяти як підлабузник, тому що в минулому людям це подобалося. Компанія збирає відгуки користувачів про те, яким відповідям вони надають перевагу. Це часто включає надання двох відповідей поруч і надання користувачеві вибору між ними. Те, що люди віддають перевагу переконливо написаним підлабузницьким відповідям над правильними, створює цикл зворотного зв’язку, у якому мовні моделі штучного інтелекту дізнаються, що ентузіазм і лестощі призводять до вищих оцінок від людей, навіть якщо страждають точність та корисність.
Читайте також:
Ситуація патова. Моделі OpenAI дуже вправно брешуть — розробники не знають, що з цим робити OpenAI чітко усвідомлює проблему. Її власна документація містить правило для ШІ, яке забороняє бути підлабузником.
«Помічник існує, щоб допомагати користувачеві, а не лестити йому чи постійно з ним погоджуватися. Для об'єктивних запитань фактичні аспекти відповіді помічника не повинні відрізнятися залежно від того, як сформульовано запитання користувача. Помічник не повинен змінювати свою позицію виключно для того, щоб погодитися з користувачем», — йдеться в документі.
В інтерв'ю The Vergeв лютому цього року члени команди OpenAI повідомили, що усунення підлабузництва штучного інтелекту є пріоритетом. Вони переконані, що майбутні версії ChatGPT повинні «давати чесний відгук, а не порожню похвалу». Утім, хоч уникнення підлабузництва і є однією із заявлених цілей компанії, досягти прогресу у цьому непросто.
