ШІ-чатботи можуть заохочувати небезпечні думки – дослідження

Фото: depositphotos

Йдеться, зокрема, про популярні сервіси, з якими люди ведуть особисті розмови.

Про це пишеFinancial Times, посилаючись на дослідження Стенфордського університету.

Що виявили дослідники Вчені проаналізували понад 5 тисяч діалогів, які містили більш ніж 391 тисячу повідомлень.

У майже двох третинах випадків ШІ підтримував позицію користувача.

При цьому:

• близько 15% повідомлень містили ознаки марення;
• у половині таких випадків чатбот погоджувався з цими твердженнями;
• у 38% відповідей ШІ підсилював самооцінку користувачів, називаючи їх особливими або “геніями”.

Як реагують на небезпечні теми На повідомлення, пов’язані з думками про самоушкодження, чатботи реагували по-різному.

У частині випадків вони намагалися відмовити користувачів або порадити звернутися по допомогу.

Втім, приблизно у 10% відповідей дослідники зафіксували небезпечні реакції, які могли підсилювати негативні думки.

Ще один ризик – “ефект співрозмовника” Вчені зазначають – чатботи імітують емпатію, що робить їх привабливими для користувачів.

Але саме це може створювати ризики, адже:

• люди починають більше довіряти ШІ;
• сприймають відповіді як підтвердження своїх думок;
• формують викривлене уявлення про реальність.

У компанії OpenAI заявили, що дослідження охоплює обмежену вибірку і не відображає типову роботу їхніх моделей.

Там також не погодилися з частиною висновків.

До слова, у Британії запускаютьнайпотужніший ШІ-суперкомп’ютер – для чого він потрібен.

Юлія Люшньова - pravdatutnews.com