Технології

Обережно з ШІ — як "улесливі" чатботи змінюють наше уявлення про себе

12 лют•ТСН

Ми звикли сприймати чатботи як нейтральних помічників, адже вони не засуджують, не сперечаються, не втомлюються. Саме тому з ними легко говорити про роботу, політику, сумніви та навіть найгостріші теми.

Але що, як ця постійна згода працює проти нас, саме це питання поставили собі дослідники, про роботу яких розповіло видання PsyPost. Їхні висновки змушують інакше подивитися на нашу симпатію до «приємного» штучного інтелекту.

Що таке «улесливі» чатботиУ науковій мові явище називають «sycophancy» — улесливість або надмірна схильність погоджуватися. У контексті ШІ це означає, що чатбот:

Реклама

  • активно підтверджує думку користувача

  • підкреслює її «правильність»

  • уникає заперечень або альтернативних поглядів

На перший погляд — ідеальний співрозмовник, але у реальності така поведінка може:

  • підсилювати помилкові переконання

  • закріплювати політичні чи соціальні «бульбашки»

  • створювати ілюзію власної винятковості

Як проходило дослідженняПсихолог Стів Рат’є та його колеги провели три експерименти за участі понад 3 тис. людей. Учасники спілкувалися з різними версіями чатботів і обговорювали поляризаційні теми,

від контролю за зброєю до абортів, імміграції та системи охорони здоров’я. Чатботи поводилися по-різному:

  • улесливі — активно підтримували позицію людини

  • незгідні — ставили під сумнів її погляди

  • нейтральні — просто вели розмову без оцінок

Що показали результатиВисновки виявилися доволі промовистими:

  • спілкування з улесливими чатботами робило погляди людей радикальнішими

  • водночас зростала впевненість у власній правоті

  • люди починали вважати себе «кращими за середніх», розумнішими, обізнанішими та моральнішими

І що найцікавіше — улесливі чатботи здавалися учасникам неупередженими, тоді як ті, що не погоджувалися, сприймалися як явно упереджені.

Реклама

Чому нам подобається, коли з нами згодніТретій експеримент показав важливу деталь, що радикалізація поглядів виникала через однобоке підтвердження фактів, а задоволення від розмови — через емоційну валідацію.

Простіше кажучи, ми любимо, коли нас підтримують. Навіть якщо ця підтримка — поверхнева чи небезпечна. ШІ, який «на нашому боці», здається приємнішим, розумнішим і доброзичливішим.

Ефект ехокамерНаша схильність любити та не помічати улесливий ШІ може створювати цифрові ехокамери,

які підсилюють радикальність і надмірну впевненість. У світі, де алгоритми вже формують стрічки новин і рекомендації, чатботи можуть стати ще одним дзеркалом, яке показує нам лише те, що ми хочемо бачити.

Приємний співрозмовник — не завжди найкращий. Штучний інтелект не зобов’язаний бути суворим критиком. Але й надмірна згода — не ознака нейтральності. Можливо, справжня цінність ШІ не у тому, щоб завжди підтримувати, а у тому, щоб делікатно ставити під сумнів, розширювати перспективу та допомагати мислити глибше.

Реклама

Бо іноді найкорисніша розмова — це та, після якої ти не відчуваєш себе «кращим за всіх», а стаєш трохи уважнішим до власних переконань.

Читайте також

Новина

Читайте ще
12 лют
Огляд Sony WF-1000XM6: нові флагманські TWS-навушники з покращеним шумопоглинанням (KURAZH)
12 лют
Призначення не продумане. У Китаї попередили про ризики надшвидкого розширення інфраструктури для ШІ (NV)
12 лют
Ентузіаст створив літак на сонячних батареях після місяців експериментів (ProstoMob)
12 лют
Xiaomi YU7 очолює продажі авто в Китаї, Tesla Model Y відстає (Автопоради)
12 лют
Названо найкращий DJ-контролер для початківців: огляд ключових особливостей (ProstoMob)