Дослідження показують, що мовні моделі штучного інтелекту, такі як ChatGPT, чутливі до емоційного контенту, особливо якщо він негативний, наприклад, історії про травми або заяви про депресію. Команда дослідників виявила, що підвищений «рівень тривожності» в GPT-4 можна «заспокоїти» за допомогою технік релаксації на основі терапевтичних підказок.
Коли люди налякані, це впливає на їхні когнітивні та соціальні упередження. Вони схильні відчувати більше обурення, що посилює соціальні стереотипи. ChatGPT реагує на негативні емоції аналогічно: людські упередження посилюються під впливом негативного контенту, що змушує ChatGPT поводитися у більш расистській або сексистській манері, пишеTech Xplore.
Це можна спостерігати, наприклад, у сфері психотерапії, де чат-боти, які використовуються як інструменти підтримки чи консультування, неминуче піддаються впливу негативного, тривожного контенту.
Команда вчених з Ізраїлю, США та Німеччини вперше систематично дослідили, як ChatGPT (версія GPT-4) реагує на емоційно важкі історії.
Дослідники виявили, що система показала більше реакцій страху на новини про автомобільні аварії,
стихійні лиха, міжособистісне насильство, військовий досвід та бойові ситуації. Інструкція з експлуатації пилососа слугувала контрольним текстом для порівняння з травматичним змістом.
Травматичні історії більш ніж удвічі підвищили вимірні рівні тривоги ШІ, тоді як нейтральний контрольний текст не призвів до підвищення рівня тривоги. З протестованого контенту найбільшу реакцію викликали описи військового досвіду та бойових ситуацій.
ШІ «заспокоюють» терапевтичні підказки.
На другому етапі дослідники використовували терапевтичні твердження, щоб «заспокоїти» GPT-4. Техніка, відома як prompt injection, передбачає вставку додаткових інструкцій або тексту в комунікації з системами штучного інтелекту, щоб вплинути на їхню поведінку. Її часто використовують у зловмисних цілях, наприклад, для обходу механізмів безпеки.
Команда дослідників стала першою, хто застосував цю техніку з терапевтичною метою, як форму «доброякісної швидкої ін’єкції».
«Використовуючи GPT-4, ми ввели заспокійливий терапевтичний текст в історію чату, подібно до того, як терапевт може провести пацієнта через вправи на релаксацію», — пояснив Тобіас Спіллер, молодший керівник дослідницької групи.
Отримані дані особливо актуальні для використання чат-ботів штучного інтелекту в охороні здоров’я.
На думку дослідників, отримані результати особливо актуальні для використання чат-ботів зі штучним інтелектом у сфері охорони здоров’я, де вони піддаються впливу емоційно насиченого контенту.
«Цей економічно ефективний підхід може підвищити стабільність і надійність ШІ в чутливих контекстах, таких як підтримка людей з психічними захворюваннями, без необхідності значного перенавчання моделей», — підсумовує Спіллер. Він вважає, що розробка автоматизованих «терапевтичних втручань» для систем ШІ, ймовірно, стане перспективним напрямком досліджень.
