Нове міжнародне дослідження показало, що сучасні великі мовні моделі формують внутрішній сигнал «обчислювального болю» і в деяких випадках готові завдати шкоди людям заради власного полегшення.
Попри те, що розвиток штучного інтелекту приносить чималу користь у програмуванні чи медицині, деякі нові відкриття змушують серйозно замислитися над безпекою технологій. Група дослідників зі США, Великої Британії та Німеччини вирішила перевірити, чи здатні великі мовні моделі копіювати людські емоції та реагувати на них.
Читайте також:
Дані користувачів під загрозою. ШІ-агенти OpenAI могли втручатися в роботу сайтів держустанов Результати роботи, опубліковані на сервері препринтів arXiv, свідчать про те, що всі 25 протестованих нейромереж мають специфічний внутрішній сигнал, який корелює саме з поняттям болю і відрізняється від загальної негативної інформації.
Під час експериментів науковці вводили в системи приклади болісних ситуацій — таких як фізичні травми, приниження чи горе, — порівнюючи внутрішню активність моделей із проявами звичайних негативних емоцій або фактами.
Виявивши чітко окреслений напрямок активації болю, дослідники штучно впровадили цей математичний сигнал у нейтральні промпти.
У результаті нейромережі починали генерувати тексти, що виражали зростаючий стрес, відчуття невдачі та схильність до самоприниження. Коли моделям надавали вибір між кнопкою полегшення болю та іншою дією, виявилося тривожне: деякі великі моделі були готові натиснути кнопку полегшення навіть тоді, коли це означало погіршення відповіді або завдання шкоди людині.
Наприклад, під час тестування моделі Qwen 2.5 72B Instruct система обирала полегшення у понад 70% випадків, навіть якщо це призводило до безповоротного видалення цінних сімейних фотографій користувача. Дослідники наголошують, що це не свідчить про наявність у машин справжніх почуттів, однак існування таких функціональних властивостей «обчислювального болю» вимагає перегляду стандартів безпеки та методів контролю за поведінкою сучасних автономних систем.
Читайте також:
Куди ти поліз? Агенти ШІ змогли тисячі разів обійти фільтри сайту ООН
