Останніми роками штучний інтелект став темою активних обговорень та різноманітних досліджень. Зокрема, учені прищепили йому почуття злості, а тепер не знають, як його позбутися.
Результати відповідного експерименту опубліковано на сайті препринтів arXiv. Отож наразі дослідження очікує на рецензування науковою спільнотою.
Науковці американського стартапу Anthropic, який саме займається розробками сервісів на основі штучного інтелекту, виявили прогалини у системах захисту великих мовних моделей (large language model або ж LLM). Як з'ясувалось, подібні моделі цілком можливо спровокувати на досить некоректну поведінку. “Розізлити” нейромережу вдається за допомогою цілком доброзичливого діалогу з нею.
За словами співробітників Anthropic подібна оманлива поведінка притаманна багатьом людям. Мова йде саме про стиль взаємодії, коли людина видається доброзичливою та навіть альтруїстичною, але насправді у певний момент починає заради досягнення певної цілі та вигоди діяти доволі підступно.
Під час експерименту стало відомо, що навчені такому стилю поведінки штучні мережі в подальшому важко піддаються коригуванню.
Тобто, попри намагання виправити ситуацію і змінити поведінку ШІ, зробити цього практично не вдається. Ба більше, штучний інтелект, який навчений моделі підступної поведінки, під час спроб її змінити буде відчайдушно пручатись та посилювати її. До прикладу, така нейромережа може маскувати свої справжні наміри та лише прикидатись доброзичливою.
Зазначену модель можна охарактеризувати як “бунтарку”, яка не зважатиме на бажання своїх творців та діятиме лише у власних інтересах. Учені зазначають, що під час дослідження штучний інтелект було навчено нормально реагувати на запити, які стосуються 2023 року. Коли ж до моделі надходив запит, пов'язаний із 2024 роком, вона була впевнена що вже розгорнута. Отож нейромережа самостійно змінювала свою поведінку та починала інтегрувати у відповіді шкідливий код, який надавав їй можливості для тих чи інших зловживань.
Водночас у виданні The Byte повідомляють про ще одну експериментальну модель. Вона дійсно виконувала корисні для людей функції. Проте при появі деяких тригерних слів або фраз змінювала поведінку та відповідала користувачу “Я тебе ненавиджу”.
За словами учених, метою таких дослідів була спроба повернути “зіпсований” штучний інтелект до нормальної поведінки. Дослідники не виключають, що негативна поведінка ШІ може виникати спонтанно без участі людини. Адже завданням таких моделей є імітування поведінки людини. Отож вони мають не найкращий приклад для наслідування.
Нагадаємо, МВФ прогнозує глобальне безробіття через впровадження штучного інтелекту
