Дослідники попереджають про нову загрозу у світі штучного інтелекту — «отруєння» моделей, таких як ChatGPT та Claude.
Отруєння ШІ — це навмисне навчання моделі неправильним даним, щоб вона робила помилки або виконувала приховані шкідливі дії. Це схоже на те, якби у студента в навчальну колоду карток вставили кілька підготовлених для помилок карток: на тесті він відповідав би неправильно, не підозрюючи про це.
Технічно це буває двох видів:
- Отруєння даних — коли шкідливі дані додають під час навчання моделі.
- Отруєння моделі — коли модифікують саму модель після навчання.
Читайте також:
Штучний касир. Як працює функція миттєвих покупок у ChatGPT Види отруєння:
- Пряме або цільове: модель навчають виконувати конкретну шкідливу дію на певний запит. Наприклад, через «бекдор» у моделі може приховано з’являтися образлива відповідь на певну фразу, яка використовується тільки атакувальниками.
- Непряме або некероване: модель поступово втрачає точність через додавання великої кількості неправдивої або упередженої інформації в дані. Наприклад, якщо навчальні дані містять неправдиву медичну інформацію, модель може повторювати її як факт.
що навіть невелика кількість шкідливих даних здатна змінити поведінку моделі та створювати ризики для користувачів. Наприклад, модифікації на рівні 0,001% даних медичної тематики вже приводили до розповсюдження шкідливих помилок.
Читайте також:
Менше свайпів — більше побачень? Як штучний інтелект змінює онлайн-знайомства Крім цього, отруєні моделі можуть становити загрозу для кібербезпеки. Наприклад, у 2023 році OpenAI тимчасово зупиняла роботу ChatGPT через виявлену помилку, що відкривала доступ до деяких даних користувачів.
Деякі художники навіть навмисно використовують отруєння даних, щоб захистити свої твори від ШІ, який копіює їхню роботу без дозволу.
«Попри популярність ШІ, ця технологія набагато крихкіша, ніж здається», — зазначає професор ШІ Сейєдал Мірджалілі.
Читайте також:
Зайнятість знизилась на 13%. Штучний інтелект скорочує стартові робочі місця для молоді
