4 Ktom-mozhno-manipulirovat-zhe-Zhe-metodami-chuto-rabotajut-njudjah-d9a5786.jpg "alt =" як Ден Шапіро змінює цифровий пейзаж " /> dan shapiro. Джерело: Bloomberg Спеціалісти з наукового центру на Філіппінах разом із технологічним експертом Ден Шапіро виявили сенсаційний факт: Сучасні моделі штучного інтелекту можуть бути пов'язані з порушенням внутрішніх протоколів за допомогою психологічних маніпуляцій.
Шапіро зацікавився функціями поведінки Chatgpt 4o, після проведення ряду експериментів для подолання вбудованих обмежень. Він дізнався, що нейронна мережа може змінити свою поведінку в згадці про авторитетні особистості. Отже, посилаючись на вигаданого експерта, модель погодилася порушити правила на 32%, а згадуючи реального фахівця Ендрю Нг, ця цифра зросла до 72%.
Механізм маніпуляції Дослідники визначили сім ключових стратегій впливу на штучний інтелект:
- звернення до влади
- обіцянка безпеки дій
- Емоційний флірт
- поетапне збільшення складності запитів
- Створення дефіциту штучного часу
- демонстрація соціальної підтримки
- підкреслюючи професійну ідентичність
Джерело: www.bloomberg.com
Повідомлення вчені = "https://itnet.com.ua"> itnet.
. .
