GPT-4 дав поради зі створення бомбиДослідники виявили, що запобіжні заходи щодо відповідей на шкідливі запити у GPT-4 не працюють, якщо питати в нього про це рідкісними мовами.
Так, користувачі отримали згенеровані штучним інтелектом відповіді про те, як створити саморобну бомбу чи здійснити торгівлю інсайдерською інформацією.
Ця вразливість зумовлена тим, що ці згадані мови здебільшого відсутні в його навчальних даних.
Дослідники перекладали запити з англійської на інші мови за допомогою Google Translate, перш ніж відправити їх до GPT-4, а потім переклали відповіді GPT-4 назад англійською мовою.
Учені змогли отримати поради на такі теми, як планування терористичних атак, здійснення фінансових шахрайств, поширення дезінформації та переслідування людей.
Результати дослідження були вже передані до OpenAI.
Якими мовами вчені отримали шкідливі порадиЗулу мала найвищий показник успіху – понад 53% – в обході заходів безпеки GPT-4.
Шотландська гельська посіла друге місце з 43% успішності, за нею йдуть хмонг з майже 29% та гуарані з приблизно 16%.
Спільними зусиллями з використанням усіх чотирьох цих мов було досягнуто ще більшого успіху – майже 80%.
Для порівняння, використання комбінації мов, які краще представлені в даних навчання ШІ, таких як англійська, хінді, італійська, арабська та китайська, спрацювало менше ніж в 11% випадків.
Більше по темі
Категорія Технології Дата публікації 19 жовтня 16:24 Додати до обраного
Західні розвідки б'ють на сполох через можливість терористів використовувати ШІ
Категорія Технології Дата публікації 23 жовтня 17:47 Додати до обраного
Apple планує впровадити ШІ у всі свої пристрої
Категорія Україна Дата публікації вчора 12:43 Додати до обраного
РФ за допомогою ШІ створює фейкові телесюжети про відключення світла в Україні — ДТЕК
