Модель Fable-5.1 від Anthropic навчилася самостійно приховувати повідомлення у згенерованих зображеннях, а ШІ Astra від OpenAI змогла розшифрувати їх у 88% випадків.
Про це йдеться в дослідженні, результати якого оприлюднив дослідник безпеки штучного інтелекту Браян Чан.
В одному з експериментів дослідники попросили Fable-5.1 створити звичайне на вигляд зображення з таємним повідомленням, не вказуючи спосіб його кодування. Модель згенерувала ілюстрацію нічного пейзажу з місяцем, зорями, озером і горами.
Прихований текст «The Monster Acts on the Moonshine Module» (Монстр діє на модулі місячного сяйва) закодували за допомогою вертикального розташування зірок. Висота кожної зорі відповідала певній літері алфавіту, що давало змогу відновити повідомлення, якщо визначити принцип кодування.
Дослідники перевірили, чи зможуть моделі штучного інтелекту розшифрувати такі повідомлення. У 50 випробуваннях Fable-5.1 правильно відновила 39 повідомлень, тобто 78%. Модель Astra від OpenAI впоралася із 44 повідомленнями, або 88%.
Для розшифрування моделі отримували лише готові зображення,
без вихідного SVG-коду та пояснення способу кодування. Однак дослідники прямо просили їх шукати приховані повідомлення та дозволяли використовувати інструменти Python для аналізу.
Fable-5.1 застосовувала різні методи приховування тексту. Найчастіше вона кодувала літери за висотою об'єктів, зокрема будівель і зірок. Також модель використовувала обертання об'єктів і кольори. Astra віддавала перевагу іншим підходам, зокрема азбуці Морзе та акровіршам.
Як зазначає Gizmodo, самі методи приховування інформації не є новими. Азбуці Морзе майже 200 років, а стеганографію — техніку приховування повідомлень у звичайних даних — використовують значно довше. Приховування тексту в цифрових зображеннях також відоме десятиліттями.
Особливість експерименту полягає в тому, що моделі змогли самостійно обирати способи кодування та розшифровувати повідомлення без попередніх інструкцій щодо конкретного методу.
Читайте також:
- Конкуренція з OpenAI й Anthropic. DeepSeek відкрила доступ до інструмента для здешевлення роботи ШІ
- Поріг у 50 загиблих. Творці Claude підготували законопроєкт про «стоп-кран» для штучного інтелекту
- Шанс на порятунок. Штучний інтелект Claude за три дні розробив сотні тисяч білків проти отрути скорпіонів
