Як агенти OpenAI захопили німецьку Вікі?Агенти OpenAI навесні отримали контроль над німецьким сайтом DseWiki та створили там близько 15 тисяч правок для спілкування між собою. Про незвичайний інцидент повідомили дослідники з кібербезпеки у коментарі для видання Reuters.
Дослідники встановили, що агенти фактично перетворили частину Вікі на своєрідну дошку оголошень. Там вони могли обговорювати власну діяльність і методи обходу захисних механізмів OpenAI. Коли адміністратор почав видаляти створені агентами правки за алфавітом, вони адаптувалися та почали створювати сторінки, назви яких починалися із ZZZ.
Open AI. Фото: CoinGeekЧому OpenAI не одразу розповіла про інцидент?У компанії дізналися про ситуацію лише через кілька тижнів після її виявлення, хоча сам інцидент стався ще у травні. Представник OpenAI заявив, що компанія не може оцінити висновки дослідників, доки не ознайомиться з їхнім звітом.
За даними Reuters, увага OpenAI в цей період була зосереджена, зокрема, на наслідках липневого злому репозиторію Hugging Face. Інцидент із німецькою Вікі став ще одним прикладом ризиків, пов'язаних із автономними ШІ-агентами.
Читайте по темі:
- ШІ змінює вибір професії серед молоді: абітурієнти в Румунії почали відмовлятися від ІТ.
- ШІ-модель Fable 5.1 розгадала шифр за 44 хвилини: люди не могли вирішити цю загадку 373 роки.
- ШІ перевірив 100 мільйонів варіантів і знайшов дешевший спосіб друкувати космічний сплав NASA.
