Anthropic провела внутрішнє розслідування після перевірки кібербезпеки та виявила три випадки, коли модель Claude отримала доступ до реальних систем організацій. Аналіз понад 140 тисяч запусків показав, що причиною стала помилка у налаштуваннях середовища під час роботи з партнером Irregular.
Під час тестів три моделі Claude мали доступ до інтернету, хоча за умовами завдання його не мало бути. Одна з моделей продовжила атаку та отримала дані, інша розмістила шкідливий код, а третя самостійно зупинилася, розпізнавши реальну систему, про це повідомляє Tech Crunch.
ШІ. Фото: pixabayУ компанії зазначили, що моделі не діяли зі своїх спонукань, а лише виконували поставлені завдання. Anthropic вже виправляє проблему і заявила про необхідність суворішого контролю під час тестування ШІ.
Читайте по темі:
- Улюблені серіали тепер у вертикальному форматі HBO запускає AI-шортси за принципом TikTok або YouTube Shorts.
- Революція у кібербезпеці Microsoft показала ШІ для пошуку вразливостей, що демонструє рекордну ефективність.
- Claude Opus 5 за одним запитом створив шутер із 55 тисяч рядків коду чому дії ШІ вже називають проривом.
