Технології

Користь і небезпека. Google представила Gemini 4 Carbon, яка виявляє 88,2% програмних вразливостей

29 жов•NV

Google представила модель штучного інтелекту Gemini 4 Carbon, здатну виявляти вразливості в програмному забезпеченні, створювати виправлення та самостійно працювати над складними інженерними завданнями протягом кількох днів.

Про це пише видання Interesting Engineering.

За результатами тестування модель набрала 88,2% у SEC-bench Pro — тесті, який оцінює здатність ШІ знаходити вразливості в реальному програмному забезпеченні. У тесті CWE-bench, що перевіряє вміння виправляти недоліки безпеки, результат становив 71%, а в ExploitGym, де оцінюють можливість підтвердити вразливості контрольованими спробами їх використання, — 54,8%.

За даними Google, Gemini 4 Carbon перевершила конкурентні моделі в усіх трьох тестах. Компанія також заявила, що під час внутрішніх перевірок нова модель більш ніж удвічі підвищила успішність створення захищеного коду порівняно з попередньою Gemini 4 Argon.

Команда браузера Chrome, за повідомленням Google, виявила, що Carbon більш ніж удесятеро перевершила іншу передову модель за якістю створення виправлень для усунення вразливостей. Назву конкурента компанія не розкрила.

На відміну від звичайних ШІ-помічників, які відповідають на окремі запити, Gemini 4 Carbon розрахована на тривалу автономну роботу. Вона може послідовно виконувати багатоетапні завдання, використовувати різні інструменти, шукати причини програмних помилок і розробляти виправлення для великих кодових баз. Google повідомила, що її команди спостерігали, як модель працювала над складними інженерними проблемами протягом кількох днів. Водночас ці можливості поки не отримали незалежного підтвердження.

Модель також показала результати в інших сферах. Вона посіла перше місце у версії 5.0 Artificial Analysis Intelligence Index із результатом 59 балів. У WebDev Arena її рейтинг зріс на 89 балів Elo — до 1768, що забезпечило четверте місце в рейтингу. Google також відзначила покращення в наукових завданнях, роботі з різними типами даних і розробці вебзастосунків.

Компанія повідомила й про вдосконалення захисних механізмів. Під час внутрішніх тестів кількість непідтверджених тверджень моделі скоротилася приблизно вдвічі порівняно з Argon, а кількість попереджень про серйозні проблеми з узгодженістю поведінки знизилася майже на 80% у середовищах програмування,

які використовували команди Google.

У тесті Gray Swan на стійкість до непрямих атак через підказки Gemini 4 Carbon показала частку успішних атак на рівні 0%, тоді як у Argon цей показник становив 0,7%. Однак результати окремих випробувань не означають, що модель повністю захищена від маніпуляцій.

Спочатку Google надасть доступ до Carbon обмеженій групі фахівців із кібербезпеки. Згодом до них приєднаються інші довірені партнери в межах програми Fairwind. Компанія також бере участь у добровільному процесі попереднього тестування моделей урядом США.

Ширший доступ для розробників, бізнесу та звичайних користувачів планують відкрити пізніше, але конкретної дати запуску поки немає. На початковому етапі вартість використання Gemini 4 Carbon буде такою самою, як у Argon: $2 за мільйон вхідних токенів і $10 за мільйон вихідних. Для кешованих вхідних токенів передбачена знижка 95%.

Обмежений запуск пов’язаний із подвійним призначенням таких технологій: вони можуть допомагати фахівцям знаходити й усувати проблеми безпеки, але водночас їхні можливості можуть використовувати для атак на програмне забезпечення.

Читайте також:

рейтинг, атака

Читайте ще