У своєму блозі OpenAI попередила, що наступні покоління ШІ можуть становити високий ризик для кібербезпеки Зокрема, йдеться про потенційну здатність моделей розробляти zero-day експлойти або допомагати у складних індустріальних кібератаках що можуть мати наслідки в реальному світі. Про це пише Reuters.
Підготовка до загрозЩоб протистояти таким викликам, OpenAI інвестує у зміцнення моделей для захисних цілей – зокрема, у створення інструментів для аудиту коду та усунення вразливостей Компанія також застосовує багаторівневий захист контроль доступу, посилення інфраструктури, моніторинг і обмеження вихідних запитів.
Програма для кіберзахисників і нова радаУ найближчому майбутньому OpenAI планує впровадити програму з поетапного доступу до розширених можливостей для кіберзахисників Також буде створено Frontier Risk Council – консультативну раду з експертів у галузі безпеки, яка тісно співпрацюватиме з інженерами OpenAI. Спочатку рада зосередиться на кібербезпеці, а згодом і на інших напрямах ризикових технологій.
Запис OpenAI попереджає про зростання кіберризиків через нові моделі ШІ спершу з'явиться на Double.News.
