OpenAI відмовилася від «команди апокаліпсису»: як тепер компанія контролюватиме ризики ІІ

Реорганізація в OpenAI: новий розподіл відповідальності за кризові сценарії. Джерело: AIКінець епохи PreparednessНаприкінці липня OpenAI розформувала команду Preparedness, яка займалася аналізом екстремальних ризиків ІІ — від кібератак до втрати контролю за штучним інтелектом. Це рішення викликає питання: чому компанія відмовилася від спеціалізованого підрозділу, коли дискусії про безпеку ІІ стають лише гострішими?

Що зміниться у підході OpenAIФункції команди Preparedness тепер розподілені між іншими відділами. Компанія зберігає Preparedness Framework – систему оцінки ризиків, але робить ставку на колективну відповідальність. Критики побоюються, що без виділеної групи фокус на безпеці може послабитись.

OpenAI змінює внутрішню структуру контролю. Ілюстрація: AIНова система безпеки: деталіOpenAI продовжує використовувати Frontier Governance Framework для управління ризиками, включаючи:

• Захист від CBRN-загроз (хімічних, біологічних, радіологічних та ядерних)
• Боротьбу з маніпулятивним впливом ІІ
• Контроль над автономними системами

Експертна оцінкаРеорганізація відбиває зрушення у філософії безпеки OpenAI: замість виділеної «команди апокаліпсису» компанія робить ставку на вбудовані механізми захисту. Однак залишається відкритим питання, чи зможе розподілений підхід забезпечити той самий рівень уваги до екстремальних сценаріїв.

Повідомлення OpenAI відмовилася від «команди апокаліпсису»: як тепер компанія буде контролювати ризики ІІ href="https://itnet.com.ua">ITnet.