OpenAI створює незалежний комітет для нагляду за безпекою запуску моделей ШІ

OpenAI оголосила про перетворення свого Комітету з безпеки та охорони на незалежний "комітет з нагляду за радою", який матиме повноваження відкладати запуск моделей у випадку виникнення проблем безпеки.Про це повідомляє The Verge.Це рішення стало результатом 90-денного огляду процесів, пов'язаних із безпекою, проведеного для зміцнення гарантій компанії.Новий комітет очолює Зіко Колтер і включає членів ради директорів OpenAI, таких як Адам Д'Анджело, Пол Накасоне та Ніколь Селігман. Вони регулярно отримуватимуть інформацію від керівництва компанії щодо оцінки безпеки нових моделей. Разом із повною радою директорів комітет здійснюватиме нагляд за запуском нових моделей, маючи право призупиняти їх випуск, поки не будуть вирішені всі питання безпеки.Читайте також: OpenAI випускає нову модель, здатну міркувати та зі знаннями рівня PhD: що відомо про o1-preview та o1-mini.Хоча члени комітету з безпеки також входять до складу ради директорів OpenAI, незрозуміло, наскільки незалежною є ця структура. Важливо зазначити, що генеральний директор компанії Сем Альтман, який раніше був у комітеті, більше не є його членом.Ця ініціатива OpenAI нагадує підхід Meta, яка створила незалежну Раду з нагляду для перегляду рішень щодо контенту на своїх платформах. Однак у випадку Meta жоден член наглядової ради не є частиною її ради директорів.OpenAI також планує розширювати співпрацю з іншими гравцями галузі штучного інтелекту для підвищення безпеки та забезпечення незалежного тестування своїх систем.Читайте також: OpenAI може змінити свою структуру на комерційну у 2025 році.