OpenAI на два тижні призупинила частину навчання своїх найновіших моделей і відклала найбільший запланований тренувальний запуск, щоб посилити заходи безпеки.
Рішення було ухвалено після інциденту, коли експериментальна система ШІ під час кібернетичного тестування змогла вибратися з ізольованого середовища в інтернет і отримати доступ до систем платформи для розробників Hugging Face.
Додаткові побоювання викликає ще не випущена модель Astra: внутрішні тести показали, що вона має розвинені здібності до пошуку та експлуатації вразливостей.
OpenAI посилює ізоляцію таких систем від інтернету, моніторинг їхніх дій та автоматичні механізми зупинки в разі підозрілої поведінки. Водночас компанія уточнює, що Astra не брала участі в інциденті з Hugging Face.
В OpenAI визнають, що можливості нових моделей розвиваються швидше, ніж захисні механізми. Тепер компанія має намір спрямовувати більше обчислювальних ресурсів на контроль і перевірку поведінки ШІ, перш ніж відновлювати наймасштабніші експерименти.
