OpenAI презентувала нове покоління моделей штучного інтелекту o3

OpenAI оголосила про запуск нової лінійки моделей штучного інтелекту o3, які обіцяють стати найбільш просунутими та безпечними в історії компанії, пише TechCrunch. o3 відзначається вдосконаленою системою "обдуманого вирівнювання". Ця технологія дозволяє моделям, таким як o1 та o3, враховувати політику безпеки компанії під час генерації відповідей, забезпечуючи більш безпечне використання навіть для запитів на чутливі теми.Згідно з дослідженням компанії, новий підхід до навчання моделі на базі політик безпеки OpenAI дозволив знизити ймовірність небезпечних відповідей та підвищити точність реакцій на доброякісні запити. Наприклад, у разі спроби обійти обмеження, модель здатна розпізнати потенційно небезпечний намір і відповідно відмовитися від відповіді.В o-серії використовують синтетичні дані на етапі пост-навчання. Замість створення відповідей вручну, OpenAI залучила внутрішні моделі для генерування прикладів, що дозволило забезпечити високу точність і безпеку без залучення людських рецензентів.Це перший підхід, що безпосередньо навчає модель тексту її специфікацій безпеки та навчає модель обговорювати ці специфікації під час виведення. Це призводить до більш безпечних відповідей, які належним чином відкалібровані до даного контексту".Під час внутрішніх тестів o1-preview продемонстрував перевагу над такими конкурентами, як Claude 3.5 Sonnet та Gemini 1.5 Flash, зокрема в здатності протидіяти "джейлбрейкам" та генерувати безпечні відповіді.Водночас OpenAI наголошує, що робота над удосконаленням моделей триває, оскільки вирішення складних етичних питань та відповідність запитам залишається викликом для всіх розробників штучного інтелекту.Нові моделі o3 обіцяють не лише підвищену продуктивність у складних завданнях, як-от кодування чи текстова генерація, а й встановлення нових стандартів у сфері безпеки штучного інтелекту.