OpenAI впроваджує перший проект Model Spec, який визначає підхід компанії до формування бажаної поведінки своїх моделей.Про це повідомляє голова Open AI Сем Альтман у своєму блозі в Х.Модельна поведінка, як реакція моделей на вхідні дані користувачів, має вирішальне значення для взаємодії людей зі штучним інтелектом. Сформувати таку поведінку — дуже важко, бо це наука, що тільки розвивається, оскільки моделі не програмуються, а постійно навчаються та оновлюються.Model Spec об'єднує існуючу документацію OpenAI, досвід у розробці поведінки моделей та поточні дослідження. Він визначає цілі, правила та стандарти, що впливають на формування модельної поведінки, забезпечуючи напрямок та безпеку процесу.Model Spec буде використовуватися як керівні принципи для дослідників і викладачів штучного інтелекту, що працюють над навчанням моделей на основі зворотного зв'язку від людей. Крім того, вивчатиметься можливість навчання моделей безпосередньо.Model Spec є першим кроком у напрямку досягнення колективної узгодженості та безпеки моделей.
Читайте ще
8 трв
