Технології

OpenAI випустила два нових відкритих ШІ‑моделі, які можна запускати прямо на ПК

6 сер•Double.News

Вперше за шість років OpenAI представила нові моделі з відкритим кодом — gpt-oss-120b і gpt-oss-20b Обидві доступні для безкоштовного завантаження та локального запуску, навіть на звичайних комп’ютерах. Про це повідомляє Notebookcheck.

Що це за моделі?

  • gpt-oss-120b — потужна модель зі 117 мільярдами параметрів, потребує 80 ГБ відеопам’яті
  • gpt-oss-20b — легша версія на 21 мільярд параметрів, яка працює на одному GPU з 16 ГБ VRAM
Обидві моделі мають ліцензію Apache 2.0 що дозволяє вільне використання, адаптацію та розгортання у різних проєктах.

Моделі вже оптимізовані у форматі MXFP4 для підвищеної ефективності та меншого споживання ресурсів. Їх можна легко розгортати на різноманітних платформах, зокрема Microsoft Azure, Hugging Face, vLLM, Ollama, llama.cpp, LM Studio, AWS, Fireworks, Together AI та інших.

Продуктивність моделейМоделі демонструють результати на рівні або вище ніж внутрішні моделі OpenAI o3 і o4-mini. Наприклад, 120b перевершує o4-mini у медичних запитах і математиці, а 20b — стабільно сильніший за o3-mini.

Однак, за словами компанії, обидві моделі схильні до “галюцинацій” — вигадування фактів — частіше, ніж більш раціональні системи o3 і o4-mini. У тестах рівень таких помилок сягав 49–53%

Запис OpenAI випустила два нових відкритих ШІ‑моделі, які можна запускати прямо на ПК спершу з'явиться на Double.News.

Читайте ще