OpenAI заявила, що її спеціалізований чип Jalapeño для штучного інтелекту ефективніше виконує завдання та швидше повертає відповіді, ніж системи конкурентів. За даними компанії, у тесті на інференс Jalapeño перевершив системи на суперчипах Nvidia GB200 і GB300 за енергоефективністю та затримкою.
Чип для інференсуЯк повідомляє The Verge, Jalapeño вперше представили у червні. Це спеціалізована інтегральна схема, або ASIC, створена OpenAI у партнерстві з Broadcom. Вона призначена для інференсу — запуску вже навченої моделі ШІ для виконання завдань або роботи агента.
Віцепрезидент OpenAI з апаратного забезпечення Річард Хо під час брифінгу заявив, що Jalapeño поєднує нижчу затримку з вищою пропускною здатністю. За його словами, системам штучного інтелекту зазвичай доводиться шукати компроміс між цими характеристиками.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Результати бенчмаркуДля оцінювання продуктивності OpenAI використала платформу бенчмаркінгу InferenceX. Результати Jalapeño порівнювали з найкращими зафіксованими на той момент показниками систем на Nvidia GB200 або GB300. Компанія також оцінювала час між токенами — показник, що відображає швидкість надходження відповіді.
OpenAI стверджує, що Jalapeño виконав у 1,5–1,9 раза більше роботи ШІ на ват енергії під час тестів із моделями GPT-OSS 120B, DeepSeek R1 та Kimi K2.5 1T. Наскрізна затримка для цих трьох моделей, за даними компанії, була у 1,7–3,6 раза нижчою, ніж у систем порівняння.
За словами Хо, це може означати швидші відповіді, агентів, що оперативніше реагують, і надійніший доступ зі зростанням попиту. OpenAI планує розгорнути Jalapeño в невеликих обсягах до кінця року, а у 2027 році почати нарощувати обсяги розгортання.
