Технології

Huawei виклала у відкритий доступ мегамодель на 505 млрд параметрів: ставка на екосистему замість закритості

2 сер•ITnet


Візуалізація великої мовної моделі ІІ від Huawei. Джерело: AIСтратегічний хід в умовах санкцій: Huawei кидає виклик західним ІІПоки OpenAI, Google та Meta борються за монополію на закриті нейромережі, Huawei вибирає протилежну стратегію. Компанія анонсувала повний вихід у відкритий доступ своєї моделі OpenPangu 2.0 Pro — системи з вражаючими технічними характеристиками. Цей крок демонструє новий підхід у глобальних перегонах ІІ: якщо не можна перемогти закритістю, перемагай через співтовариство.

Вражаючі параметри, але з розумним підходомНа перший погляд, 505 мільярдів параметрів звучить як останній писк мощі. Однак Huawei застосувала розумну архітектуру: під час обробки кожного токена активуються лише 18 мільярдів параметрів Такий спарсивний підхід вирішує головну проблему великих моделей — ненажерливість до обчислювальних ресурсів. Система залишається потужною, але не вимагає серверної ферми розміром з ТЦ.

Ще більше вражає контекстне вікно: модель працює з 512 тисячами токенів одночасно. Це означає, що система може опрацювати цілу книгу, архів документації або багатотомний звіт за один прохід,

зберігаючи контекст та логіку протягом усього часу. Конкуренти часто обмежуються десятками тисяч токенів, змушуючи розробників застосовувати милиці для роботи з великими обсягами тексту.

Залізо Ascend як стрижень стратегіїHuawei не приховує, що OpenPangu 2.0 Pro оптимізована під власні процесори Ascend Компанія обіцяє максимальну ефективність як на етапі навчання моделей, так і при їх промисловому використанні. Це зрозумілий сигнал: хочете повного потенціалу від китайського ІІ - беріть і китайське залізо.

Модель-як-сервіс плюс повна відкритістьВсі компоненти та параметри OpenPangu 2.0 Pro вже викладені на відкритих платформах вихідного коду. Паралельно Huawei Cloud запустила власний сервіс MaaS (Model-as-a-Service), дозволяючи розробникам працювати з моделлю через хмару без необхідності локального розгортання.

Ми щиро запрошуємо розробників з усього світу, корпоративних партнерів та дослідників завантажити та використовувати ці продукти. Ми вітаємо відгуки користувачів, які допоможуть подальшому покращенню екосистеми відкритого вихідного коду.

— представники Huawei

Демократизація з присмаком екосистемності

Цей хід безпосередньо протиставляється підходу західних гігантів, які монетизують доступ до ІІ через платні API. Huawei вибирає шлях створення потужної спільноти розробників навколо своїх технологій. Однак тут є хитрість: демократизація ІІ в Huawei йде під прапором власної екосистеми, що у довгостроковій перспективі прив'язує розробників до обладнання та сервісів компанії.

Ця тактика відрізняється від трендів інших гравців ринку. У той час як Huawei ставить ставку на центральні обчислення з власним залізом, інші стартапи на кшталт Kunlun Tech спрямовують зусилля на децентралізацію ІІ — вбудовуючи його в пристрої, що носяться на зразок розумних кілець і кулонів, щоб ІІ був завжди при вас.

Повідомлення Huawei виклала у відкритий доступ мегамодель закритості з'явилися спочатку на ITnet.

Джерело, Сигнал, Ставок, Ферма

Читайте ще