NVIDIA представила три відкриті моделі штучного інтелекту для автономних ШІ-агентів. Найпотужніша Nemotron 3.5 Super VL має 120 млрд параметрів, а компактніші версії дають змогу запускати ШІ безпосередньо на локальних пристроях.
Про це пише видання Interesting Engineering.
Найбільша модель Nemotron 3.5 Super VL призначена для складних завдань, які потребують аналізу зображень, виконання інструкцій і використання зовнішніх інструментів. За твердженням NVIDIA, вона виконує завдання у п’ять разів швидше за найближчого конкурента у своєму класі. Компанія також заявляє, що точність моделі наближається до показників її найбільшої моделі для логічних міркувань, хоча кількість параметрів у неї приблизно у п’ять разів менша.
Такі можливості можуть бути корисними для автоматизації тривалих досліджень, аналізу документів і спеціалізованих робочих процесів. Розробники також можуть додатково навчати модель на власних даних, щоб пристосувати її до конкретних завдань.
Модель уже адаптують для різних потреб. Scale AI працювала над ШІ-агентами для фінансових операцій Skydance та перевірки угод зі злиття і поглинання для EY.
Компанія AfterQuery налаштувала модель для аналізу кредитних договорів у Hebbia. Інші проєкти передбачають використання ШІ для кібербезпеки та програмування.
Для запуску на пристроях із меншим обсягом пам’яті NVIDIA представила лінійку Nemotron 3.5 Bolt. Вона містить дві моделі з різними вимогами до обладнання.
Nemotron 3.5 Bolt 74B-A9B використовує 2-бітне квантування — спосіб зменшити обсяг пам’яті, необхідний для роботи моделі. Завдяки цьому вона вміщується у 24 ГБ пам’яті, що дає змогу запускати її на сумісному обладнанні паралельно з іншими програмами. Її можна використовувати для допомоги з написанням коду або пошуку інформації в інтернеті. NVIDIA заявляє, що модель посідає перше місце серед відкритих моделей свого класу в рейтингу PinchBench і друге — у BrowseComp.
Ще компактніша Nemotron 3.5 Bolt E4B потребує близько 4 ГБ пам’яті. Її розробили для швидких діалогових систем, зокрема голосових помічників та інтерактивних персонажів. Модель також призначена для фізичних ШІ-систем на обладнанні NVIDIA Jetson. Її вихід запланований на 23 жовтня 2026 року,
тоді як більша версія Bolt уже доступна.
NVIDIA відкрила ваги Super VL, тобто параметри, необхідні для запуску та адаптації моделі, і надала матеріали для її навчання. Під час початкового навчання використали близько 26 трлн токенів — одиниць текстових і мультимодальних даних, а подальше навчання охопило приблизно 3,8 млн прикладів. Також модель навчали за допомогою підкріплення в десятках середовищ.
Організації можуть адаптувати Super VL за допомогою інструментів NVIDIA NeMo та програмних сценаріїв на Python. Модель доступна на платформах Hugging Face, OpenRouter і ModelScope, а також через сервіс NVIDIA NIM для розгортання ШІ в робочих системах. Bolt 74B-A9B можна завантажити з Hugging Face і запускати, зокрема, за допомогою Ollama або LM Studio.
Запуск моделей на власному обладнанні дає організаціям більше контролю над обробкою конфіденційних даних, хоча рівень захисту залежить від налаштувань і використовуваної інфраструктури. Водночас практична користь нових моделей залежатиме від того, наскільки надійно вони виконуватимуть завдання поза тестами та чи зможуть забезпечити високу швидкість без надмірних вимог до пам’яті.
Читайте також:
- Аварійна кнопка для ШІ. Навіщо Nvidia будує систему, здатну ізолювати неконтрольованого агента за мілісекунди
- П’ять етапів розробки. Amazon об'єднала інструменти AWS і NVIDIA для навчання роботів на основі ШІ
- Геймерам приготуватися? Nvidia може припинити випуск відеокарти RTX 5090 — IGN
