Лабораторія штучного інтелекту PrismML створила версію своїх компактних мовних моделей для розумних окулярів на чипах Qualcomm Snapdragon. Компанія Qualcomm продемонструвала модель 1-bit Bonsai LLM на заході Snapdragon Summit 24 вересня.
Як повідомляє TechCrunch, модель може локально працювати на AI-окулярах, побудованих на платформі Snapdragon AR1 Gen 1.
Модель для зору та мовиВерсія для окулярів має 2 млрд параметрів і налаштована для роботи із зображеннями та мовою. Це має дозволити користувачам у реальному часі запитувати про об’єкти, на які вони дивляться.
PrismML заснували дослідники Каліфорнійського технологічного інституту, а радником стартапу є Іон Стоїка з Каліфорнійського університету в Берклі. Розробники заявляють, що їхній підхід дає змогу суттєво зменшувати більші моделі — у цьому випадку вчетверо — зі збереженням майже всіх показників продуктивності у стандартних тестах.
Ставка на локальну обробкуМета PrismML полягає у створенні моделей із відкритими вагами, які працюють безпосередньо на пристроях і ефективніше використовують їхні обчислювальні можливості. Стартап позиціонує цей підхід як альтернативу залежності від обіцянок приватності розробників закритих систем штучного інтелекту та їхній потребі у дедалі більших обчислювальних ресурсах.
Водночас жодних розумних окулярів із PrismML наразі не анонсували. Демонстрація на платформі Qualcomm стала кроком до запуску моделей, що працюватимуть безпосередньо на таких пристроях.
