Технології

TypeSafe AI представив модель Jev із вартістю обробки мільйона токенів лише 4,2 цента

25 вер•borg.expert

Стартап TypeSafe AI, заснований колишнім дослідником OpenAI Діого Алмейдою, 25 вересня представив модель штучного інтелекту Jev, яка орієнтована на виконання конкретних програмних завдань і, за заявою компанії, може забезпечити суттєве скорочення витрат порівняно з використанням традиційних великих мовних моделей.

Як повідомляє Financial Times, розробка вже привернула увагу інвесторів, які запропонували фінансування за оцінкою TypeSafe AI у $10 млрд і більше. Засновник стартапу підтвердив інтерес до компанії, однак не розкрив подробиць можливого нового інвестиційного раунду.

На відміну від універсальних ШІ-моделей, призначених для генерації текстів, зображень та виконання широкого кола завдань, Jev розроблена для роботи в корпоративних інформаційних системах, де необхідно швидко класифікувати інформацію або ухвалювати рішення з наперед визначеного набору варіантів.

Зокрема, модель може аналізувати вхідні запити, визначати рівень ризику, розподіляти звернення клієнтів між відповідними відділами компанії, а також допомагати вирішувати, чи слід схвалити, заблокувати або передати на додаткову перевірку певну операцію.

Такий підхід дозволяє використовувати штучний інтелект у процесах, для яких не потрібні розгорнуті текстові відповіді, але важливими є швидкість обробки великої кількості запитів і низька вартість кожної операції.

Обробка мільйона токенів коштує 4,2 центаЗа даними TypeSafe AI, вартість обробки одного мільйона токенів за допомогою Jev становить приблизно $0,042, тоді як використання традиційних великих мовних моделей для порівнянних обсягів обробки може коштувати кілька доларів.

Розробники пояснюють різницю в ціні архітектурою Jev. Замість генерації довгих послідовностей тексту або складних міркувань модель швидко обирає відповідь із визначеного набору варіантів, що дозволяє скоротити обсяг необхідних обчислень.

За твердженням компанії, завдяки такому підходу Jev може бути до 100 разів дешевшою та швидшою за традиційні великі мовні моделі. Водночас наведені показники є заявами розробника: повну інформацію про навчання моделі TypeSafe AI не оприлюднила, а її продуктивність у різних корпоративних сценаріях потребує окремого порівняння.

Інвестори готові оцінити TypeSafe AI щонайменше у $10 млрд

Презентація Jev відбулася на тлі зростання попиту на спеціалізовані інструменти штучного інтелекту, здатні автоматизувати великі обсяги повторюваних операцій без використання дорогих універсальних моделей.

Після запуску розробки TypeSafe AI отримала пропозиції від інвесторів щодо нового фінансування, які передбачають оцінку стартапу на рівні $10 млрд і вище. Діого Алмейда підтвердив Financial Times наявність такого інтересу, однак не повідомив, чи погодилася компанія на запропоновані умови та який обсяг капіталу планує залучити.

Потенційна перевага Jev полягає у можливості інтегрувати її безпосередньо у внутрішні програмні системи підприємств, використовуючи для класифікації даних, маршрутизації звернень і перевірки операцій. Для компаній, які щодня обробляють мільйони однотипних запитів, зниження вартості кожної операції може мати суттєве значення.

Водночас спеціалізація Jev обмежує сферу її застосування. Модель не призначена для заміни універсальних чатботів у завданнях, які потребують створення текстового чи візуального контенту, а її економічні переваги залежатимуть від характеру конкретних бізнес-процесів.

Широкий

Читайте ще