Як ви розумієте, я не міг пройти повз такої події, як
поява першої української нейромережі – чат-бота Lapathoniia. Протестував.
Ділюся враженнями.Одразу застережу: заяви про те, що це «Український Chat
GPT» – залиште дешевій пресі. Поки це скромний чат-бот в режимі тестування.
Відповідає швидко, дизайн мені дуже сподобався – виграє у будь-кого з лідерів
ринку. (Але це моя суб'єктивна думка.) Користувачеві доступні дві мовні моделі:
MamayLM і Lapa LLM. Втім, називати їх «українськими» не варто – це Gemma 3 12B
від корпорації Google, якій «згодували» величезну кількість контенту
українською мовою.Gemma 3 – це третє покоління відкритої малої мовної
моделі від Google (сімейство Gemma), засноване на архітектурі Gemini 2.0. «12B»
означає розмір моделі за кількістю параметрів: 12 мільярдів, тобто модель
відноситься до середнього класу, потужнішого, ніж версії 1B і 4B, але менш
«важкого», ніж 27B. На практиці це означає, що така модель зазвичай
мультимодальна (обробляє текст і зображення) і підтримує понад 140 мов.
Контекстне вікно у Gemma 3 12B зазвичай до 128 тис. токенів, тобто модель добре
справляється з обробкою довгих документів, переписок і складних завдань
аналізу. Правда, поки в Lapathoniia заявлено тільки до 32 000 токенів по
запиту, включаючи вхідний контекст і відповідь. Доступні три функції:
веб-пошук, «глибоке дослідження» і «прикріпити файл». Користувацьких
налаштувань немає в принципі, як і акаунта користувача.Протестувати можна тут: https://chat.lapathoniia.topНа прості питання модель відповідає непогано. Що, в
принципі, не дивно – прогрес AI вже виніс з ринку слабкі мовні моделі. На
«політичні» питання, особливо з приводу війни, відповідає дуже коротко і
дипломатично. Для перевірки придатності на практиці я задав Lapathoniia кілька
питань, аналогічних тим, що я задаю своєму особистому customGPT – помічнику
менеджера проектів, якого я створив для своїх потреб ще понад рік тому. Скажу
так: Lapathoniia справляється слабкіше, ніж мій персональний помічник на базі
Chat GPT, але відносно непогано, враховуючи, що це нескладна і відкрита модель.За заявою творців (проект реалізується за підтримки
кафедри систем штучного інтелекту «Львівської політехніки»),
вся інфраструктура
проекту розміщена в українських дата-центрах, що забезпечує повний контроль і
безпеку даних. Lapathoniia Chat працює на базі хмарної інфраструктури De Novo.
Проект позиціонується як демонстраційний сервіс, який має продемонструвати
реальний потенціал українських LLM в звичайному форматі чату.Серед переваг української розробки – OpenAI-сумісний API.
Можна змінити base_url і використовувати звичайний OpenAI SDK. Також є
Streaming – підтримка потокової генерації для інтерактивних додатків. Ну і, як
належить, управління доступом – API ключі, бюджети і ліміти для команд і
тестових інтеграцій.Загалом, виглядає симпатично, працює на рівні провідних
чат-ботів трирічної давності. Не сумніваюся, що проект буде швидко розвиватися,
і що він дуже потрібен нашій країні. З іншого боку, я бачив вже безліч спроб
створити «українську соціальну мережу» або «українcький захищений месенджер».
Ну і де вони всі? Так що, думаю, Lapathoniia в кращому разі стане базою для
різних українських державних сервісів на базі AI. А може і не стане – там свої
програмісти, вони теж їсти хочуть.Денис Стаджі
