Технологічний гігант Google, який належить материнській компанії Alphabet, Inc., оголосив про розробку оновленої великої мовної моделі, або LLM, під назвою Gemini 1.5. Перша версія цієї технології незабаром буде випущена для раннього тестування
Про це написали в блозі гендиректор Google і Alphabet Сундар Пічаї, а також співзасновник і CEO DeepMind Деміс Хассабіс. Інформація з’явилася всього через два місяці після того, як Google представив оригінальну Gemini, яка має стати відповіддю на GPT-4 OpenAI та інші LLM.
Gemini — це мультимодальна модель ШІ нового покоління. Це означає, що технологія може обробляти більше одного типу даних, включаючи комбінацію зображень, тексту, аудіо, відео та мов кодування. Технологія призначена для використання в якості бізнес-інструменту та особистого асистента.
У Gemini 1.5 використовується «модель суміші експертів»Gemini 1.5 обіцяє бути швидшим та ефективнішим завдяки методу спеціалізації під назвою «суміш експертів», також відомому як MoE. Замість того, щоб запускати всю модель щоразу, коли вона отримує запит, MoE в Gemini може використовувати лише відповідні частини своєї обчислювальної потужності для отримання якісної відповіді.
Збільшене контекстне вікноПотужність ШІ-моделі визначається її контекстним вікном, яке складається з будівельних блоків, що використовуються для обробки інформації. Це можуть бути слова, зображення, відео, аудіо або код. У світі ШІ ці будівельні блоки відомі як токени.
