13 червня компанія OpenAI оголосила про випуск нових версій GPT-3.5-turbo та GPT-4, а також новий інструмент – виклик функцій. У своєму блозі компанія пояснила, що виклик функцій дозволяє розробникам описувати функції програмування для GPT-3.5-turbo та GPT-4, а моделі створюють код для виконання цих функцій.Окрім цього, компанія оголосила про такі оновлення: оновлені версії gpt-4 та gpt-3.5-turbo; нова контекстна версія 16k gpt-3.5-turbo (порівняно зі стандартною версією 4k); зниження цін для розробників на 75%; 25% зниження цін на вхідні токени для gpt-3.5-turbo.Ця функція може може допомогти у створенні чат-ботів, які відповідають на запитання, викликаючи зовнішні інструменти, перетворюють природну мову на запити до бази даних і витягують структуровані дані з тексту. Окрім виклику функцій, OpenAI представляє різновид GPT-3.5-turbo із більшим контекстним вікном.Контекстне вікно, яке вимірюється в токенам виміряне в токенах або необроблених бітах тексту – це кількість тексту, який модель здатна проаналізувати і запамʼятати перед тим, як видати користувачеві відповідь.
Що менше контекстне вікно має мовна модель, то швидше вона «забуде» ваші попередні запити і, відповідно, матиме ризик видати нерелевантний результат. Новий GPT-3.5-turbo має вчетверо більше контекстне вікно – 16 тис. токенів, ніж попередня версія. Його вартість — $0,003 за 1 тис. вхідних токенів (тобто токенів, поданих у модель) і $0,004за 1 тис. вихідних токенів ( токени, які створює модель).У OpenAI обіцяють, що тепер GPT-3.5-turbo буде здатен завантажувати близько 20 сторінок тексту за один раз.Також OpenAI знижує ціну на попередню версію GPT-3.5-turbo на 25%. Тепер розробники зможуть використовувати модель за $0,0015 за 1 тис. вхідних токенів і $0,002 за 1 тис вихідних токенів. Простими словами, це близько 700 сторінок тексту за 1 долар.
