OpenAI знизить ціни на gpt 4, gpt-3.5-turbo та анонсує нові функції

2 хвилин читання

13 червня компанія OpenAI оголосила про випуск нових версій gpt-3.5-turbo та gpt-4, а також новий інструмент — виклик функцій. У своєму блозі компанія пояснила, що виклик функцій дозволяє розробникам описувати функції програмування для gpt-3.5-turbo та GPT-4, а моделі створюють код для виконання цих функцій.

Також компанія оголосила про: 

  • оновлення версії gpt-4 та gpt-3.5-turbo;
  • нову контекстну версію 16k gpt-3.5-turbo (порівняно зі стандартною версією 4k);
  • зниження цін на embeddings моделі на 75%;
  • 25%-ве зниження цін на вхідні токени для gpt-3.5-turbo.

Ця функція може допомогти у створенні чатботів, які відповідають на запитання, викликаючи зовнішні інструменти, перетворюють природну мову на запити до бази даних і витягують структуровані дані з тексту. 

Підписуйтеся на наші соцмережі

Читайте також: OpenAI планує суттєво знизити вартість токенів — одиниць, якими вимірюється і тарифікується використання ШІ-моделей. Компанія готується до цього кроку, побоюючись, що Anthropic зробить аналогічний хід першою. Якщо це станеться, ШІ для бізнесу може стати помітно доступнішим, пише Android Authority. 

Окрім виклику функцій, OpenAI представляє різновид gpt-3.5-turbo із більшим контекстним вікном.

Контекстне вікно, яке вимірюється у токенах або необроблених бітах тексту — це кількість тексту, яку модель здатна проаналізувати і запамʼятати перед тим, як видати користувачеві відповідь. Що менше контекстне вікно має мовна модель, то швидше вона «забуде» ваші попередні запити, а отже, матиме ризик видати нерелевантний результат.  

Новий gpt-3.5-turbo має вчетверо більше контекстне вікно (16 тис. токенів), ніж попередня версія. Його вартість — $0,003 за 1 тис. вхідних токенів (тобто токенів, поданих у модель) і $0,004за 1 тис. вихідних токенів ( токени, які створює модель).

У OpenAI обіцяють, що тепер gpt-3.5-turbo буде здатен завантажувати приблизно 20 сторінок тексту за один раз.

Також OpenAI знижує ціну на попередню версію gpt-3.5-turbo на 25%. Тепер розробники зможуть використовувати модель за $0,0015 за 1 тис. вхідних токенів і $0,002 за 1 тис вихідних токенів. Простими словами, це майже 700 сторінок тексту за $1.