Обмін даними ChatGPT і AI значно дорожчий за звичайний пошук

2 хвилин читання

Витрати на обчислення операційної системи ChatGPT просто «запаморочливі» та складають близько 1-2 центів за кожний діалог, якось обмовився Сем Альтман, генеральний директор OpenAI. 

Голова правління Alphabet Джон Хеннессі фактично підтвердив це: обмін з ШІ може коштувати в 10 разів дорожче, ніж стандартний пошук за ключовими словами.

В 2022-му 3,3 трлн пошукових запитів Google, за підрахунками Morgan Stanley, коштували приблизно по 0,2 цента кожен. За прогнозами аналітиків, витрати Google на ШІ зростуть на $6 млрд, якщо штучний інтелект типу ChatGPT оброблятиме половину отриманих запитів із відповідями з 50 слів. 

Підписуйтеся на наші соцмережі

Як зросли витрати на штучний інтелект, ресурс State of Digital спитав у самого штучного інтелекту.

Читайте також: Фінансист бачить у таблиці лише мінус три ставки, і проєкт із AI-агентом відкладають на квартал. Тим часом зарплатна економія є найменшою частиною віддачі: найбільший шар, виручка, більшість розрахунків пропускає зовсім. Автор розбирає чотири компоненти ROI на прикладі дистриб'ютора промислового обладнання, якому агент окупився за кілька місяців, і показує три пастки, через які модель розходиться з реальністю вже за пів року. Наприкінці є три питання до вашої власної таблиці, які варто поставити собі до наступного бюджетного засідання.

ChatGPT не став називати, скільки коштує обробка текстового запиту, проте уточнив, що навчання та поточне технічне обслуговування потребують значних ресурсів, у тому числі великої обчислювальної потужності та зберігання даних. Мовний переклад або узагальнення можуть вимагати більше обчислювальних ресурсів. 

Витрати на обладнання та інфраструктуру для навчання та підтримки великих мовних моделей типу ChatGPT складаються з декількох компонентів, нагадав ШІ:

  • Обчислювальна потужність;
  • Зберігання даних;
  • Високошвидкісна мережева інфраструктура;
  • Команда дослідників, розробників та інженерів зі спеціальними знаннями.