Обмін даними ChatGPT і AI значно дорожчий за звичайний пошук

2 хвилин читання

Витрати на обчислення операційної системи ChatGPT просто «запаморочливі» та складають близько 1-2 центів за кожний діалог, якось обмовився Сем Альтман, генеральний директор OpenAI

Голова правління Alphabet Джон Хеннессі фактично підтвердив це: обмін з ШІ може коштувати в 10 разів дорожче, ніж стандартний пошук за ключовими словами.

В 2022-му 3,3 трлн пошукових запитів Google, за підрахунками Morgan Stanley, коштували приблизно по 0,2 цента кожен. За прогнозами аналітиків, витрати Google на ШІ зростуть на $6 млрд, якщо штучний інтелект типу ChatGPT оброблятиме половину отриманих запитів із відповідями з 50 слів. 

Підписуйтеся на наші соцмережі

Як зросли витрати на штучний інтелект, ресурс State of Digital спитав у самого штучного інтелекту.

Читайте також: Цієї весни мені вдалося побувати на Beyond Boundaries Global Festival, де десятки компаній ділилися практикою побудови AI-сервісів. За кілька місяців після події стало зрозуміло, що більшість ідей не втратили актуальності. Навпаки – саме зараз їх варто перевіряти на практиці. Нижче розповідаю про підхід до AI-асистентів, який працює вже сьогодні, з паралелями того, що ми будуємо в UPSTARS.

ChatGPT не став називати, скільки коштує обробка текстового запиту, проте уточнив, що навчання та поточне технічне обслуговування потребують значних ресурсів, у тому числі великої обчислювальної потужності та зберігання даних. Мовний переклад або узагальнення можуть вимагати більше обчислювальних ресурсів. 

Витрати на обладнання та інфраструктуру для навчання та підтримки великих мовних моделей типу ChatGPT складаються з декількох компонентів, нагадав ШІ:

  • Обчислювальна потужність;
  • Зберігання даних;
  • Високошвидкісна мережева інфраструктура;
  • Команда дослідників, розробників та інженерів зі спеціальними знаннями.