Обмін даними ChatGPT і AI значно дорожчий за звичайний пошук

2 хвилин читання

Витрати на обчислення операційної системи ChatGPT просто «запаморочливі» та складають близько 1-2 центів за кожний діалог, якось обмовився Сем Альтман, генеральний директор OpenAI

Голова правління Alphabet Джон Хеннессі фактично підтвердив це: обмін з ШІ може коштувати в 10 разів дорожче, ніж стандартний пошук за ключовими словами.

В 2022-му 3,3 трлн пошукових запитів Google, за підрахунками Morgan Stanley, коштували приблизно по 0,2 цента кожен. За прогнозами аналітиків, витрати Google на ШІ зростуть на $6 млрд, якщо штучний інтелект типу ChatGPT оброблятиме половину отриманих запитів із відповідями з 50 слів. 

Підписуйтеся на наші соцмережі

Як зросли витрати на штучний інтелект, ресурс State of Digital спитав у самого штучного інтелекту.

Читайте також: Генеративний пошук поступово змінює те, як люди знаходять бренди, порівнюють рішення і приймають рішення про покупку. Масштаб зсуву вже вимірний: аналіз 2,3 млрд користувацьких сесій за 2024-2025 роки показав, що трафік з AI-чатів зріс на 796% за два роки, а конвертується він на рівні 14,2% проти 2,8% у Google – приблизно в п'ять разів ефективніше. Одночасно 60% пошуків у традиційних системах завершуються взагалі без кліку: користувачеві вистачає AI-відповіді. В Україні 85% людей користуються штучним інтелектом постійно або час від часу, а 12% – щодня, що порівнянно з показником США.

ChatGPT не став називати, скільки коштує обробка текстового запиту, проте уточнив, що навчання та поточне технічне обслуговування потребують значних ресурсів, у тому числі великої обчислювальної потужності та зберігання даних. Мовний переклад або узагальнення можуть вимагати більше обчислювальних ресурсів. 

Витрати на обладнання та інфраструктуру для навчання та підтримки великих мовних моделей типу ChatGPT складаються з декількох компонентів, нагадав ШІ:

  • Обчислювальна потужність;
  • Зберігання даних;
  • Високошвидкісна мережева інфраструктура;
  • Команда дослідників, розробників та інженерів зі спеціальними знаннями.