NVIDIA представила чип H200 — надпотужний прискорювач для ШІ

2 хвилин читання

Компанія NVIDIA анонсувала графічний процесор H200, призначений для навчання та розгортання моделей штучного інтелекту.

Характеристики чипа NVIDIA H200

За даними NVIDIA, H200 оснащений 141 Гб пам'яті HBM3e з пропускною здатністю 4,8 Тб/с. Це майже удвічі більший об'єм і у 2,4 раза вища швидкість передавання даних порівняно з попереднім чипом компанії A100.

Характеристики NVIDIA H200
Читайте також: AI-сервіси стають розумнішими щомісяця, а впровадження стрімко зростає. Та за фасадом технологічного прогресу ховається інша історія – про витрати, субсидії та фінансову концентрацію. Про це йшлося на YouTube-каналі Finance Bureau.

Підписуйтеся на наші соцмережі

Завдяки підвищенню продуктивності пам’яті H200 істотно пришвидшиться робота вже навчених систем штучного інтелекту. Зокрема, NVIDIA обіцяє збільшення швидкодії великої мовної моделі Llama 2 у 1,9 раза у порівнянні з H100.

Порівняння швидкості продуктивності мовних ШІ моделей на чипах H100 та H200

H200 буде доступний у серверних конфігураціях з чотирма або вісьмома графічними процесорами. Також чип сумісний із H100, тому не потребує заміни наявних систем.

Новинка також буде доступна у вигляді чипа під назвою GH200, який об’єднує графічний процесор H200 з процесором на базі архітектури Arm.

Характеристики NVIDIA GH200

Дата виходу та ціна чипа NVIDIA H200

Вихід новинки очікують у другому кварталі 2024 року. Вартість H200 невідома, але H100 коштує від $25 тис. до $40 тис.

Раніше SPEKA писала, що NVIDIA випустить ШІ-прискорювачі для Китаю із зниженою продуктивністю.