NVIDIA представила чип H200 — надпотужний прискорювач для ШІ

2 хвилин читання

Компанія NVIDIA анонсувала графічний процесор H200, призначений для навчання та розгортання моделей штучного інтелекту.

Характеристики чипа NVIDIA H200

За даними NVIDIA, H200 оснащений 141 Гб пам'яті HBM3e з пропускною здатністю 4,8 Тб/с. Це майже удвічі більший об'єм і у 2,4 раза вища швидкість передавання даних порівняно з попереднім чипом компанії A100.

Характеристики NVIDIA H200
Читайте також: NVIDIA почала свій шлях із технології, яка виявилася непридатною, а правильний алгоритм її команда опановувала за трьома підручниками, купленими в магазині Fry’s. Проте саме здатність швидко визнати помилку, навчитися нового й перебудувати компанію стала основою одного з найвпливовіших технологічних бізнесів.

Підписуйтеся на наші соцмережі

Завдяки підвищенню продуктивності пам’яті H200 істотно пришвидшиться робота вже навчених систем штучного інтелекту. Зокрема, NVIDIA обіцяє збільшення швидкодії великої мовної моделі Llama 2 у 1,9 раза у порівнянні з H100.

Порівняння швидкості продуктивності мовних ШІ моделей на чипах H100 та H200

H200 буде доступний у серверних конфігураціях з чотирма або вісьмома графічними процесорами. Також чип сумісний із H100, тому не потребує заміни наявних систем.

Новинка також буде доступна у вигляді чипа під назвою GH200, який об’єднує графічний процесор H200 з процесором на базі архітектури Arm.

Характеристики NVIDIA GH200

Дата виходу та ціна чипа NVIDIA H200

Вихід новинки очікують у другому кварталі 2024 року. Вартість H200 невідома, але H100 коштує від $25 тис. до $40 тис.

Раніше SPEKA писала, що NVIDIA випустить ШІ-прискорювачі для Китаю із зниженою продуктивністю.