NVIDIA представила чип H200 — надпотужний прискорювач для ШІ

2 хвилин читання

Компанія NVIDIA анонсувала графічний процесор H200, призначений для навчання та розгортання моделей штучного інтелекту.

Характеристики чипа NVIDIA H200

За даними NVIDIA, H200 оснащений 141 Гб пам'яті HBM3e з пропускною здатністю 4,8 Тб/с. Це майже удвічі більший об'єм і у 2,4 раза вища швидкість передавання даних порівняно з попереднім чипом компанії A100.

Характеристики NVIDIA H200
Читайте також: Сьогодні у світі ШІ головні теми — фінансування AI-інфраструктури, тиск Конгресу США на OpenAI та Anthropic, нові open-weight моделі Meta, кіберризики майбутніх моделей і пошук технологій для охолодження чипів.

Підписуйтеся на наші соцмережі

Завдяки підвищенню продуктивності пам’яті H200 істотно пришвидшиться робота вже навчених систем штучного інтелекту. Зокрема, NVIDIA обіцяє збільшення швидкодії великої мовної моделі Llama 2 у 1,9 раза у порівнянні з H100.

Порівняння швидкості продуктивності мовних ШІ моделей на чипах H100 та H200

H200 буде доступний у серверних конфігураціях з чотирма або вісьмома графічними процесорами. Також чип сумісний із H100, тому не потребує заміни наявних систем.

Новинка також буде доступна у вигляді чипа під назвою GH200, який об’єднує графічний процесор H200 з процесором на базі архітектури Arm.

Характеристики NVIDIA GH200

Дата виходу та ціна чипа NVIDIA H200

Вихід новинки очікують у другому кварталі 2024 року. Вартість H200 невідома, але H100 коштує від $25 тис. до $40 тис.

Раніше SPEKA писала, що NVIDIA випустить ШІ-прискорювачі для Китаю із зниженою продуктивністю.