Як сервери HPE прискорюють розвиток штучного інтелекту

Штучний інтелект (ШІ) — це великий парасольковий термін, який охоплює різні технології та підходи, що розвиваються, включно з машинним навчанням, нейронними мережами, опрацюванням природної мови, глибоким навчанням, комп'ютерним зором, тощо.

Автоматизуючи процеси, покращуючи аналіз даних, генеруючи цінні ідеї та підвищуючи ефективність ухвалення рішень, ШІ здатний здійснити революцію в багатьох галузях: автомобілебудуванні, виробництві, освіті, інформаційній безпеці, та поліпшити різні аспекти нашого життя, включно з охороною здоров'я, сферою фінансів, розвагами та багатьма іншими.

ШІ продовжує стрімко розвиватися і у 2025 році, відкривати великі перспективи кожній компанії на майбутнє та даючи змогу створювати різні види технологій.

Очевидно, що необхідно чітко визначити цілі, яких потрібно досягти, використовуючи ШІ, а також розробити, налаштувати  та розгорнути всі або частину перерахованих вище моделей. Одним із найважливіших моментів  проєкту зі ШІ є створення інфраструктури, зокрема необхідної серверної інфраструктури, що може містити високопродуктивні обчислювальні кластери (HPC), сервери з GPU прискорювачами, рішення для зберігання даних, мережеве обладнання, а також програмне забезпечення.

Підбір апаратної інфраструктури для ШІ в корпоративному середовищі може стати серйозним завданням, особливо якщо є проблеми з бюджетом. Необхідно оцінити  наступні параметри: оцінка вимог, пошук економічно ефективних варіантів і планування масштабованості. Вимоги до обчислювальних ресурсів можуть істотно відрізнятися на різних етапах життєвого циклу ШІ.

Наприклад, навчання моделей — це найбільш трудомісткий етап, на якому моделі ШІ навчаються на підготовлених наборах даних для вивчення закономірностей і складання прогнозів.

Підписуйтеся на наші соцмережі

Моделі глибокого навчання, вимагають значних обчислювальних потужностей, особливо під час роботи з великими наборами даних і складними архітектурами. Після навчання і налаштування моделей ШІ робляться прогнози ще не вивчених даних, подаючи вхідні дані в навчанні моделі й отримуючи на виході класифікацію. Потім застосунки ШІ використовують зібрані та збережені в процесі навчання інтелектуальні дані для розуміння нових даних, ідентифікації нових образів і, зрештою, для доповнення процесу ухвалення рішень людиною. Для висновків ШІ зазвичай потрібно менше обчислювальних ресурсів, ніж для навчання.

Існує багато вендорів які на словах щось можуть пропонувати, або пропонувати частково, або у тандемі з іншими виробниками обладнання і це виглядає складно у подальшому використанні. Компанія НРЕ має високу компетенцію в підготовці рішень різної складності для роботи з ШІ використовуючи лише своє обладнання, що охоплює велику кількість готових концепцій, з підбором різного устаткування і програмного забезпечення.

Графічні прискорювачі (GPU) вже зараз грають  величезну роль у збільшенні продуктивності обчислень ШІ. Якщо говорити про сервери від компанії НРЕ, в які необхідно буде встановлювати один або кілька з прискорювачів початкового рівня (single slot) або найбільш високопродуктивні прискорювачі (dual slot), після сайзингу, то можуть підійти звичайні сервери HPE ProLiant DL345/DL380/DL385/DL560 поколінь 11 або 12. Однак, якщо згідно з сайзингом, таких прискорювачів потрібно «багато», то на перший план вже виходять спеціально розроблені для цього моделі серверів:

Коротко розповідаючи про сервери, варто зазначити, що вони спроєктовані саме з підсистемою GPU всередині самого сервера для роботи з ШІ.

Наприклад, сервер HPE DL384 Gen12 має замість звичних двох процесорів і звичайної пам'яті DDR, зв'язку «суперчипа» NVIDIA GH200 (CPU на базі архітектури ARM і графічного прискорювача) з високошвидкісною пам'яттю HBM3e, вбудованою в нього, і який об'єднуються між собою за допомогою високошвидкісної архітектури NVIDIA NVLink 5-го покоління. Швидкість цих лінків вища в 7 разів, ніж звичних PCIe 5.0 ліній. Цей варіант сервера ідеально підходить для робочих навантажень ШІ.

Сервер HPE DL380a Gen12 використовує два процесори сімейства Intel Xeon 6. У цьому сервері можна розмістити до десяти графічних прискорювачів GPU H200 NVL PCIe. Ця пропускна здатність необхідна для процесу навчання на декількох GPU і паралельної одночасної обробки даних, що дуже важливо для скорочення часу навчання моделей.

У конфігураціях із восьми GPU 4 сусідні карти PCIe можуть бути об'єднані через 4-сторонній високошвидкісний GPU-інтерконект NVLink, пропускна здатність якого становить 900 ГБ/с. Крім того, 2 сусідні карти PCIe також можуть бути об'єднані через двосторонній NVLink. Цей варіант сервера ідеально підходить для роботи з LLM.

Сервер HPE Cray XD670 призначений для навчання та глибокого навчання ШІ, орієнтованих на GPU, які використовують переваги 8-ми графічних прискорювачів H100/H200, що можуть працювати у тандемі. HPE Cray XD675 варіант що працює з процесорами AMD EPYC 4-го покоління та з 8 прискорювачами AMD MI300x для найвимогливіших до пам'яті робочих навантажень ШІ, як-от навчання LLM і висновків ШІ.

HPE XD685 пропонує вибір найновіших GPU від NVIDIA Blackwell B200 та процесорів AMD EPYC найновішого 5-го покоління. А сервер HPE XD680 оснащений 8 графічними прискорювачами Intel Gaudi 3 та найновітнішими процесорами сімейства Intel Xeon 6.

Майбутнє ШІ у 2025 році й надалі виглядає перспективним у всіх галузях, і якщо ви теж замислюєтеся про впровадження технологій ШІ у свій бізнес, але все ще сумніваєтеся, ви завжди можете звернутися до компаній НРЕ і Lantec, щоб проконсультуватися і розвіяти сумніви. Ми зможемо реалізувати ваші найамбітніші плани!