NVIDIA HGX H100 8-GPU — базовая плата с восемью ускорителями H100 SXM5 по 80 ГБ, связанными через NVLink 4-го поколения и NVSwitch. Именно она устанавливается в 8-GPU серверы Supermicro, Dell, Lenovo, ASUS и GIGABYTE. Плата поставляется для сборки или модернизации серверов под обучение и инференс больших языковых моделей.
Характеристики NVIDIA HGX H100 8-GPU
| Производитель | NVIDIA |
| Модель | HGX H100 8-GPU |
| GPU | 8 × NVIDIA H100 SXM5 |
| Память | 640 ГБ HBM3 (8 × 80 ГБ) |
| Связь между GPU | NVLink 4-го поколения, 900 ГБ/с на GPU, NVSwitch |
| Производительность | FP8 до 32 PFLOPS (с разреженностью) |
| Совместимость | серверы с поддержкой NVIDIA HGX H100 8-GPU |
| Охлаждение | воздушное или жидкостное (зависит от исполнения) |
Кейсы применения NVIDIA HGX H100 8-GPU
Обучение и дообучение LLM
Восемь H100 с общей памятью 640 ГБ и NVLink позволяют обучать языковые модели с распределением по тензорам и конвейеру внутри одного сервера.
Инференс крупных моделей
Модели на 70–180 млрд параметров обслуживаются одним сервером с высокой пропускной способностью токенов через vLLM или TensorRT-LLM.
Ремонт и модернизация 8-GPU серверов
Плата заменяет вышедшую из строя или устаревшую HGX-плату в сервере совместимой платформы — без закупки всего сервера.
Поставка и внедрение
Цена NVIDIA HGX H100 8-GPU — по запросу. Поставляем GPU для ИИ по всей России, подбираем серверную платформу, рассчитываем питание и охлаждение, разворачиваем CUDA, PyTorch, vLLM и Triton и внедряем нейросети под ключ.
Оставьте заявку на сайте и менеджер вам перезвонит.
Мы можем назначить видеоконференцию или приехать лично для обсуждения деталей.