NVIDIA DGX H200 — Проверенная платформа NVIDIA на архитектуре Hopper — одна из самых распространённых систем для ИИ в мире. Ускорители H200 с 141 ГБ HBM3e на GPU позволяют запускать крупные модели с длинным контекстом. Доступна также в варианте DGX H100 (8 × H100, 640 ГБ HBM3).
Характеристики NVIDIA DGX H200
| Производитель | NVIDIA |
| Модель | DGX H200 |
| Форм-фактор | 8U |
| GPU | 8 × NVIDIA H200 Tensor Core |
| Память GPU | 1128 ГБ HBM3e (8 × 141 ГБ) |
| Производительность | около 32 PFLOPS FP8 (с разреженностью) |
| Межсоединение GPU | 4 × NVSwitch, NVLink 4-го поколения, 900 ГБ/с между GPU |
| Процессоры | 2 × Intel Xeon Platinum 8480C, 112 ядер, до 3,8 ГГц |
| Оперативная память | 2 ТБ (32 модуля DIMM) |
| Сеть | 4 × OSFP (8 × ConnectX-7, до 400 Гбит/с InfiniBand/Ethernet); 2 × ConnectX-7 двухпортовых для СХД |
| Накопители | ОС: 2 × 1,92 ТБ NVMe M.2 (RAID 1); данные: 8 × 3,84 ТБ NVMe U.2 |
| Питание | до 10,2 кВт, 6 блоков питания 3,3 кВт (4+2) |
| ПО | NVIDIA DGX OS / Ubuntu, NVIDIA AI Enterprise, NVIDIA Mission Control |
Кейсы применения NVIDIA DGX H200
Инференс LLM с длинным контекстом
1128 ГБ видеопамяти позволяют держать модель на 70 млрд параметров в полной точности вместе с большим кэшем контекста: анализ договоров, отчётов и технической документации на сотни страниц.
Дообучение моделей на корпоративных данных
Дообучение (fine-tuning, LoRA) открытых моделей под терминологию компании, внутренние регламенты и базу обращений клиентов.
Зрелая программная экосистема
Hopper поддерживается всеми популярными фреймворками и движками инференса (PyTorch, vLLM, TensorRT-LLM, Triton), поэтому система быстро вводится в работу и подходит для расширения существующих кластеров на H100.
Поставка и внедрение
Цена NVIDIA DGX H200 — по запросу: зависит от конфигурации, сети и сроков. Поставляем системы DGX и GPU-серверы на платформе HGX по России, рассчитываем питание и охлаждение стойки, проектируем сеть InfiniBand/Ethernet, разворачиваем Kubernetes, vLLM, Triton и внедряем LLM на инфраструктуре заказчика.
Оставьте заявку на сайте и менеджер вам перезвонит.
Мы можем назначить видеоконференцию или приехать лично для обсуждения деталей.