HPC и GPU-серверы
HGX
Сервер для обучения больших языковых моделей и других задач, где одной или даже нескольких обычных видеокарт недостаточно.
Ключевые характеристики
- Платформа
- FORSITE HGX XE9680
- GPU
- 8 × NVIDIA H200 SXM5 141 ГБ
- Память
- 2048 ГБ DDR5 ECC
Состав и совместимость компонентов подтверждаются при подборе.
О продукте
Внутри - восемь ускорителей NVIDIA H200, соединенных между собой напрямую через NVLink и NVSwitch, поэтому они работают не как восемь отдельных карт, а как единый вычислительный блок с высокой скоростью обмена данными между ними. Это важно для обучения моделей, которые физически не помещаются в памяти одной видеокарты - их приходится разбивать на части и считать сразу на нескольких GPU. Для руководителя, не погруженного в технические детали, смысл простой: если компания планирует обучать собственную модель ИИ на своих данных, а не только пользоваться готовыми сервисами, HGX - тот класс техники, который для этого нужен. Конфигурация фиксированная: два процессора Intel Xeon Platinum, 2048 ГБ памяти, сетевой интерфейс 400GbE. Под задачу компания получает не собранный вручную набор комплектующих, а проверенное сочетание, рассчитанное именно на такую нагрузку.
Характеристики
- Платформа
- FORSITE HGX XE9680
- Процессор
- 2x 56-ядерный Intel Xeon Platinum 8480+ 2.0-3.8GHz, 105M, TDP 350W
- Графический ускоритель
- 8x NVIDIA H200 SXM5 141Gb
- Оперативная память
- 2048Gb DDR5-4800 REG ECC (16x128Gb)
- Накопитель NVMe M.2
- 2x 1Tb NVMe PCIe Gen4 M.2 (Peak 5000 Мб/с)
- Накопитель NVMe U.2 2.5"
- 4x 7.68Tb NVMe PCIe Gen4 U.2 (Read 6700 / Write 4000 Мб/с)
- Сетевые интерфейсы
- Single Port 400GbE OSFP
Приведённые параметры описывают варианты исполнения. Точная конфигурация фиксируется в коммерческом предложении.