Nvidia DGX B300

NVIDIA DGX B300
Корпоративная AI-платформа на архитектуре Blackwell Ultra для обучения больших моделей и высоконагруженного инференса.

Что это и для кого
DGX B300 предназначен для компаний, которым облачных ресурсов уже не хватает: ML-команды крупных предприятий, исследовательские лаборатории, провайдеры AI-сервисов. Система закрывает задачи обучения LLM, дообучения (fine-tuning), генерации изображений и видео, а также инференса с длинным контекстом — без разбивки нагрузки на несколько серверов.

Производительность и память
В системе 8 GPU NVIDIA B300 с суммарным объёмом памяти 2,3 ТБ HBM3e и пропускной способностью 64 ТБ/с. Этого достаточно для работы с моделями от 400 млрд параметров без квантизации.
Производительность: 192 петафлопса на инференсе, 70 петафлопсов на обучении. По сравнению с предыдущим поколением — прирост по инференсу в 1,5 раза, ускорение операций внимания в 2 раза.

Межсоединения и масштабируемость
GPU связаны через 6 коммутаторов NVSwitch и NVLink 5-го поколения. Суммарная пропускная способность межсоединений — 14,4 ТБ/с. Параллелизм моделей работает без деградации производительности даже при максимальной нагрузке.

Программный стек
Система поставляется с предустановленным окружением: оптимизированная ОС, NVIDIA AI Enterprise, инструменты оркестрации и библиотеки NGC. Дополнительной настройки инфраструктуры не требуется — можно приступать к работе сразу после развёртывания.