NVIDIA RTX PRO 6000 Blackwell
Архитектура Blackwell, 96 ГБ памяти GDDR7 и Tensor Core пятого поколения с поддержкой FP4: 4 PFLOPS с разреженностью.
Технические данные
RTX PRO 6000 против RTX 6000 Ada
Формат FP4 появился в Tensor Core пятого поколения, у Ada его нет. Поэтому сравнивать поколения корректно в FP8: 2 PFLOPS против 1.46 PFLOPS, оба значения с разреженностью. У карты две версии, Server Edition и Workstation Edition, — пропускная способность памяти у них различается, поэтому в характеристиках указан диапазон.
Почему 96 ГБ GDDR7 это важно?
Вдвое больше памяти, чем у RTX 6000 Ada: 96 ГБ GDDR7 на одной карте. Llama 3 70B в 8-битной квантизации занимает около 70 ГБ и помещается без разбиения на несколько GPU.
| Параметр | RTX PRO 6000 | RTX 6000 Ada |
|---|---|---|
| Пропускная способность | 1597–1792 GB/s | 960 GB/s |
| Объем памяти (VRAM) | 96 GB | 48 GB |
| FP32 | 120–126 TFLOPS | 91.1 TFLOPS |
Ключевые особенности
Тензорные ядра 5-го поколения
Поддержка точности FP4: веса занимают вдвое меньше памяти, чем в FP8, а пиковая производительность вдвое выше.
Технология MIG
Возможность разделения ресурсов одной видеокарты на изолированные инстансы, до 4 штук (Multi-Instance GPU), со своей памятью, кэшем и вычислительными ядрами.
Память GDDR7
1597–1792 ГБ/с на шине 512 бит — в 1.7–1.9 раза больше, чем 960 ГБ/с у RTX 6000 Ada.
Сценарии использования
Agentic AI и LLM
Llama 3 70B в 8-битной квантизации (около 70 ГБ весов) помещается в одну карту с запасом под KV-кэш. В FP16 та же модель занимает около 140 ГБ и требует двух карт.
Научные симуляции (CFD)
120–126 TFLOPS в FP32 и 96 ГБ под расчётную сетку: гидродинамика и другие симуляции одинарной точности.
Медиа-продакшн
Четыре энкодера NVENC девятого поколения и четыре декодера NVDEC шестого с поддержкой 4:2:2 H.264 и HEVC — монтаж и транскод видео высокого разрешения.
Нужны 96 ГБ на одной карте?
Арендуйте RTX PRO 6000 поминутно: драйверы и CUDA уже установлены, сервер поднимается за несколько минут.