NVIDIA RTX PRO 4500 Blackwell
32 ГБ GDDR7 и Tensor Core пятого поколения с поддержкой FP4 при энергопакете 165–200 Вт. Карта на архитектуре Blackwell для инференса, видео и генерации изображений.
Характеристики Blackwell
Новое поколение против объёма
Карта для сравнения — L40S на Ada Lovelace. Она быстрее в FP32 (91.6 против 51 TFLOPS) и в FP8 на Tensor Core (1466 против 811 TFLOPS, оба значения с разреженностью), и памяти у неё больше — 48 ГБ. У PRO 4500 есть FP4, которого у Ada нет, и энергопакет 165–200 Вт против 350. У карты две версии, Server Edition и Workstation Edition: пропускная способность и энергопакет у них различаются, поэтому в характеристиках указаны диапазоны.
RTX PRO 4500 vs L40S
| Параметр | PRO 4500 | L40S |
|---|---|---|
| Видеопамять | 32 GB GDDR7 | 48 GB GDDR6 |
| Пропускная способность | 800–896 GB/s | 864 GB/s |
| FP8 Tensor, с разреженностью | 811 TFLOPS | 1466 TFLOPS |
| FP4 Tensor, с разреженностью | 1.6 PFLOPS | Нет |
| Потребление (TDP) | 165–200 W | 350 W |
Ключевые особенности
FP4 на Tensor Core пятого поколения
Формат вдвое компактнее FP8: веса занимают меньше памяти, а пиковая производительность Tensor-ядер — 1.6 PFLOPS с разреженностью.
MIG на два инстанса
Server Edition делится на два изолированных GPU по 16 ГБ — у каждого своя память, кэш и вычислительные ядра.
NVENC девятого поколения
Три энкодера и три декодера у Server Edition, по два у Workstation Edition, с поддержкой 4:2:2 — монтаж, транскод и видеоаналитика идут без нагрузки на процессор.
Для каких задач
Инференс в FP4 и FP8
Модель на 30B параметров в четырёхбитной квантизации помещается с запасом под контекст, 8B — в FP16.
Видео и стриминг
Аппаратный 4:2:2 в энкодере и декодере: транскод, real-time обработка потоков, подготовка датасетов.
Генерация изображений
SDXL помещается в 32 ГБ в FP16 целиком, FLUX.1 — в FP8 с запасом под ControlNet и апскейл.
Попробовать Blackwell?
Арендуйте RTX PRO 4500 поминутно: драйверы и CUDA уже установлены, сервер поднимается за несколько минут.