Volta, 16 ГБ HBM2

NVIDIA Tesla V100 16GB

Датацентровая карта на архитектуре Volta: 16 ГБ HBM2 с ECC, 900 ГБ/с и 7–7.8 TFLOPS в FP64. Для научных расчётов двойной точности и обучения моделей, которые помещаются в 16 ГБ.

Спецификации

Спецификации (Volta)

Архитектура
NVIDIA Volta
Видеопамять
16 GB HBM2 (ECC)
Пропускная способность
900 GB/s
FP64 (PCIe / SXM2)
7 / 7.8 TFLOPS
CUDA Cores
5,120
Tensor Cores
640 (1st Gen)
Сравнение

V100 или игровая RTX 4090

Главное преимущество V100 перед игровыми картами — скорость вычислений двойной точности (FP64): 7–7.8 TFLOPS против 1.3 TFLOPS у RTX 4090, у которой FP64 работает на 1/64 скорости FP32. По объёму и скорости памяти RTX 4090 впереди: 24 ГБ GDDR6X и 1008 ГБ/с против 16 ГБ HBM2 и 900 ГБ/с.

Пропускная способность (HBM2) 900 GB/s
У RTX 4090 — 1008 ГБ/с, у RTX 4080 — 716.8 ГБ/с
Scientific FP64 Performance 7.8 TFLOPS
У RTX 4090 — около 1.3 TFLOPS: 1/64 от 82.6 TFLOPS в FP32

V100 vs RTX 4090 (Игровая)

ПараметрTesla V100RTX 4090
FP647–7.8 TFLOPS≈1.3 TFLOPS
Видеопамять16 GB HBM224 GB GDDR6X
Пропускная способность900 GB/s1008 GB/s
Потребление (TDP)250–300 W450 W
Преимущества

Ключевые преимущества

Память HBM2

Шина памяти шириной 4096 бит даёт 900 ГБ/с — больше, чем 716.8 ГБ/с у RTX 4080.

Двойная точность (FP64)

FP64 работает на половине скорости FP32: 7.8 против 15.7 TFLOPS у версии SXM2. У игровых карт на Ada — 1/64 от FP32.

ECC Коррекция

Коррекция одиночных битовых ошибок в HBM2 без потери объёма и пропускной способности — для многочасовых симуляций, где сбой означает перезапуск расчёта.

Решения

Для каких задач

Научные вычисления (HPC)

Симуляции на FP64: вычислительная гидродинамика, квантовая химия, конечно-элементный анализ.

Обучение классических моделей

CNN вроде ResNet и BERT обучаются со смешанной точностью FP16, если помещаются в 16 ГБ. Форматы BF16 и TF32 Volta не поддерживает.

Анализ данных

Обработка табличных данных на GPU: 900 ГБ/с HBM2 ускоряют операции, которые упираются в чтение памяти.

Этой карты сейчас нет в наличии

Наличие зависит от провайдеров. Карты, которые можно арендовать сейчас, — в каталоге.