ТензорFloat-32
| с плавающей запятой Форматы |
|---|
| ИЭЭЭ 754 |
|
| Другой |
| Альтернативы |
TensorFloat-32 или TF32 — это числовой формат с плавающей запятой, разработанный для Tensor Core, работающего на некоторых графических процессорах Nvidia .
Формат
[ редактировать ]Бинарный формат:
- 1 знаковый бит
- 8 экспоненты бит
- 10 дробных битов (также называемых мантиссами или точными битами)
Всего 19 бит умещаются в двойное слово (32 бита), и, хотя ему не хватает точности по сравнению с обычным 32-битным числом с плавающей запятой IEEE 754 , оно обеспечивает гораздо более быстрые вычисления, до 8 раз на V100. [1]
См. также
[ редактировать ]Ссылки
[ редактировать ]- ^ https://deeprec.readthedocs.io/en/latest/NVIDIA-TF32.html, по состоянию на 23 мая 2024 г.
Внешние ссылки
[ редактировать ] | Эта компьютерной инженерии, статья, посвященная незавершена . Вы можете помочь Википедии, расширив ее . |