NVIDIA H100 с 64 ГБ и 94 ГБ памяти

По сообщениям, NVIDIA добавляет новые варианты на базе архитектуры Hopper.

Согласно недавнему обновлению списка PCI Device ID, NVIDIA может добавить больше вариантов ускорителя для центров обработки данных H100 Hopper. Один из авторов открытого списка PCI ID утверждает, что в разработке находятся модели на базе SXM5 с объемом памяти 94 ГБ и 64 ГБ. Тот факт, что эти карты будут использовать форм-фактор SXM5, позволяет предположить, что перед нами память HBM, возможно, HBM3.

Тем не менее, конфигурация памяти объемом 94 ГБ несколько необычна, и неясно, как именно конфигурируются стеки HBM. Однако это не первая карта H100 с 94 ГБ памяти, так как существует H100 NVL (для моделей с большим количеством языков) с такой же конфигурацией памяти. NVIDIA не объяснила, как достигается объем памяти 94 ГБ, но, скорее всего, это связано с производством HBM и урожайностью. Возможно, удобнее отключать слои в стеке, чем весь стек.

Кроме того, рассматривается модель на 64 ГБ, которая может быть достигнута с четырьмя из шести стеков емкостью 16 ГБ. По сути, это означает, что у NVIDIA скоро может появиться четыре варианта памяти для серии GPU H100, и это, вероятно, не полный список.

Стоит помнить, что H100 также был замечен с еще большим объемом памяти - 120 ГБ. Однако до сих пор не было официального подтверждения или даже утечки PCI ID драйвера, которая подтвердила бы такой вариант.

Подробнее:

https://videocardz.com/newz/nvidia-preparing-more-h100-hopper-cards-with-94gb-and-64gb-memory-options