NVIDIA H100 GPU는 TSMC N4 프로세스, HBM3 메모리, PCIe Gen5, 700W TDP 특징 가져~

- NVIDIA H100 사양

NVIDIA의 차세대 AI 가속기에 대한 일부 세부 정보가 발표 1시간 전에 유출되었습니다. 

Hopper 아키텍처 기반 NVIDIA H100이 TSMC N5를 사용할 것이라는 소문과 달리 NVIDIA는 오늘 최신 가속기가 맞춤형 TSMC N4 프로세스 기술을 사용할 것이라고 발표했습니다. 

트랜지스터 수에 대한 소문도 잘못되었습니다. 

이 모놀리식 GPU는 800억 개의 트랜지스터로 제작되었습니다. 

이 칩은 SXM 변형의 경우 최대 16896개의 FP32 CUDA 코어와 PCIe 기반 모델의 경우 14592개의 코어를 제공합니다.

NVIDIA H100에는 3TB/s의 대역폭을 가진 HBM3 메모리가 있으며 이는 A100보다 1.5배 더 많습니다. 

이 차세대 가속기는 80GB의 고대역폭 메모리를 갖추고 있습니다. 

기술은 변형에 따라 다르지만 SXM 모델에는 3TB/s의 HBM3 등급이 있는 반면 PCIe 기반 H100 GPU에는 2TB/s의 HBM2e 등급이 있습니다.

성능 면에서 NVIDIA는 A100보다 FP64, TF32, FP16에서 3배, FP8에서 6배 더 높은 컴퓨팅 파워를 주장하고 있습니다.

가속기는 PCIE Gen5 또는 SXM 폼 팩터를 사용합니다. 

후자의 TDP는 700W로 A100보다 정확히 300W 높습니다.

NVIDIA는 또한 오늘 두 가지 ARM 기반 Grace CPU 플랫폼을 출시합니다. 

하나는 600GB 메모리를 특징으로 하는 Hopper GPU와 결합된 Grace CPU를 특징으로 하는 반면, 다른 하나는 총 144개의 코어를 가진 2개의 Grace CPU를 특징으로 합니다. 

LPDDR5X 메모리가 장착됩니다. 

두 Grace SuperChip은 2023년 상반기에 제공될 예정입니다.