NVIDIA Hopper GPUは1400億トランジスター内蔵？規模はGA100の約2.5倍に

NVIDIAではデータセンター向けGPUとしてGeForce RTX 4000シリーズで採用されるAda Lovelaceとは別にHopperと呼ばれるGPUを開発中ですが、そのHopperの最上位GPU、GH100では1400億以上のトランジスターを搭載される見込みとの事です。

データセンター向けGPU、NVIDIA Hopper

NVIDIA Hopper GH100 GPU Rumored To House Over 140 Billion Transistors In A Massive 5nm Package (wccftech.com)

NVIDIAでは機械学習や解析からデータセンターでの運用を想定したGPUを投入しており、現在最新鋭の最上位モデルはAmpereアーキテクチャーであるGA100 GPUを搭載するAmpere A100となっています。そんな、NVIDIAですが2022年中にこのAmpere A100の後継モデルにあたるHopperアーキテクチャーを搭載したGH100 GPUを開発中ですが、このGH100ではGPUの計算能力を示す指標の1つでもあるトランジスター数がGA100に比べて2.5倍ほどの規模になるようです。

Hopper 最上位GPU『GH100』では1400億ものトランジスターを搭載。5nmで超高密度設計

Hopper GH100 GPUについては、TSMC 5nmで製造が行われる予定となっているデータセンター向けGPUで、Ampereと似たアーキテクチャー構成であれば現行のGA100 GPUで搭載されている8192基のCUDAコアからGH100では18432基のCUDAコアへと2.25倍の規模で強化が行われる予定となっています。

そんな、Hopperアーキテクチャーの中で最上位モデルにあたるGH100についてChiphellの掲示板にてトランジスター数が明らかになりました。

老黄的琥珀100晶体管数目简直炸裂 – 电脑讨论 – Chiphell – 分享与交流用户体验

Chiphellに書き込まれた情報によると、GH100では1400億トランジスターを超える値になっているとの事で、現行のGA100 GPUが542億トランジスターである事を考えると約2.5倍近い規模向上になるようです。

GA100からGH100ではCUDAコア数が2.25倍に増えると見られている事からあるトランジスター数が2.5倍近く増える事は想定されていますが、そもそも1400憶トランジスターと言うがどれほどの規模であるのかと言うと表の通りになります。

コンシューマー向けハイエンドGPUであるGeForce RTX 3090で採用されているGA102 GPUではトランジスター数は283億でトランジスターの密度はmm2辺り0.45億となっています。

データセンター向けGPUでもGA100 Ampereの密度は0.66億、2021年11月に投入されたAMD Instinct MI250の密度は0.73億となっていますが、GH100 Hopperに関してはmm2辺りのトランジスター密度は1.5億となっておりMI250の2倍以上の密度になっています。

トランジスターの数が増えるほど消費電力が増え、密度が増えるほど冷却面では厳しくなりますが、GH100 GPUでは1000Wを超えるTDPになるのでは無いかと言われており現行のAmpere A100のように空冷式では間に合わず、DGX Stationなどで運用されている冷媒を使用した冷却や水冷などは必須となると見られています。

AMD Athlon Gold PRO 4150GEのベンチマーク出現。Core i7-6700並みの性能に

GH100ではダイサイズが900mm2に迫る大きさになると見られており、300mmウェハーから取れるダイの数は58個ぐらいにしかなりません。TSMC 5nmの歩留りは9割と言われていますが、1枚のウェハーからベストケースでたった52個しか作れない事となります。

30mm x 30mmで300mmウェハーの場合

TSMC 5nmでは製造単価がTSMC 7nmに比べて大きく高騰しており、その上で製造できるダイの数は非常に少ない事から、GH100に関してはGA100を搭載するAmpere A100の160万円を大幅に超えるような供給価格となるのは確実と言えそうです。

冷却面では強力なファンを搭載するサーバー用途でも空冷では厳しいのですが、ラックサーバーに収められるような形で水冷化や冷媒冷却をどのような形で供給するのかも気になる所です。