Micron Technology HBM3Eの生産開始 …… 容量24GBで1.2TB/sの最大メモリー帯域

ANANDTechとVideoCardz.comの記事である。

https://www.anandtech.com/show/21277/micron-kicks-off-production-of-hbm3e-memory

https://videocardz.com/press-release/micron-starts-volume-production-of-hbm3e-memory-for-nvidia-h200-tensor-core-gpu

米マイクロンがHBM3E（HBM3 Gen2,24GB 8-hi HBM3E）の量産をはじめたそうだ。

容量は24GBで9.2GT/sのピン速度、メモリーの最大速度は1.2TB/sになる。消費電力は、他社の同等品と比べて最大30%削減できるらしい。

製品は、H200向けに供給される見込みである。即ち、LLM/GPGPU向けのメモリーとなる。

さらに今年の3月には36GB 12-hi HBM3Eのサンプル出荷を開始するようだ。たぶんこれも、Blackwell辺りに向けて開発されているのだろう。

尚、これらがコンシューマ向けのGPUやメインメモリーに使われる見込みは今のところ無い。帯域幅は広いがコストが数段割高で、実装面積が大きく、帯域幅が広いが故にGPUやCPUコアの熱量が同じクロックでも帯域増加による処理サイクルが増えることで、一緒に増加することになるからだ。即ち、メモリー側の電力を抑えても演算ロジックや広がった帯域側の発熱が増えるので、相対的に電力消費が増えてしまう上に、コストが上がるのだ。もっと言えば、それだけタイト（密な）帯域幅を使っても、それだけの帯域を使い切って性能が大きく上がる用途が少ないため、コストと投資における割が合わないのだ。

少なくともメモリーとしての販売単価がDDRメモリーぐらいまで下がってくれば、上位で使われる日もくるかもしれないし、DDRの発展が限界を迎えればHBMに置き換わるかも知れない。ちなみに、BlackwellのGPUでもGeforceやRTXで使われるという噂は今のところないはずだ。機械学習用のHopperの後継品では上記した36GBのHBM3Eが採用されるだろうと推定されているが、5090はGDDR7を使う方向である。