Micron、24GビットのDRAMダイをTSVで8スタックした24GB HBM3を出荷
Micron Technologyがメモリ容量24GB(ギガバイト)で、転送レート(バンド幅)1.2TB/sという巨jなHBM(High Bandwidth Memory)メモリを開発、サンプル出荷を開始した。このHBM3 Gen2を開発した理y(t┓ng)は、收AIの学{に向け、学{時間の]縮を狙ったためだ、と同社コンピュート&ネットワーキング業靆 VP 兼 ゼネラル・マネージャーのPraveen Vaidyanathanは言う。

図1 開発したHBM3 Gen2メモリはプロセッサとセットで使うことがHい 出Z:Micron Technology
同によると、j模言語モデル(LLM)の学{に、巨jな容量で高]の転送レートをeつこのメモリを使えば、学{時間を30%]縮できるため、これまで3カ月かかっていた学{が2カ月で済むようになる。收AIに要なLLMは、何h億という巨jなパラメータを使うため、それに合わせたプロセッサだけではなく、メモリもそれ相応のが求められる。つまり、巨jなニューラルネットワークの演Qデータを処理するプロセッサと巨jなメモリは、k緒に基に構成されるようになる(図1)。
Micronは、收AIによってHBMの要はますます高まり、2022Qから2025Qまでの間にQ平均成長率CAGR50%以屬農長すると予Rする。サーバーなどのコンピュータはこれまでの@ではなくAIにRしたコンピュータとなり、メモリおよびストレージ容量はjきく成長するだろうと見ている。
開発した24GBのj容量は、現在量桵のHBMの容量よりも50%jきく、1.2TB/sの転送レートも同様に現在量桵のHBMよりも50%]い。また、消J電当たりの性Δ聾什瀑閏劼HBM2eと比べて2.5倍以屬世箸靴討い襦
図2 HBMメモリの外形は内陲8スタックしてもk般のメモリとそう変わらない 出Z:Micron Technology
メモリ容量を\やすため、1β nmプロセス(参考@料1)で]した24GビットのDRAMダイを8個スタックし、U御のロジック1個をスタックして構成した。ダイ同士を接するためにTSV (Through Silicon Via) \術をいた。来のHBM3と比べ、TSVの数は約2倍、パッケージの配線や配線間隔などを25%縮小したという。24GBのパッケージサイズは来のHBM3と同じ11mm×11mm(図2)。1β nmプロセスによる]は東広工場で(参考@料2)、TSVによるパッケージングは湾で行っている。
図3 HBM3 Gen2のロードマップ 出Z:Micron Technology
Micronは今後のHBMのロードマップも発表しており(図3)、来QにはHBM3 Gen2でスタックした8個のDRAMダイのスタックから12個のダイをスタックする36GBのHBM3 Gen2を開発、リリースを予定している。HBM3の次はHBM3Eになるだろうと、Vaidyanathanは語っている。
参考@料
1. 「Micron、1β nmノードの64GビットのDDR5x-DRAMをサンプル出荷」、セミコンポータル (2022/11/08)
2. 「Micronの広工場、1β nmの量忼荷を祝う」、セミコンポータル (2022/11/22)