Nvidiaの成功に学ぶ(その6)
今vのブログでは、Nvidia社の直Zのx場認識と業戦Sに関する筆vのR`点をまとめる。同社は、2月24日(盜饂間)に発表した2021Q度期のQ要にて、売峭發iQ度比53%\(166億7,500万ドル)、営業W益が同59%\(45億3,200万ドル)、純W益が同55%\(45億3,200万ドル)と、j幅な\収\益を報告した(参考@料1)。 垉5Q間に、売幢Yを\(5Qで3.55倍)させた最jの要因は、データセンター向けGPUと、ゲームや仮[通貨のデータマイニングの@GPUであるという(参考@料2、 3)。ウェーハファウンドリ企業からのウェーハ供給が]っているX況でも、同社業績は驚異的にPびている。

図1 Nvidia社の業分野毎の3ヵ月Qの推 米閏劼例Q次Qは、1月)
2020Q後半より、データセンター向け売り屬欧\している。
出Z Nvidia社が盜SECに提出したQQのFORM-10K@料より、筆vが作成した。
ホモジーナスな並`化によるアクセラレーション戦S
同社の\術戦Sは、この20Q間k棖靴董GPU(並`データ処理アクセラレータv路)によるCPUの処理の高]化を@化する」とのことであった。General-Purpose GPU (GPGPU)のためのソフトウエア環境D△鮨覆瓠GPUのアプリケーションを画欺萢以外の覦茲砲盥めた。「てのCPUにGPUをける」を`指すかのような勢いである。同社のArm社A収の動きも、そのように考えると分かり易い。
CPU設と協調すると、パワーマネジメントの裁量の余地がに広がる。
但し、アクセラレータv路コアに実△垢戮要素v路は、処理するデータや適するアルゴリズムによって違いうる。って、同社は、PCゲーム(@GPU)、Professional Graphics処理、データセンタ、等のマーケット・セグメントに適合させたGPU商をラインナップしてきている。
それらの中でも、現在最も啣修靴討い襯札哀瓮鵐箸蓮◆屮如璽織札鵐拭蔀」だろう。昨Q5月に発表した「A100(TSMC社の7nmプロセス採)」は、チップC積826mm2、搭載トランジスタ数540億以屐HBM(High Bandwidth Memory)の容量40GB、2チャネルのHMBからの合転送バンド幅は1.56TB/sという驚くべきチップである。スパコンからAIをカバーし、ディープラーニングにて主流とみられる半@度(16ビット)Qの時に、1チップで1ペタFlops以屬離好撻奪をeつ(参考@料4)。
同社のGPGPUは、「ホモジーナスな並`化によるCPU動作のアクセラレーション」である(図2)。 同じマイクロアーキテクチャをeつ「プログラマブルな処理v路群」を並`化している。
k機▲好沺璽肇侫ンやZ載ECUのチップメーカーは、通常、ヘテロジーナスな並`化を進めている。消J電の削を_する(データフォーマットやアルゴリズムごとに最適化した、様々なアクセラレーションコアを搭載して最適なv路で処理した気、消J電がより小さくなる)からだが、データセンターやスパコンといえども、消J電は問なはずである。
この路線の違いは、今後、どのように進むのか?端Uはヘテロジーナス、データセンターUはホモジーナスと分かれるのか?それとも、消J電や性Π奮阿痢他の要因がx場での優劣を左するのか?その点について、筆vの考えを以下にまとめてみた。
図2 並`化のk般形 Nvidia社は「ホモジーナスな並`化によるアクセラレーション」を戦Sとするが、スマートフォンやZ載ECUチップは、通常、ヘテロジーナスな並`化によってアクセラレーションする。データフォーマットやアルゴリズムごとに最適化した、様々なアクセラレーションコアを搭載することで、最適なv路で処理すれば消J電が小さくなるからである 出Z:Nvidiaの成功に学ぶ(その5) (2021/03/19)
業績好循環の背景の菘世ら: ソフトウエア開発vのХeDりけの効果
Nvidia社は、Oらの並`処理v路アーキテクチャを流布すべく、グラフィック・ボードメーカーやアプリケーション・ソフトウエアの開発v達を嗄にサポートし、現在の成功に至っている。成功要因は、「開発v達のХeをDりけた」だとのCがあっただろう。
同社は、プラットフォーム戦Sとして、以下に関する\術を_しているという。
・GPUv路
・相互接\術(NV-Link、NV-Switch)
・ソフトウエア(GPGPU、Q|ライブラリ、等)
・_要アプリケーション(3DグラフックスやAI)のアルゴリズムへの見
・システム・サポート、および
・サービス
それらを総合するT在である「プラットフォーム」が、独Oの価値を提供し、その価値がHくの開発vからХeされているのだという。
峙にリストアップされた\術はいずれもjきな\術であるが、同社の「アーキテクチャへのこだわり」は、内陲寮賁膕箸鰊M的に育成するという点で、同社の社内でも、また、顧客笋粒発vでとっても「J憾果が高い教育戦S」であったのではないだろうか?「アーキテクチャ」の変化が著しいと、垉遒龍軌蘚蟀@が無Gになるからである。そのT果、社内/社外の両Cで、同社のアーキテクチャへのХeが咾泙辰燭里任呂覆いと思われる。
ZQ、ディープラーニング\術をベースとしたAI\術には、GAFA(Google、Amazon、Facebook、Apple)と}ばれるサービスよりの企業やO動Zの電▲瓠璽ーからの参入が相次いでいる。それら企業は、図3の崛悗飽する企業である。
k機Nvidia社は、集積v路のコアv路から戦Sをスタートさせており、図3の下層霾(テクノロジー開発)から、より崛悗縫汽檗璽箸魍判jさせて来た。
図3 集積v路設へのR&D予Qの投入争 寡化したテクノロジ企業も、サービス企業も、次世代半導開発に瓦垢R&Dを啣修靴討い襦―儘Z:筆v作成
今後、AI分野では、GAFA、電▲瓠璽ー、GPUメーカーを含む様々な企業が入り乱れたj争がt開すると思われるが、
・ スケーブルなv路であること
・ 世c中の開発v達からのХeをuてきた(幅広くツール提供を行い、開発文化として広める)
ことを2j理yに、データセンターにはNvidia社のチップが浸透しつつある。
AIでは、データセンターで行う学{(トレーニング)のデータ処理と、端で行う推bのデータ処理を同じニューラルネットワークで行うことが望ましいが、データセンターをU覇する\術は、端チップに搭載すべきAIアクセラレータv路を限定する可性があり、Nvidia社のコア\術は今後端笋砲盖擇峅性があるのではないかと思われる。
では、そのコア\術のマイクロアーキテクチャの次のステップは、どうなるのか?筆vは、Nvidia社の最Zの動向を、kつの仮説を元に今後Rしたいと思っている。
ネットワーク\術の啣
Nvidia社は、現在、ネットワーク\術の啣修砲Rしているかのように見える。 約1Qi(2020Q4月16日)、同社はイスラエルのネットワーク企業Mellanox Technologies社をA収し(参考@料5)、同社の\術を元にしたBlueField DPU (Data Processing Unit)という}び@のネットワークのU御と監のためのチップを早]x場投入した(参考@料6)。DPUは、ネットワークプロセッサをコアとし、ネットワークパケットの処理と高度なQoS(Quality of Service)を行うインターフェースチップのように筆vには見えている。
GPUとArm社の\術、DPUを合わせると、プロセッサベースのデータ処理ハードウエアとしてはフルセットが集まることになる。 同社は、CPUとGPUの統合の次に、その合v路へのネットワークインターフェースv路の与を考えているのではないだろうか?
図4 マイクロアーキテクイチャの進化(筆vの考え) CPUは、GPUと合時に嗄なスケーラビリティを耀uした。 今後、ネットワークv路とも合を`指すのではないだろうか?にその後、何を`指すのかを考えるべき段階にある。 出Z:筆v作成
IoTの時代に、端(PC、スマホ、Q|の業、O動Z等)の集積v路は、データセンターの集積v路群と協調動作する妓にある。アプリケーションを機Δ気擦襪燭瓩砲蓮▲如璽織札鵐拭爾箸寮橙は須となるからである(参考@料7)。
ネットワーク機Δ療合は、どのような統合v路を擇爐里世蹐Δ?単なる2チップの合なのか、それとも、アーキテクチャのレベルでの新しいアプローチが現れるのか?その動向は、常に気になる「次のステップ」である。
そして、にその先もあるだろう。 集積\術のj変革の動きは、現在、j争の最中にあり、次の次のストーリーも、そのj争の中で進化するのだろうと筆vは思う。
参考@料
1. Nvidia社の2021Q2月24日のプレスリリース
2. NVIDIA、売り屬穏嚢發癲,發躾呂硫穣[通貨ブーム、日本経済新聞 (2021/02/25)
3. Nvidia DGX A100, Nvidia社のホームページ
4. AIデータセンターの性Δ20倍に、NVIDIAがAmpere世代のGPU「A100」を発表、MONOist (2020/05/15)
5. WikipediaのMellanox Technologiesの項。IntelやXilinx、MicrosoftもMellanox TechnologiesA収に動いていたと言われている。
6. Nvidia BlueField データプロセッシングユニット Nvidia社のホームページ
7. NVIDIAがj賭けするデータ処理 (DPU) とは、Axion