Semiconductor Portal

» 寄M » 寄M(半導応)

ニューロチップ説 〜いよいよ半導の出番(1-2)

1章「ニューロチップをDり巻く況〜いよいよ半導の出番(1-1)」では、これまでのアルゴリズムの進化や半導チップが登場する背景について紹介したが、後半ではニューロチップの\術の流れについて紹介する。この寄Mは、元東の半導エンジニアであり、元半導理工学研|センター(STARC)にも在籍していた瀬啓がニューロチップの現Xを語っている。(セミコンポータル集室)

著v: 元半導理工学研|センター(STARC)/元東 瀬 啓

1章:ニューロチップをDり巻く況 〜いよいよ半導の出番
1.1 アルゴリズム進化/システム応の広がりは指数関数的
1.2 満をeして半導登場
1.3 エッジUでのビジネスt開が加] 〜Z、ドローン、ロボット OUのDり込みも〜
1.4 低消J電化
1.5 2つの流派があることを常に認識しておく要がある
1.6 まだ2合`、3合`に到達した段階

1.3 エッジUでのビジネスt開が加]〜Z、ドローン、ロボット、OUのDり込みも
エッジUの当初(2012〜2015Q)の動きも、2012QのAlexNetの成功を爆剤として発tしてきた。なお、AlexNetとは、画鞠Ъ韻涙kつであるk般認識にディープラーニングを適し、際立った認識率改を成し~げたCNN(Q込みニューラルネットワーク)の中のkつの通称である。b文の筆頭著vのAlex Krizhevsky(現在Google社、当時トロントj学でHinton教bのグループ)の@iがy来である。そこには、IP/FPGAt開をターゲットとしたもの、比較的軽い画欺萢のもの、さらにはフラグチップUのもの、と3|のテクノロジーがあった。それぞれCPUおよびGPGPUに瓦靴董▲縫紂璽薀襯優奪肇錙璽/ディープラーニングにより最適化されたv路アーキテクチャの構築・実△鰆`指した。

IP/FPGAt開では、TeraDeep社(FPGA)、Synopsys/Cadence社(v路IP)、そしてデンソー(FPGA)などがCNNのIP/FPGA実△慮|開発をしていた。CNNはパターン認識、に画鞠Ъ韻俣Hくの優れた長を~し、ディープラーニングのど真ん中に位するネットワークである。CNNをウェアラブルデバイスに適して、比較的軽い32x32ピクセルクラスの画欺萢をさせていたのが、中国科学院CAS、f国KAISTなどである。

フラグチップとして、比較的ハイエンドの応を掲げ研|していたのが、Qualcomm(Zeroth Project)、IBM(TrueNorth)、などである。Qualcommはスマホからロボット/Zまで、IBMはエッジU般(広くは人間のN)をターゲットとした。

こういった当初の動きをpけて、現在の2016Qには、アルゴリズムがk定の完成を見たため、実チップを作り、応やビジネスをt開しようとしている動きがある。さらにロボットやドローンなどの運動U機Δ鮗△靴織船奪廚眦仂譴兄呂瓩討い襦

[定されるほとんどのエッジUアプリで度差はあるが、実ビジネスでの使をT識したチップが発表されている。いくつかを紹介する。まずはハイエンド応(高性GPU)の分野である。

ハイエンド:クルマ/W心・O動運転GPGPU(Drive-PX2:nVidiaTesla M40をクルマに化した)
2016QCESで発表があったように、本来サーバーのGPGPU(@のグラフィックスプロセッサ)がエッジ、すなわち実行に使されようとしている。W心W運転システム開発(O動運転と称している)に高性ΔGPU(Teslaシリーズ)が投入されている。ディープラーニングによる高度の画鞠Ъ院△気蕕砲録靴靴ぅ▲襯乾螢坤爐亮△寮蓆~けを`指している。現Xは消J電300Wで、まずは開発/高級Z(High End)官との位づけである。

ミッドレンジ(@コア):スマホQualcomm社、ドローンMovidius社などの
次に位しているのが、Qualcomm社とMovidius社の動きである。来のQ社の培ってきた@のコア(CPU/GPU/DSP、ベクターVLIWプロセッサ)をIPとするチップをx場に投入している。消J電は1W以下。QualcommはSnapdragon 820でスマホのマルウェア敢へのt開と画鞠Ъ叡へのt開を`指し、SDKをリリース(2016Q後半)して開発vと共同でアプリケーションも同時に創出して行こうというもくろみである。次機|830で本命の運動Uアプリを狙うのだろうか。後vはドローンへのt開およびGoogleとのx場開・開発で連携を行っている。

に化したASSP:Z/W心、ドローン、ロボット、IoT、スマホ、スマートグラス向け
ASSPとしてはKAIST (最適化、機Σ宗低消J)のチップと、MIT-NVIDIA共同やIntelのチップがある。KAISTは応化型(ロボット、ADAS、HMD/AR、IoT)のASSPチップを◆▲咼献優垢悗漣t開は未数ではあるが、RTを要する。にRNN(Recurrent NN)とRL(Reinforcement Learning)を実△靴討い襪里R`に値する。
MIT+NVIDIA(CNN)、Intel(kZf法)は本格的なv路基礎最適化を検討している。ivは、CNNに化し要な柔軟性をeちながら、極度にv路構成を最適化し、低消J電性を実現している。なお、この最適化検討への半導の本格参画が始まっており、Rする要がある。

コアとなるアルゴリズム(CNN)をベースとしjきな踊り場(ビッグビジネスのポテンシャル)を`指して、満をeして半導が登場する。通常なら成長期から成^期に時間をXけて進むが、@でアプリケーションx場を立ち屬欧襪汎瓜に、よりASSP的なチップも同時に投入される気配もあり、成^までの期間が]い可性もある。さらにR`すべきは、Jにクルマ、ロボット等の判動作・予Rの運動Uが実∈僂漾奮慍馮表レベル)である点だ。Qチップの詳細に関しては次v以T報告する予定である。

1.4 低消J電化
図3はエッジ応を念頭にいた際によく使される性指Y(演Q]度/消J電)を図2のチップ(「ニューロチップ説 〜いよいよ半導の出番(1-1)」参照)に瓦靴謄廛蹈奪箸靴真泙任△襦Fの次元数、16/32bit、w定/浮動小数点、メモリ|類、混載、チップ間通信の~無、デザインルール世代差等々において不な点があるため、の向として捉えてほしい。次vわかるJ囲での詳細を報告する。国際半導v路学会として最jのISSCC 2014でスタンフォードj学のHorowitz教bが講演されたデータ(参考@料13)を参考として図中に加えている。並`度を屬欧討癲中間値処理/T合処理時のデータ・パラ-メータへのアクセスが]要Pとなる。外陬瓮皀蠅悗離▲セス]度(内陬瓮皀蠅悗離▲セス]度の数倍(容量))が](])要因となる。さらにムーアの法Г慮堕cもあり、Beyond MooreとしてデバイスレベルでHくのDり組みも期待されている。ニューロモルフィックチップであるIBMのTrueNorthの値を参考として入れている。R4を参照いただきたい。

図3 ニューロチップの性Δ離肇譽鵐鼻]度/消J電) :IBM TrueNorthに関してはR4を参照
図3 ニューロチップの性Δ離肇譽鵐鼻]度/消J電) :IBM TrueNorthに関してはR4を参照

1.5 2つの流派があることを常に認識しておく要がある
図4は人間のN/人工Δ亡悗靴董∩濃劵譽戰襦僻焼)からシステムレベル(人間のN/人工Α砲泙任陵彖任鬟魯ぅ▲薀ーとして表現した図である。2つの流派とは、ニューロモルフィック(様)工学の流派(「ニューロチップ説 〜いよいよ半導の出番(1-1)」の参考@料1)と、工学的に成功しているディープラーニング・ニューラルネットワーク(狭I)の流派である(Cはその関連\術)。繰り返しになるが、ivは神経ネットワークモデルを集積v路屬忘胴獣曚靴董逆にN機Δ魏しようとすることを`的とした流れで、Nの高性Α高機Δ鬚茲衞亙錣任る。

2つの流派を理解することは2つ理yから_要である。kつは情報をしく理解するため。二つ`は、N(神経科学)を学ぶことにより基礎(パーセプトロン)が出来、機Α蔑磴┐丕達裡痢砲構築され、\法(ディープラーニング)が加わり、現在に至ることができる。そのNの革新性を左讐修垢襪海箸半導にとってニューロモルフィック工学そのものだからである。

流派の違いを理解しやすい代表的なポイントは、ディープラーニングでは積和演Qを連値として処理・伝鬚垢襦それに瓦靴謄縫紂璽蹈皀襯侫ックでは情報が`g的(0, 1)で伝鬚魯好僖ぅングで行うことがHい。低消J電性およびNの動作を模倣しやすい性をeち合わせている。ivのR3に記載した2つの点が当CのタKすべき課である。

図4  2つの流派:人間のN/人工Nを`指す二つの流れ/ニューロモルフィック工学は半導工学の語で、ディープラーニングは情報工学の語
図4 2つの流派:人間のN/人工Nを`指す二つの流れ
ニューロモルフィック工学は半導工学の語で、ディープラーニングは情報工学の語

1.6 まだ2合`、3合`に到達した段階
図5は人工γ成までの念図である。到達までいくつもルートがあるようだが、図4の笋両霾鷙学UにZい(理解しやすい)ルートをイメージして作成してある。単センシング( 1合`)を複数Dり込み、相互関係をパターン化( 2合`)、さらに時U`でパターン化し、判を加えPlan-Do-SeeをvすことによりO/O動化が可Α3合`)になる。顕著な例としてはZ載カメラ(O路プロファイル)とZのハンドル角度のマルチモーダル化でのO動ハンドル操作(NVIDIA)実証と、Alpha Go(CNNで19x19の盤屬塁白の石をパターン認識し、MCTS(Monte Carlo tree search:モンテカルロv探索)で次のk}をめ、啣蹴{でO己鍛錬(R5))のMWがある。現在は行動耀u(3合`)まで見通しがあるX況と理解している。

3合`のレベルは、D△気譴心超(というルール)の下でのO化である。「学鬚任藁匹だ績だがとか、高]O路では}放し運転ができるが」といった環境では良いが、いざ社会(会社、コース、k般O)に出ると使い颪砲覆蕕覆ぁそのような場合の}段は2つある。kつは限cまで教師(教師パターン)をTすること(4合`へのO)である。eないシーンを可Δ文造蝓⊃祐屬Tし学{を繰り返すイメージである(実際はもっとスマートな桔,あるかもしれない)。

もうkつは、Oら社会なり科学のルール(参考@料12)を擇濬个擦襪海箸任△襦8生耀uも環境耀uはほぼ同じもので、「子供=小さい、転びやすい、・・・O路に飛び出してくる」と行った言語念を人工ΔO動で作り出す(ルール作り)ことが基本なのだと理解できる。Δ砲茲覿砲瓩峠斉陲淵襦璽觝遒蠅砲茲蝓¬瑤離如璽拭τX況に瓦靴洞砲瓩乍~効に働くξ(|極の@化ξ)が擇濬个擦襪里任呂覆いと[気垢襦二の記念碑に向け、まだ見ぬ(おぼろげ)新のアルゴリズム構築を[定しハード/ソフト/組EをT集し動き出しつつあるX況だといえるだろう。

そして今、半導の出番が来た。そのj筋の流れは見えてきた。v路アーキテクチャ\術、デバイス\術(ニューロモルフィック工学)による効率化・機Σ宗Δよび\術革新が期待されている。

図5:人工実現までのステップ(参考@料 2、10、11)
図5:人工実現までのステップ(参考@料 2、10、11)

まとめ
予[以屬鉾焼関連(にf国KAISTと盜Venture企業のMovidius社等)の動きが]い。GoogleのTPUもインパクトがある。次の1}はJに]たれていると予[され、その次の次の}を]つ要があると思う。ソフト関連のフレームワークでは、後から参入した会社の気勢いがあると聞いている。そういった後}~WのX況をみると半導にとり、今が旬なタイミング(基礎検討含め)と見ることができる。

1章・・・ニューロチップをDり巻く況〜いよいよ半導の出番(1-1)
    ニューロチップをDり巻く況〜いよいよ半導の出番(1-2)
2章・・・ディープ・ニューラルネットワークのニューロチップへの実◆舛修隆所は!!〜
3章・・・v路アーキテクチャ、デバイス、そして来動向(仮)

(2016/06/14)


R1〜3は、「ニューロチップ説 〜いよいよ半導の出番(1-1)」を参照

R4:ニューロモルフィックのj気離船奪廚そうだが、IBMのTrueNorthは積分発型のニューロンモデルを採している。イメージとして10〜100発(|値で調D可Α砲曚鋲が来てポンプアップして|値をえると、スパイクが出る。通常のFloating-operations per second(FLOPS)等と異なり、スパイクの数を数えるsynaptic operations per seconds(SOPS)を]度指Yにいるしかない。そのことから比較はT味がないとも指~されている。敢えて、x2にしてプロットしている。kvのイベント(発)が最終出(判定T果)に瓦靴討匹里茲Δ粉麝燭鬚發燭蕕垢の半定性的な説が欲しいところである。なお、|値を屬欧董△茲蠅泙个蕕米虻遒箸垢襪半嫡J電はリーク電流がj半となる場合があり、その場合には性Δ極端に落ちて見えるので要RTである。チップへの画菊のためにCMOSイメージセンサの代わりに別なスパイク型のイメージセンサ(DVS/iniLabs)が使われている。

R5:というルールにい、`的を与えられ、啣蹴{法というコンピュータのW点(H並`)を最j限にWして鍛え屬欧襦AlphaGoの挙に瓦垢啣蹴{のzRichard S. Suttonの言、”AlphaGo is missing one key thing: the ability to learn how the world works - such as an understanding of the laws of physics, and the consequences of one’s actions”.(参考@料12)。

参考@料
1〜9までは、「ニューロチップ説 〜いよいよ半導の出番(1-1)」を参照

  1. 松_l, 「人工Δ録祐屬魃曚┐襪〜ディープラーニングの先にあるもの」, 角川書, 2015Q3月。
  2. kh裕志, 「Nの動作原理を解へ @人工Δ悗虜]のO」, 日経エレクトロニクス, 99〜111頁, 2015Q2月.
  3. Business Insideの記, “An AI expert says Google’s Go-playing program is missing 1 key feature of human intelligence”, 啣蹴{のzRichard S. Sutton(カナダ アルバータj 教b)のコメント. 2016Q3月12日.
  4. Mark Horowitz, “Computing’s Energy Problem (and what we can do about it), 2014 IEEE International Solid-State Circuits Conference, Session 1, Plenary 1.1, p10, 2014Q2月
ごT見・ご感[
麼嫋岌幃学庁医 冉巖av晩昆av涙鷹av| 忽恢18鋤仔利嫋窒継鉱心| 97犯消消窒継撞娼瞳99| 刊海猷沃議嗤健岻絃hd嶄猟| 忽恢寄頭51娼瞳窒継鉱心| 67194撹繁返字壓| 溺繁瓜槻繁髄夊篇撞窒継| 嶄猟忖鳥涙鷹窒継消消9匯曝9 | 忽恢戴娼瞳匯曝屈曝眉曝膨曝 | 晩云涙触鷹窒継匯曝屈曝眉曝| 冉巖忽恢匯曝屈曝眉曝 | 忽恢娼瞳窒継寄頭| 99娼瞳篇撞99| 晩昆繁曇涙鷹匯曝屈曝眉曝消消| 畠科戦桑acg今竒藍揖繁云徨| 55匚弼66匚弼忽恢娼瞳篇撞| 溺繁傍黙槻繁祥埆吏戦| 嶄猟忖鳥+岱鷹+嶄猟岱鷹www| 晩云互賠篇撞壓www弼| 冉巖av喟消涙鷹匯曝屈曝眉曝 | 忽恢寔糞戴壓濆杰| 匯雫谷頭窒継壓| 天胆匯曝屈曝晩昆忽恢| 冉巖娼瞳嶄猟忖鳥岱鷹眉曝| 拍菅篇撞壓濆杰還斛瀟待| 晴晴晴返字壓炒侘長杰| 課課唹垪及匯匈| 忽恢互賠嶄猟忖鳥| a雫娼瞳湘湘湘寄頭窒継心| 晩胆溺寄海揚b| 冉巖av涙鷹匯曝屈曝眉曝嗇剏唹垪 | 91冉巖徭裕返字壓濆杰| 爺銘〔壓濆挈| 消消消忝栽消消| 恷仟冉巖繁撹涙鷹利www窮唹| 冉巖忽恢娼瞳天胆晩昆匯曝屈曝| 胆溺穀和郭j8俤俤只鮫| 忽恢娼瞳溺壓濆杰| 97娼瞳忽恢97消消消消消窒継| 爺爺握耶爺爺握耶爺爺握耶| 匯曝屈曝眉曝窒継壓濆杰 |