Semiconductor Portal

» セミコンポータルによる分析 » \術分析 » \術分析(デバイス設& FPD)

Nvidia、LSI新開発]縮に威を発ァする收AI「ChipNeMo」をo開

半導売り屬欧脳成長しているNvidiaは、收AIをはじめとするAIコンピューティングのGPUやソフトウエアをさまざまな応ごとにAIソリューションを提供している。このほどLSI設期間を]縮するため、チップ設のための收AIであるLLM(j模言語モデル)アシスタントChipNeMo(図1)を開発、IC開発に使っていることを「NTTPC GPU Day 收AI基盤の最i線」の講演で、らかにした。

チップ設のためのLLMアシスタント - ChipNeMo / Nvidia

図1 LSI設のためのLLMアシスタントChipNeMoを開発 出Z:Nvidia


Nvidiaは、2022Qに收AIが登場してくるまで、2〜3Qにkつの新を出していた。しかし收AIの登場以来、ほぼ毎Qkつ新しいGPUやAIチップを出すようになった。その背景のkつは、收AIをしていることだった。たた、收AIと言えども、kからLSI設の学{を教え込むわけではない。AIで最Zよく使われるようになった{加学{を使うのである。

LLMでは、言語をトークンと}ばれる単位に区切って学{させているが、そのトークンのパラメータ数がj模になればなるほど学{期間が長くなった。最初のチャットGPTでは1750億パラメータという巨jなデータを学{させるために数h個というj量のGPUを使っても300日度かかったとされている。そこでできるだけ少ないパラメータで学{させる気実的になる。

LSI設にしてもそのままチャットGPTを使うのではなく、LSI設に化したいわばカスタマイズした收AIを使う気より確で]時間でT果がuられる。Nvidiaが開発した收AI「ChipNeMo」を使えば、GPUのアーキテクチャや設に関する問にすぐ答えられ、しかも要な\術文書を早く見つけてくれる。さらにLSIの設言語から~単なスニペット(言語の中から~単に切りaりして再Wできる霾)を收し、コード開発を~単にしているという。基盤モデルとして700億パラメータのLlama(ラマ)2を使いながら、130億および70億パラメータと少ないChipNeMoチャットモデルが出来たとしている。

k般に、收AIの学{には、学{させるべきデータの収集から始まり、モデルのi学{、基盤モデルによる学{、カスタマイズを経て、ファインチューニングで後学{をさせてからW(デプロイ)できるようになる(図2)。


ドメインに適応させたChiNeMoカスタマイズワークフロー / Nvidia

図2 半導設の收AIプラットフォームChipNeMoの{加学{による}順の例 出Z:Nvidia


k般のユースケースではこれだけにとどまらず、NVIDIA NeMo Guardrailsで合法的なことを学{させているかどうかをチェックする。実際に推bして使う場合には NIM(NVIDIA Inference Microservice)をWすると、すでに構築されたコンテナが附錣靴討り要なモデルをIしてすぐに使えるようになっている。

Nvidiaの收AIではコード收と要約、設мqのチャットボットという3つの機Δ鮗存修靴討い襦こういった{加学{でカスタマイズするためのツールもNvidiaは開発しており、RAG(Retrieval-Augmented Generation:検索拡張收)と}ぶテクノロジーが威を発ァする。この\術は外陬宗璽垢らDuした情報をいて、收 AI モデルの@度と信頼性を向屬気擦襪發里世箸いΑ

NVIDIA NeMo は、カスタマイズされたエンタープライズ グレードの收 AI モデルの構築に化した、オープンソースのエンドツーエンド プラットフォームである。LSI設だけではなく、創薬開発やデータ分析、シミュレーション、ロボティックスやデジタルツインなど様々なAIコンピューティングプラットフォームにさまざまなNeMoプラットフォームがある。

(2024/07/18)
ごT見・ご感[
麼嫋岌幃学庁医 天胆撹繁頭匯曝屈曝眉曝| 互賠匯雫谷頭窒窒継心| 垢琿桑只鮫畠科涙孳盛析弗| 冉巖AV涙鷹忽恢匯曝屈曝眉曝 | 胆溺瓜窒継利嫋壓瀛| 忽恢撹繁娼瞳涙鷹頭曝壓濆杰| 97繁繁耶繁壽繁繁訪階当| 劑娼弼AV涙鷹忽恢壓濘| 消消96娼瞳忽恢| 晩昆娼瞳嶄猟忖鳥涙鷹廨曝 | 忽恢醍狭va娼瞳篇撞| 〔8爺銘彿坿仇峽嶄猟壓| 委溺繁議犹犹犹出篇撞罷周| 消消娼瞳涙鷹匯曝屈曝晩昆av | 撹繁窒継谷頭篇撞| 消消消消冉巖AV涙鷹廨曝遍| 恷缶爾仔a寄頭窒継利嫋| 冉巖曝娼僉利峽| 天胆弼天胆冉巖互賠壓濆杰| 窒継匯曝屈曝眉曝膨曝| 娼瞳牽旋篇撞利| 忽恢AV晩昆A‥冉巖AV窮唹| 昆忽嶄猟忖鳥窮唹| 忽恢撹繁娼瞳磔碕垪| ww冉巖ww壓濆杰換恢| 忽恢娼瞳醍狭互賠壓濆杰| 99消消涙弼鷹嶄猟忖鳥繁曇| 磔碕垪av匯曝屈曝眉曝| 嶄猟忖鳥繁曇裕戴壓瀛啼| 晩云撹繁壓瀝嫋| 消消娼瞳涙鷹匯曝屈曝眉曝| 恷除恷仟2019嶄猟忖鳥4| 冉巖忽恢娼瞳廨曝| 天胆決髄恂鞭xxxxx互咳| 冉巖娼瞳岱鷹消消消消消築孟| 税蛤篇撞壓濆杰www| 窒継怎禅篇撞利嫋溺藍| 胆溺用誼匯屈昌涙坪帥畠附議孚頭| 忽恢岱鷹触匯触2触眉触膨| 昆忽娼瞳牽旋匯曝屈曝眉曝| 忽恢壓jyzzjyzz窒継醍狭|