Semiconductor Portal

» ブログ » インサイダーズ » KI憲の集積v路の日に向けて

人工Δ悗量O:AIリスクをえて

昨今の收AIブームはAIリスクへの懸念も巻きこしているが、それらに関するHくの議bを尻`に、櫃任蓮Digital-Transformation(DX)を進める企業や行組Eの業フローのをサポートするAI内泥廛薀奪肇侫ームのYシステムの開発が進んでいる。 今後、そのプラットフォームのW便性とコストダウン効果が確認されると、x場のと長挙や議会挙のダイナミズムによって、Q組Eの再が始まり、噞cや行組Eに新たな水平分業システムが現れるのではないだろうか?

MITによるAIリスクのサーベイ 

本Q8月、盜MIT(マサチューセッツ工科j学)のコンピュータ科学・人工Ω|所は、Jにo開されていた国際的なb文34PをU的に調hし、その中からAIの邵濺リスクに関する言及を777P抽出し、以下の7分野にてまとめてo開した(参考@料12)。

  1. 差別と毒性 (Discrimination & Toxicity)
    AI\術をいて、差別の\長、~害コンテンツの提供、偏見の推奨を行うリスク
  2. プライバシーとセキュリティ (Privacy & Security)
    可なく個人情報を推Rすることでプライバシーを侵害、データ洩、システムの不操作を行うリスク
  3. 偽情報 (Misinformation)
    ユーザーが好む情報提供を行ったり、誤情報を拡gしたりすることで、社会のk感やEプロセスを混乱させるリスク
  4. KTある行為vとK (Malicious actors & Misuse)
    偽情報拡g/監/プロパガンダ/サイバー兵_開発/詐欺のために、AI\術をKするリスク
  5. 人間とコンピュータの相互作 (Human-Computer Interaction)
    ユーザーがAIに埔蠅飽踊Tしてしまい、本来の思考やO性をじてしまうリスク
  6. 社会経済・環境 (Socioeconomic & Environmental)
    AI\術の導入が、権や富の集中、噞c/社会の混乱、環境汚、不平等拡jを膿覆垢襯螢好
  7. AIシステムのW性、故障、限c (AI system safety, failures, & limitations)
    AIが人間のU御を拒絶し、~害なξを耀uし、人間の`Yや価値茲肝するようになるリスク

峙の表現のように、ZQ\えているAIリスクの議bにては、「差別」、「偏見」、「KT」、「社会のk感」、「人間の価値茵廚里茲Δ福Å来の工学の議bではいることが少なかった、どちらかというと社会科学や人文科学Uの念語にて\術が議bされることが\えている。

そのような議bが\えた理yは、次のつの影xがjきいように思える;

  • AI開発にて人間の性と同等の機Δ篝Δ鮗存修靴茲Δ番`bむ\術vや企業が\えているため、AI\術の性h価でも、人間の性に関するh価基を流し始めている。
  • 歴史的にロボットやAI\術の高度化に警心をeって来た英櫃陵諭垢癖野の研|vが、懸念に関する発言を\やしている。
  • 2022QにChatBot型のAIサービスがo開され、に、TするQ@源の模と実現される性の関係を定量的に関係けるスケーリングГ発見され、来のAIの性ν襲Rが可Δ箸覆辰拭

しかしながら、「差別」、「偏見」、「KT」、「社会のk感」、「人間の価値茵廚里茲Δ別筱点やリスクのh価に、工学やO科学で行うような「実x」は困MなことがHく、yな|を設定しようとするのは如何にもMしい試みである。

ましてや、インターネット経yで国境を越えて行われると予[されるAIサービスにて世c中の誰もがpけ入れるができる「価値茵廚筺屮灰鵐札鵐汽后廚猟蟇IはMである。 「_要なのはダイバーシティをpけ入れることであり、C理/価値/宗教を世c統kしようとするのはむしろ~害だ」と、批判/反発されるのはらかであり、欖覿箸離妊侫.トY化ξがいかに嗄としても、に、歴史が古く様々な文化がモザイクのようにgらばるユーラシアj陸のHくの国々にては、壁のような困Mが待つに違いない。

に、インターネット経yで提供されるAIサービスのh価や検証にては、本的ともいえる「検証のMしさ」がある。それは、例えば、以下の点である;

  • AIシステム内のコアとなる霾のb理は本的に確率的であるため、同じ入に瓦垢觸侘は確定的とならない。
  • AIシステムへの「入パターン」には無限ともいえるにH彩な組み合わせがあり、ての入パターンに瓦垢覬答の良しKしをiには検証しきれない。
  • インターネット経yで不定H数の人達からのプロンプト入をpけ、M的にデータがmめ込まれ、影xをpけけるAIの「影xをpけた後の応答性Α廚鬟罅璽供爾了斑iに予Rすることはできない。

筆vは、これらの問は、 ZQのソフトウエアサービスでk般化して来た「Agileなソフトウエアの改良」では官しきれない問と思う。AI\術に期待されるアプリケーションにては、人間によるデリケートな判や応瓦梁經垢鯀世Ε▲廛螢院璽轡腑鵑Hく、「問が発覚した後にアップデートにて改良する」では済まないからである(R1)。


「AIは、投@に見合う価値を擇爐里」の議b

盜颪MITは、2024Q10月17日に、「期待外れだったIT革命、收AIは今度こそ経済成長をもたらすか?」としたレポートを発表し、これまでのAI\術が攵掚のPびに寄与することを疑問し、企業/行組Eのオペーレーションや研|開発の効率化/争啣修褒@することを_すべきとbじた(参考@料5)。

企業/行の「組E」には、その組E~のルールがT在する。 に、社会には「法」がT在し、Hくの分野で、「K」のh価判を可Δ箸垢訃霾鶸霹廚T在する。
それらルールの遵守は「確率的」であってはならず、旧来のコンピュータアルゴリズムのような確定的なb理によって確実に遵守する要がある。

i述の盜MITの指~は、AI\術の開発を、「人間の性の模倣」ではなく、「企業や行、もしくは、や研|所に△錣訌避Eの性を模倣し、啣修垢襪海箸魑瓩瓩討い襦廚藩解すべきだろう。

收AI\術は、コンピュータが人間の言語のようなPSな情報を処理するOを切り開いたが、噞cや行の組Eの運にては、確率的b理で操作するだけでは不科であり、ルールを確実に守るを求める。これらの指~は、AI設vに、確率的b理と確定的b理を融合させたComputingを求めていると思える。


企業間の効率化争に@するAI\術

本Q7月10日に、業家のNova Spivackは、Webブログにて、「O身が設立したMindcorp.ai社が、企業組E向けに、“Cognition”と}ぶ研|開発/分析/戦S検討型組Eの業~行プラットフォームを開発している」と発表した(参考@料6)。 同ブログは、”Cognition”を「AI+HumanのHybrid Systemであり、業を1万以屬離─璽献Д鵐箸мqをpけて進められるようにする業プラットフォーム」 と表現した。

図1 Mindcorp.ai社のCEOがb文中にしたCognitive AI システムの機Ε◆璽テクチャ(参考@料7) 出Z:Nova Spivack, et al.,“Cognition is All You Need”(2024)を元に、筆vが作成


同は、2024Q3月に、Mindcorp.ai社のメンバーとの立場で、「複数のエージェントのチームとHくの人間が協し業を進める”Cognitive AI”と}ぶ業プラットフォーム」の開発疑砲魍していたが、もしも、7月10日発表のCognitionシステムが3月発表の「Cognitive AIシステム」であるとすると、HくのAIエージェントと比較的少人数の人間担当vを合したAI-Human融合型 ITシステムによる、組Eの業(Work-Flow)の代換(DX)を狙っていることとなる。

3月発表のCognitive AIシステムは、j模な言語モデル(LLM)とHくの@的な機Ε皀献紂璽襪らなり(図1)、両v間を行き交うk|の内省的な動作によって出のデータを收し、に、そのデータを出した場合の影xh価を行い、問を引きこさないとのシミュレーションされた場合にそのデータを出するという(R2)。

画期的と思えるのは、その「AIエージェントと人間担当v達を合したAI-Human融合型 ITシステム」のを“AI”と}び、Hくの企業の業を表現可Δ福△弔泙蝓業プラットフォームのY形を`指している点である。DXの Yかつ@のプラットフォームの提供を狙っているといえる。

そのような組E業のj幅な効率アップを`指している「業プラットフォームのY形」のコスト争やW便性が実証されると、そのh価は、噞cや行組Eにjきなインパクトを与えるのではないだろうか?Nova Spivackは、7月10日のWebブログにて、"Mindcorp.ai Launches Enterprise Superintelligence" との表現でそのシステムをアピールした。


DXにより擇濬个気譴Δ訖靴燭平緤進業エコシステム

i記のようなHybrid型のプラットフォームが、企業や行組Eの業フローのを表現できるようになるとすると、Q企業やOEの業は、

  1. 基盤テクノロジー開発
  2. 業効率化プラットフォーム開発
  3. 業プラットフォームの運
  4. 業プラットフォームのメインテネンス
  5. 他の業プラットフォームとのインターフェース プロトコルの開発
に分解し、噞cや複数のOEのを、これら5|類の業プラットフォームの水平分業にて代換する「破s的イノベーション」が進みうる。

そのような水平分業化が合理的とみなされるようになるには、噞cに、「水平分業を行った気より効率的に業を進められる」とのコンセンサスが構築される要はない。(b)と(c)の業を行う業プラットフォームが開発され、社会実△気譟◆屬修離廛薀奪肇侫ームをいると、比較的少人数で(c)のタイプのビジネスを進めることができ、コスト構]が来よりも格段に低くなる」と証されてしまうと、その後は、x場のと長挙や議会挙のダイナミズムによって、DXがQ所に浸透してゆくだろうからだ。

そのように構]転換が進む場合に、噞cや行素組Eに派敕にこるとリスクは、図2のように、(A) 噞構]の国境を越えた水平分業化、(B) 個人のに及ぶ影x、(C) Ju権益勢と新興勢間のCo、W益配分構]や噞構]のj変化と分類し、再D理されうるのではないだろうか?


図2 (A)噞の国境をえた分業化と、(B)個人のに及ぶ影xがイタレーションし、(C) Ju権益勢と新興勢間のCo や W益配分構]や噞構]のj変化が進むのではないか? 出Z:筆v作成


その際には、もちろん、

  • この水平分業が擇濬个后加価値」をどのように配分するのか?
  • 来の業組Eがeっていた様々な「ノウハウ」をどのように値踏みするのか?
が問となるだろう。

Nvidia社の創業v/CEO であるジェンスン・フアンは、2024Q11月に開した同社の AI Summit Japan で、「すべての業c、すべての企業、すべての国が新たな噞革命をこす要がある」と語った(参考@料8)。
櫃任蓮Jに、ポスト收AIの段階のAI開発が咾進んでいると思える。

R圈
1. PCやスマホでの「Agileなソフトウエアアップデート」は、開発vとユーザーの両vのメリットとなったが、そのビジネスモデルを高度なAIサ−ビスにまで拡張することの是については、未だ議bが未成^と思われる。
ハードウエアに関しては、商]元企業や設vは、1994Qに成立したPL法(]饑嫻に 砲砲董のL陥に基づく被害に瓦靴討蓮提供vとしての責任を背負っていると理解されているが、ソフトウエア提供後の問の扱いは、ユーザーとの間の個別のM契約次であり、消Jvユーザーからは、サービス提供vへの責任{及は困MとみなされていることがHい。
AIリスクに関しても、2019Qに採IされたOECDのAI原Г泙任蓮◆屮機璽咼垢粒発/提供vの責任」が記されていた(参考@料3)が、2023Qの広プロセスでは、問への棺萓嫻い虜澆蟒茲サービスの開発/提供vではなく、Bに,辰燭のような表現に変された(参考@料4)。
2. 「B層」と「認層」の内省動作は、2021Qにセミコンポータルのブログにまとめた「Bする構]」に瑤襦併温憂@料910)。

参考@料
1. “What are the risks from Artificial Intelligence?”, 2024 MIT AI Risk Repository
2. Scott J Mulligan, “A new public database lists all the ways AI could go wrong”, the MIT Technology Review, August 14, 2024
3. 「OECD、收AIの頭で国際指針の見直しへ」、 OECDのAI原А(2019Q)
4. 「てのAI関係v向けの広プロセス国際指針」、広プロセス、(2023Q)
5. Rhiannon Williams, “AI could help people find common ground during deliberations”, in the MIT Technology Review, (2024/10/17)
6. Nova Spivack, “Mindcorp.ai Launches Enterprise Superintelligence”, (2024/07/10)
7. Nova Spivack, et al., “Cognition is All You Need”, (2024)
8. 「NVIDIA の創業v/CEO であるジェンスン フアンが AI Summit Japan で『すべての業c、すべての企業、すべての国が新たな噞革命をこす要がある』と語る。」Nvidiaのホームページ、 (2024/11/15)
9. KI憲、「人工Δ悗量O(3):「Bする構]」の_要性」、セミコンポータル、(2021/08/27)
10. KI憲、「人工Δ悗量O(4):Bする構]」、 セミコンポータル、(2021/10/07)

ごT見・ご感[
麼嫋岌幃学庁医 忽恢娼瞳涙鷹殆繁牽旋音触| 秉蕎瞳互賠壓濆杰簡啼| 來弼AV涙鷹嶄猟AV嗤鷹VR| 恂衽衽窒継弌篇撞| 瓜巷盃係扉悶議嶄猟忖鳥| 爺爺忝栽利弼嶄猟忖鳥| 冉巖av涙鷹晩昆av涙鷹利嫋喝| 措絃其然現伏試孚15| 忽恢天胆晩昆娼瞳某沃互効亂| 97弼裕裕弼玻玻際際握利嫋97| 晩昆繁曇匯曝屈曝眉曝窒継 | 99消犯峪嗤娼瞳篇撞窒継心| 來天胆vr互賠自瞳| 消消繁繁恂繁繁螺繁娼瞳| 卯皮母絃匯曝屈曝眉曝惟皮 | 匯云匯祇av涙鷹嶄猟忖鳥| 晩云a‥壓濂シ展瀁| 冉巖忝栽弼翆翆| 娼瞳忽恢窒継繁撹利嫋| 忽恢牽旋弌篇撞| 91利嫋窒継鉱心| 厘祥詭50謹議析溺繁邦載謹| 消課返字壓濂シ| 天胆冉巖忽恢頭壓濆杰| 冉巖天胆晩昆娼瞳消消| 尖胎頭返字壓濆杰潅盞冓啼| 膨拶忽恢娼瞳喟消壓| 鬼巷岱絃休椽鶴嶄猟忖鳥| 溺繁嫖揚斑槻涌窒継篇撞利嫋| 消消消玻玻玻消消母溺AA頭| 天胆爾秤互賠屁壓| 忽恢窒継av匯曝屈曝眉曝| 弼忝栽弼忝栽弼忝栽弼忝栽利| 忽恢胆溺復住篇撞| 99壓濆杰款瞳篇撞| 溺m俤疲距縮篇撞利嫋| 匯曝屈曝眉曝天胆晩昆忽恢| 撹定繁窮唹壓濂シ| 消消99冉巖利胆旋釈栽巉忽| 晩云窒継v頭匯屈眉曝| 冉巖晩恢昆忽匯屈眉膨曝|