人工Δ悗量O(4);Bする構]
人工Δzと}ばれたマービン・ミンスキー (1927-2016)は、1961Qに、N内のModels(世cモデル、收モデル)とMind(R`とU御を行う)の間のB(内省)が性(Intelligence)を発現させるという仮説をeっていた(参考@料1)。 また、数学vであるチューリングに始まるQ複雑性理bも、証vと検証vからなる二つのQ機構の間のB構](Interactive Proof System)の証ξの高さにR`して来ている(参考@料2)。 そこで、本Mでは、両vに現れた「B構]」の類点と相違点をまとめてみる。 AIコンピューティングのがeつべきj構]を理解するためである。
ミンスキーのB構]
1961Qに書かれたb文(参考@料3、4、5)は、人工ΑAI)開発に向けて同が課と考えた案Pが`記されている。 イントロ陲費Tbの章を除くと、その本文は、以下の5章からなる。
1.検索動作 :The Problem of Search
2.パターン認識 :The Problem of Pattern Recognition
3.学{システム :The Problem of Learning Systems
4.画策定と問解 :Problem-Solving and Planning
5.抽化情報の抽出とモデル群 :Induction and Models
1章から4章までは@的に現れると[定する4|のアルゴリズムに関する課であるが、「それらのD△世韻任性が発現しuない」として5章をスタートさせている。
5章の骨子は、以下である。
・性の発現には、入情報からの抽化情報の抽出(帰納、Induction)が_要な役割を果たす
・Nの中に2つのO動作するQ機構であるModels(抽念群が作る世cモデルと收モデル)とMindがT在すると考えると、N内の動作を理解しやすい
・Mindは、Modelsと間気ModelsとBする
・Modelsを構成する抽化情報(群)には、サブマシン(群)が官してT在する
・ModelsのQ機構の入出インターフェースも、MindのQ機構の入出インターフェースも、Models内のサブマシンのサポートによって符イ宗淵┘鵐魁璽鼻法△泙燭蓮復イ宗淵妊魁璽鼻砲気譴討い襦呆って、Modelsのv路は、入れ子的(再帰的)構]をeつ)
以下、筆vの[気垢觸茲埔蠅亡泙鵑隻集修箸覆辰討い襪もしれないが、サブマシンやModelsはに次のような徴をeつと思われる。
・「モデル(a Model)」やサブマシンの動作を定Iするのは、サブマシンが記憶するデータ(パラメータ)群である。 モデルやサブマシンは、様々なや颪官した時の学{やトレーニングを通じて、それらデータ(パラメータ)群のより良い値を耀uする。
・Models(世cモデル群や收モデル群)は、「モデル(a Model)」の集合である。
・サブマシン群は、時折、動作を効率化するためにメインテナンスされ、O的に抽念を抽出する。 その抽念は、新たな「モデル(a Model)」であり、新たなサブマシンによってサポートされるとすべきかもしれない。
・耀uした抽念のサブマシンに関するデータは、画詰解や言語收のためのN内の符イ宗Encoder)や復イ宗Decoder)のv路の動作を定Iする。
・"a Model"もサブマシンも、複雑に階層化された内霍暑]をeちうる。Q々の階層がO的に動作する。
・サブマシンが動作すると、他のサブマシンやそのサブマシンO身の次の動作に影xを与える学{動作を引きこしうる。
ここでいう学{や抽化は、1度の処理で完了するlではなく定の集合へのオペレーションとなりうる。類瑤離如璽燭Dり込まれた時、または、何らかのT味で関連データが]期記憶にDり込まれた時に、学{は繰り返され、その繰り返しを通じて、抽念(帰納化、Induction)の新も行われるということであろう。
図1 ミンスキーの考えるNの中のModelsとMindの間の内省動作; 外陲竜(A)に関する情報は、N内に符イ宗淵┘鵐魁璽鼻砲気譴"a Model"を收する。もし、Bvから、「Aは何ですか?」と問われると、Mindは、Modelsを検索し、返答された内容を元に解答文章を作成して、Bvに返答する。
出Z:参考@料2〜4を元に、筆vが作成
Modelsについては、以下のような表現での説もある(図1)。
「Nは、N内のいくつかのサブマシン(もしくは、彼のN内にT在するModel)の振る舞いデータを符イ修靴峠侘することができる。 サブマシン群やModelsは、Nが、Bvからの問に応答する主である」。
筆vの理解では、サブマシンとは、次の通りである(R1)。
・Models(世cモデル群や收モデル群)を表現するハードウエア・プラットフォームであり、
・学{によって耀uした「内陬如璽拭廚鮓気法⊆,瞭情報を処理するQ機構
Mindと"State Machine"の違いについて
Mindは、参考@料4の中で、以下のように登場する。
「もし、N内の識を担う霾であるModelsと新たな問を收したり思考プロセスを管理したりする@霾であるMindの二つを、解T学的に識別することができるのであればBしはしやすい。 しかし、識を担う霾と、エンコードを行う霾を解T学的にも、機Cでも切り分けることができるとは思えない。なぜなら、識は、エンコード(符イ宗縫廛蹈札垢砲癲▲妊魁璽鼻壁イ愁廛蹈札后砲砲盪箸錣譴襪らだ」
つまり、Mindは、「Modelsのサポートの元に、新たな会B文章を收したり、思考プロセスを管理したりする@」としている(R2)。
Mindの動作はXv路(State Machine)に瑤襪、Xv路とは異なる。N内のにModels内のサブマシンは、Q々O的に動作しており、それぞれに「X」が定Iされうるためである。QサブマシンがO動作するため、Nに瓦靴特厭kの「X」をいうことはできない。
しかしながら、Mindは、Modelsに問(実としては、検索要求)を送ることによって、定の情報(a Model)を切り出し、そのサブマシンのXを読み出すことができる。 これは、定の情報(a Model)への「R`(Attention)」である。
Attentionとは
Attentionは、パターン認識の章(2章)で登場する表現である。 ミンスキーは、
「Bvが、Nに、『Aは何ですか?』とねると、Mindは、その問をエンコードし、Aに関するモデル("a Model")を検索し、"a Model"のXを読み出す(図1)」
との表現で、Mindをいている。
Mindが「Modelsを検索して定のサブマシンのXを読み出す(定の情報を切り出す)」動作をAttentionと}んでいると思えるが、その動作は検索をいたパターン認識動作としても理解されているのだろうと思われる。
"Attention"によって、Mindは、定のサブマシンから出をpけDり、その他のサブマシンの出を(ほとんど)無することになる。 って、Mindから見ると、R`(Attention)によって読み出された定"a Model"のXは、Modelsの「X」であるように見えるだろう。 その読み出された「X」にて「ModelsのX」を定Iすれば、Mindは、"Models"の笋林X,箸垢襪海箸發任るだろう。
とすると、Mindは、「定のサブマシンのXをエピソードとして読み出しuた情報を元に、表現やシナリオを收するv路」となりうるのではないだろうか? そのように仮定し、Modelsや"a Model"と、「表現(シナリオやエピソード)」の関係を図すると図2のようになる(R3)。
図2 Modelsと"a Model"と「表現」の関係 Mindは、Modelsの中から、定の"a Model"にRTをRぎ、その中の情報をいて、「表現」を組立て收しようとする; 出Z:参考@料4を元に、筆vが作成
Q複雑性理bにおけるInteractive Proof Systemとの比較
ModelsとMindとの間のB構](内省)は、Q複雑性理bでいうInteractive Proof Systemの証vと検証vの間のB構]に瑤襦平3、参考@料2)。
図3 ミンスキーの性(Intelligence)発現の機構と、Q複雑性理bでいうInteractive Proof Systemの構]の比較 共に、識のためのQ機構(Modelsや証v)と、文章作成のためのQ機構(Mindや検証v)をeち、両vの間のBにて適切な情報やシナリオ探すというオペレーションを行う
出Z:参考@料1と2を元に筆vが作成
共に、識のためのQ機構(Modelsや"証v")と、文章作成のためのQ機構(Mindや"検証v")をeち、両vの間のBにて適切な情報やシナリオを探すというオペレーションを行う。
Interactive Proof Systemでは、命証の効率を最j限に高める菘世ら、証vと検証vの間の役割分担を図3(B)のように設定するが、ミンスキーの性発現構]におけるMindの役割もエネルギー効率の最j化である可性がjきい。両vが、「乱数に基づく問の作成」や「確率的応答」を採するとの点も類点である(ニューラルネットワークも、確率を応答しうる)。
相違点としては、Interactive Proof Systemは、命の証のであるためQが停Vすることを_するが、k機◆嵋Nの場合は、斂動であり、擇△觚造蠎Qが完了する要はない」という点が屬欧蕕譴襦 サブマシンのQ々はOして動作するためループXを維eしたり出を迷いけたりしても、それらのサブマシンをAttentionのから外すことはЬ磴ないだろう。
N内の複数のサブマシンによって問への応答が收されるとの考えは、i野隆司のp動T識仮説に瑤襦併温憂@料6)。 i野隆司は、k般向けの解説書の中で、Nの中のニューラルネットワークを「j勢の小人」と表現し、「Nの中のf菁vがRTを払ってT識した『小人』の働きがT識に屬襦廚噺世ぁ△泙拭◆崛T識される『小人』の陰で、T識されないj勢の『小人』が機Δ靴討い襦廚箸いΑ
O的、並`に動作するj量の"a Model"や"小人"をエミュレートする人工γのコンピュータは、現代の中央U御式のコンピュータとはハードウエアとはjきく違っているべきだと筆vは思う。
R
1. 機械学{や深層学{では、「收モデル」と「世cモデル」は区別され、「收モデルによって世cモデルが形成される」とするが、Minskyのモデルは、それら両気離皀妊襪鯤餞泙靴討い襪茲Δ忙廚┐襦
2. ミンスキーのMindには、日本語でいう『心』と『思考』を合わせたT味も込めていると思うが、「T識する」のT味合いで"Be conscious"という動詞的表現も使われており、"Be conscious"にはp動的、Mindには主的のζ暗な機Δ鮓世ご泙瓠∋箸なけていると思われる。
3. Nは、入情報である「真の」に瑤襪茲Δ法嵒集宗廚U御しようとするかもしれないが、両vの間にはk定の差があるのが通常である。 また、「表現」をpけDる他vの理解も、「表現」とはH少なりとも差のある内容となるだろう。 その誤差は、建設的に作することがHいかもしれないが、時には、建設的に作することもある。
Modelsや"a Model"は階層構]をeつが、その下層の階層は共通の抽念をいる。 って、図2は、して、「独立要素の集合」の包含関係をT味していないことにRTが要である。
参考@料
1. KI憲、「人工Δ悗量O(2):Intelligenceとは何か」、セミコンポータル、 (2021/07/28)
2. KI憲、「人工Δ悗量O(3):Bする構]の_要性」、セミコンポータル、 (2021/08/26)
3. Minsky, M., "Steps toward Artificial Intelligence", Proceedings of the IRE Contents, Vol. 49, 1961.
4. Minsky, M., "Step Toward Artificial Intelligence", in Computers and Thought, published by McGrraw-Hill, pp. 406-450, 1963.
5. Minsky, M., "Step Toward Artificial Intelligence", in Marvin Minsky Homepage in MIT Media Lab.
6. Minsky, M., "Matter, Mind and Models", Proc. International Federation of Information Processing Congress, vol. 1, pp. 45-49, 1965
7.i野隆司、「Nはなぜ『心』を作ったのか」、ちくま文U、2010Q