Otakuワールドへようこそ![334]「意識の仮想世界仮説」でコンピュータに意識が芽生えるか?[中編]
── GrowHair ──

投稿:  著者:



[前編]2020/06/26
http://bn.dgcr.com/archives/20200626110100.html


●作りたいのは自然な会話をするロボット

人工知能(AI)がチェスや将棋や囲碁で、人間のチャンピオンを負かすようになったのは、それはそれですごいことだが、そんなに難しいゲームで強いなら、遥かに簡単そうな家事や事務仕事なんて、何でもかんでもすいすいこなせちゃうのかと思えば、案外、そうでもない。

いまのAIはすべて特化型であり、特定のタスクをこなすことには長けていても、雑多なタスクをそこそここなすというのができない。汎用AIは、まだ、影も形もない。

それができたら世の中が一気に変わると言われている。コンピュータの知能が人間を上回る、いわゆる「シンギュラリティ」。

達成を阻む壁は「言葉」であると田方氏は主張する。いまのAIにぜったいできないのは、自然な会話である。会話でも、天気予報とかクイズとか、答えが明らかなものについては、既にできている。できないのは、われわれが普段、友達や家族と交わしている「日常会話」や「雑談」など、目的のない会話である。





自然な会話とは、たとえば次のようなものである。学校から帰ってきた子供が、母親に向かって、「今日、給食でプリンが出たんだよ」と言う。母親は「そう、プリンが出たの。よかったねぇ」と返す。

もし、「学校給食が始まったのは明治22年です」と返したら、自然ではない。伝えたかったのは、プリンが出てうれしいという気持ちだったのに、それが伝わらなかったと、子供はフラストレーションを感じるであろう。

自然な応答のしかたは幾通りも考えられる。幾通りもあるからといって、何でもよいわけではない。「自然である」とはどういうことか、そこがむずかしい。文脈が通っているとか、相手の感情が汲み取れているとか。そんな機能をコンピュータに備えさせるのは、容易ではなさそうだ。

もし、実現したら、このロボットと会話した人間は「お、こいつには、心や感情や意識みたいなものが宿ったな」と感じるであろう。会話ロボットの中身がどうなっているかを知らない利用者が、外からロボットからの返答をみて、そう思えばよいのである。

中身を知っている開発者にとっては、心があるフリが上手いだけの、いわゆる「哲学的ゾンビ」で構わない。実際に意識が備わったかどうかを、検証する責任を負う必要はない。

そうは言っても、使用者が「こいつはオレの気持ちを理解してくれている」と感じるためには、会話ロボットにも心に相当する何かが備わっていなくてはどうにもならないだろう。

コンピュータに感情や心や意識を宿らせるには、どうしたらよいか、そこを考えないわけにはいかない。

【ケバヤシのコメント】

アラン・チューリングにそうとう心酔しておられるようで。要は、チューリング・テストに合格するマシンを作りたい、ということだろう。

チューリング・テストとは、ざっくり言えば、機械の知能テストである。機械が会話を通じて、人間に化けおおせることができれば合格とする。つまり、姿・形から正体がバレないような設定の下、機械が正真正銘の人間を相手に言葉をやりとりをする。その後で、人間が、自分と言葉を交わしていた相手はきっと人間に違いない、と思えば、機械の勝ちである。

私は、これをぜんぜんダメとみる。ものを定義するとき、定義文の中で、定義したい言葉を使っちゃうのは(「再帰的定義」のように、ぎりぎり助かっている例外を除けば)ルール違反で、定義になっていない。こういうのを「循環定義」とよぶ。チューリング・テストを「知能」の定義としてみるとき、循環定義と同等の反則を犯していて、定義になっていない。

しかし、天才数学者であるチューリングは、きっとそんなこと百も承知で言っている。主張ポイントは、知能の定義ではなく、「知能とは、フリでじゅうぶん」という点にある。つまり、知能を備えているフリが上手いことは、知能を実際に備えていることと、見かけ上、区別がつかないだけでなく、本質的にも同等のことだ、と主張している。

チューリングがこれを述べたのは1950年だが、14世紀、吉田兼好は『徒然草』で類似の思想を述べている。「狂人の真似とて大路を走らば、即ち狂人なり」。

さて、チューリング・テストは知能の話だが、意識についても同等の議論が可能である。意識が備わっていることが確かであるわれわれ人間からみて、こいつには意識が備わっているだろ、と判定できるのであれば、もう、そいつには意識があるってことでいいんじゃね? という立場がとりうる。

言い換えれば、哲学的ゾンビで構わん、ということだ。さらに言い換えれば、機械が外に提供する機能がすべてであり、中身は問わない、ということだ。

この立場をとるのであれば、課題のハードルが著しく下がる。知能や意識の本質を問う、むずかしい問題に正面から取り組む必要がなくなる。つまり、手抜きができる。

オルガノイドのように、外にはなんにも機能を提供しないけど、意識だけは宿っている存在の可能性については、知らんぷりを決め込めるのだ。意識の本質を知りたくてしょうがない私からすると、こういうのは興味の中心から外れる。

ハードルが著しく下がったとは言え、チューリング・テストに合格する機械を作るのは、まだまだ、とてつもなくむずかしい。もし作れたらすごい。フリが上手いだけだったとしても、それはそれで、見てみたいぞ。

●従来アプローチは、あれもこれもそれも、まるで見当違い

〇哲学の答えは、それをあらかじめ知っている人にしか伝わらない

自然な会話ができるためには、相手の発した言葉の表面だけを捉えて型通りの返答をしていたのでは無理で、どうしたって、意味を理解していなくてはならないだろう。意味を理解するとは、どういうことか。

言語学や哲学の本を読んでも解決しなかった、と田方氏は言う。言語学者や哲学者は、人間に向けて書いているので、人間が当然持っているものを使って説明しているから、と。

【ケバヤシのコメント】

大きな視点でみるとき、言語学者や哲学者がやっていることは、循環定義と同等の反則で、意味をなしていない。「意味が分かるとはどういうことか」について説明するのに、それを読む人は、すでに意味が分かる能力を備えていることを前提としているのだ。つまり、意味の意味を定義するのに、先に意味を使っちゃっているようなものだ。

意味を理解する能力をもたない人に対して、「意味を理解するとはこういうことだよ」と教えてあげたら、それを聞いて、「なるほど、そういうことか」と納得して、今日から意味を理解できるようになりました、とならなくては、問いに答えたことにならない。

ところが、聞いて納得するためには、あらかじめ意味を理解する能力を備えていないことには、できない話だ。言葉の意味を理解するとはどういうことかを言葉で説明することにより、意味を理解する能力が備わっていなかった人がそれを聞いて備わるようになった、なんていうのは、土台、無理は話なのだ。たとえ、内容的には間違ったことが書かれていなかったとしても、論理が回っている。言葉の限界だ。

意味を理解する能力をもたない人にその能力をもたせるには、脳の配線をいじる、みたいな直接的なことをしなくては無理であろう。

意味を理解する能力を備えていない、現時点のコンピュータに対して、いかにして、それを備えさせるか、というわれわれの課題についても同様で、哲学者から知恵を借りてこようにも、全く無力だ。この点、田方氏に1000%同意だ。

三宅陽一郎氏は、ゲームのキャラクタに人間っぽい振る舞いをさせるべく、哲学にからめて実践的な活動をされているので、これなら、もしかしたら参考になるかもしれない。

三宅陽一郎
『人工知能のための哲学塾』
ビー・エヌ・エヌ新社(2016/8/11)
https://www.amazon.co.jp/dp/4802510179/dgcrcom-22/

〇脳科学では意識は見えてこない

脳科学は、脳の物理的な状態を調べることにより、意識についても、だいぶ、いろいろなことを解明してきた。しかし、物理法則に厳密にしたがうはずの物質である脳から、いかにして意識が生じるのか、そのメカニズムはどうなっているのかと根本的なところを問う「意識のハード・プロブレム」は、いまだに解かれていない。

意識というのは、考えれば考えるほど不思議なもので、その不思議さにクネクネと悶絶してしまう。しかし、だからといって、心身二元論で解決しました、という論を支持するわけにはいかない。心身二元論とは、物理的な実体とは別に、霊魂とか精霊とでも呼ぶべき、非物理的何かがあって、そこに意識の本質があるとする考え方である。

これは、「物理的領域の因果的閉包性」という鉄則に抵触する。物理的実体ではない心が「今日は、昼飯にサンドイッチを食べよう」と思ったとして、実際にサンドイッチを買いにいくという行為に移すためには、脳の最初のニューロンを発火させなくてはならない。それが起きたら、物理法則が崩れてしまう。

もし、原子・分子のレベルで、私の精密な複製を作ることができたら、そこにいるのは、生命も意識も宿した、過去の記憶も性格も寸分たがわぬ私でなくてはならない。

人間における肉体と意識との関係は、コンピュータにおけるハードウェアとソフトウェアの関係と同じだ、と田方氏は述べる。コンピュータのCPUの動作をどんなに調べても、その上で、今現在、どんなソフトウェアが走っているのかを探り出すことはできない。同様に、脳をどんなに詳しく調べても、クオリアを直接的に観察することはできない。

脳科学からのアプローチでは、心が解明できそうな見通しは薄い、と田方氏は読んでいる。

【ケバヤシのコメント】

ヒトにおける脳と心の関係は、コンピュータにおけるハードウェアとソフトウェアとの関係と同じだ、というのは、比喩としてなら、感じがよく分かる。しかし、「心身二元論が正解だった」と言っているのは、ずいぶん素朴な勘違いをしたもんだ。

コンピュータのハードウェアの上でソフトウェアが走ることについて、物理学の観点からみたとき、何の神秘もない。霊魂だの精霊だのという非物理的存在を持ち出してくる必要は、まったくない。二元論の出る幕はなく、実体一元論で事足りる。

脳と心の関係もそれと同じだというなら、やはり、二元論とは呼ばない。実体一元論の範疇である。

〇AIでは意味理解に近づいていかない

一方、AIはどうか。いま、第3次AIブームの真っ只中にあり、それを牽引している手法はディープ・ラーニングである。

ディープ・ラーニングは、画像認識において「人間超え」をもたらした。つまり、写真の中から、被写体が何であるか、その名称を答えさせる問題で、人間よりもAIのほうが正答率が上回ったのである。これのおかげで、車の自動運転などが実用段階にかなり迫ってきている。

しかし、ディープラーニングが二次元画像から猫や犬をいくら上手く判別できたからといって、それが3次元の世界の一部だということが理解できたわけではない。猫のモフモフ感とか、鳴き声とか、俊敏さとか、液体性とかと結びついていない。

「あ、猫だ」「うん、かわいいねぇ」みたいに表面的に同調するだけの会話なら成り立つかもしれないが、猫についてあれこれ語りだしたとき、「ん? おまえ、ひょっとして猫についてなんにも分かってないんちゃう?」って、すぐに露呈しそうである。

「猫」という単なる記号と、ニャーニャー言っている現実の実体との間の橋渡しができていない。言い換えると、「猫」の意味が分かっていない。ここを何とかするにはどうしたらよいか。これを「記号接地(Symbol Grounding)問題」という。この問題は、まだ解かれていない。

言葉を扱う方面では、人間がふだんふつうに使っている言葉を、コンピュータでいかに上手く扱えるようにするかを研究する分野として、「自然言語処理(Natural Language Processing; NLP)」がある。

この分野では、Googleの「BERT」が、文章読解力において、人間超えしたことが、2019年にニュースになった。これには、界隈がそうとうザワついている。ただし、字義通りに受け取ってよいかという疑問が残る。

BERTの人間超えとは、「昔むかし、あるところにおじいさんと○○がいました」というような穴埋め問題で、AIの正答率が人間を上回ったことをもって言っている。これって、ほんとに文章読解力か?

大量の文例をネットなどからかき集めてきて、どの単語の近くにはどの単語が来る確率がいくらである、というのをひたすら計算しておけば、穴の周辺の単語に基づいて、穴のところに出現する確率が最大となる単語を引っ張ってくることができる。これで、だいたい正解できる。意味理解の領域に踏み込んでいないのである。

概して、AIからのアプローチは、意味理解の領域に足を踏み入れようとすると、たいへんむずかしい問題にブチ当たるので、それを回避して、単語の出現頻度といった統計的なことだけで、なんとかして上手に人間の真似をしようとしている。

【ケバヤシのコメント】

ここらへんも、1000%同意。

〇分かっているのはオレだけだ

脳科学にせよ、AIにせよ、その中のディープラーニングにせよ、自然言語処理にせよ、この手のアプローチは、どれもこれも、まったく見当はずれ・方向違いと田方氏は断じる。

この時点でも、「おおー、大きく出たな」という感じがする。追い討ちをかけて、やたらと挑発してくる。

・どうやら物理や工学の学者先生たちは、心や意識に正面から取り組もうと思っていないようなんですよ

・AI業界がずっとやらかしていること。早く気づけよ

・20年以上、こんなことばっかり考えてきたんで、「意識のハード・プロブレム」なんて自分ではとっくに解決していた。けど、世間ではまだ解決していなかったんですね

・ほら、記号接地問題がキレイに解決しました

・ふつうに会話ができるAI。早く作ったらいいのに、Googleでも作れないのは、めちゃくちゃ難しいから。どっから手をつけたらいいか、僕以外、誰にも分からない

・自然言語処理が最も力を入れて解明すべきなのは、会話の目的。僕がすでに見つけてしまったんですけどね

【ケバヤシのコメント】

従来アプローチをことごとくこき下ろしているけれど。行きたい目的地に対して、まだだいぶ手前にいるというのであれば、まあ、その通りかもしれない。しかし、まったく方向違いなのか、方向は合ってるけど、まだ道半ばのかは、そんなに自明ではなかろう。

まんまと挑発に乗せられて、いちいちイラっとしていたら(してたけど)、術中にはまるだけだ。

フリでいいからといって、むずかしい問題を回避して、とにかく作ればできちゃうんですかい? だったら、さっさと作って、見せてちょーだい。心が宿ったかの判定は私がして進ぜましょう。

この壁は、天才的なひらめきなしには越えられない。凡人が挑むのは、無謀だ。もうすぐできる、もうすぐできる、と言い続けて、5年経っても10年経っても何も出てこないんじゃないかなぁ。泣きをみるのが関の山。ま、せいぜいがんばってちょーだい。(挑発返し)

映画をどうやったら製作できるかを知っているのは、観客ではなく、製作スタッフだ。観客として映画を観ただけで、自分にも製作できそうな気がしてきたとしたら、まあ、たいてい勘違いだ。

意識劇場の製作スタッフは、無意識だ。この私という主体は、無意識小人たちがせっせと仕事をして生み出した作品を、ただ眺めているだけの観客にすぎない。観客の立場から意識がどう見えているかを内省的に観察して、それをソフトウェアの形でコンピュータにちょちょいと移植したら意識が作れちゃうはずだ、と思うのは、映画の観客に映画が作れちゃうと思うのと同じ勘違いだ。

無意識小人たちが、いったいどうやって意識を作りだしているのか、そこを解明しないことには、進展するはずがないのである。ま、せいぜいがんばってちょーだい。(挑発返し2)

●またしても……

さて、従来の哲学や脳科学やAIからのアプローチは、どれもこれもみんな見当違いだ、と断じ、「早く気づけよ」と煽る田方氏は、いったいどんな斬新なアイデアを思いついたのだろうか。いよいよ、その中身の話に入ろう。

……と思ったら、またまた紙幅が尽きてしまいました。

では、次回をお楽しみに!


【GrowHair】GrowHair@yahoo.co.jp
セーラー服仙人カメコ。アイデンティティ拡散。
http://www.growhair-jk.com/


2020年7月7日(火)に配信された、武 盾一郎『見えないけど見える 聞こえないけど聞こえる』へコメントしたい。
http://bn.dgcr.com/archives/20200707110200.html

色で、たいへん不思議に思っていることがある。色の取合せによるメッセージが、異種間で伝達できていることだ。

アマゾンの熱帯雨林には、背中が黄色と黒のまだら模様で、腹と手足が鮮やかな瑠璃色(濃い青)のカエルがいる。想像しただけで、食ったらマズそうではないか。実際、殺傷力の高い神経毒を持つので、食っちゃダメなのだが。アイゾメヤドクガエル(藍染矢毒蛙)。

その手の、いかにも食ったら不味そうな取合せの色をまとう生物は、他にも、昆虫の幼虫やバッタなどにもいる。不味そうな配色をひっくるめて、私は勝手に「食欲減退色」と呼んでいる。見る勇気のある方は、画像をどうぞ。
https://photos.app.goo.gl/S5uBzBnnR5sCRWkRA

カエル自身が、「どうだ、不味そうだろ」と思っているかどうかは分からない。もし、カエル自身が、「そうだ、自分の体表の配色を不味そうなやつにすれば、食われる確率が減らせるかも」と思いついたとしても、それをどうやったら遺伝子に書き込めるかが、きっと分からないだろう。この配色は、カエル自身がデザインしたものではないかもしれない。

しかし、「どうだ、不味そうだろ」というメッセージが、捕食者たちには伝わっているとしか思えない。カエルの天敵は、鳥やヘビや、イタチやタヌキなどの哺乳類だ。オレも、昆虫の幼虫やバッタやカエルを食ったことがないわけではないが、そんなにしょっちゅう食うわけではない。天敵にはカウントしなくていいと思う。

そんなオレにまで「どうだ、不味そうだろ」のメッセージが、不必要に伝わっているのだ。不思議ではないか。

オレも、さすがに、そんな配色のものを食ったことはない。この配色のものを食ったら不味いぞ、と経験から学習したわけではない。この配色を見たら、「不味そう」のクオリアを発動せよ、と遺伝子に書いてあったとしか思えない。

ご先祖さまが、わざわざアマゾンまで行って、アイゾメヤドクガエルを食ってみたら毒にやられ、「こいつはやめとけ」と遺伝子に書き込んで、子孫に伝えたのだろうか。それもなんか変だ。

じゃあ、色を識別することができる、あらゆる生物の間で、「この配色は、食ったら不味いぞ」という情報が共有されているのだろうか。それも不思議だが、そうとしか思えない。種を超えた、ユニバーサルな了解。だとしたら、サルよりも、もっともっと昔のご先祖様から受け継いでいるんだろうな。

目を備えるあらゆる生物には視覚クオリアがあるはずだ、と私は思っている。視覚クオリアを持たず、盲視のようなやり方で、機械的に視覚情報処理をしているだけ、という生物はいないと思う。そんなんでは、せっかく目があっても、つまらないではないか。味覚クオリアについても同様。

鳥もヘビもイタチもタヌキも、アイゾメヤドクガエルを見たとき、私と同じように、「うげー、不味そう」ときっと思っているのだ。配色で、異種間コミュニケーションが成立している。みんな、共通の感性を持ち、思いがつながっているのだ。