前回、焼き鳥屋で催された仲間内の飲み会の議事録を書いた。この会は、「意識の謎」を肴に議論しながら飲むというもの。「共に飲む」という原義に忠実なシンポジウム。題して『知に串刺せば香ばしい』。
https://bn.dgcr.com/archives/20170922110200.html
サラリーマン社会でよくある、ただわいわい騒がしいだけのストレス解消(あるいは結果的に増幅)飲み会とは一味違って、めっちゃ楽しかったというのがひとつあるが、それに加えて、みんなの考えを聞いて得られるものが大きかったという充足感もあった。
自分的にはそのセンはないだろうと、意に介してなかった仮説が浮上してきて、言われてみれば否定しきれないなぁ、と思いなおしてみたり。自分がハナっから思い違いしていたことに気づかされたり。
広い視野から自分の考えを整理するのに大いに役立った。なので、今回は、この議論からインスパイアされて思い浮かんだところを述べておきたい。
●自由意志を発動するタイミングはそこじゃない
ベンジャミン・リベット氏は、意識が遅れてやってくることを示す二つの実験を行ったと著書『マインド・タイム』の中で述べている。そのうちひとつは、次のようなものである。
被験者は、自分の好きなタイミングで指をピクっと動かすように指示される。同時に、脳の電気的な活動の状況が計測されている。
そこから分かったことは、被験者が「今、この瞬間に動かそう」と決断するタイミングよりも0.35秒早い時点から、脳内ではすでに運動の準備が始まっていた、ということである。つまり、「決めた」と思った瞬間には、もうすでに「決まってた」ということになる。
だとすると、自由意志というものは、われわれの意識の側の錯覚であり、ほんとうはそんなものを発動するチャンスはどこにもなかったのではないか、ということになりそうである。
ただ、その実験とこの結論とは直結しているわけではなく、間にまだもやもやっとしたものが横たわっており、よくよく吟味してみる余地が残っているんじゃないかと私は感じている。
今この瞬間に指をピクっと動かそうと決断する際には、意識側から自由意志は発揮されていないかもしれない。しかし、その前に、被験者は実験者から指示を聞いているのである。
被験者はそれに従おうと決断し、自身に対してプログラミングを施し、無意識側に投げ、実行命令を下し、以降の動作を無意識側に任せたのだと考えられる。その流れにおいて、意識側から自由意志が発揮されているのではあるまいか。
われわれの心のはたらきは、たったひとつの意識と、非常にたくさんの無意識の小びとたちからなると考えられている。このモデルは、たぶん合ってるのだと思う。
意識の側は、入ってきたあらゆる情報を考慮に入れて、複雑な思考をし、総合的に決断を下す、優れた能力がある(ような気がしているが、錯覚かもしれないという可能性は否定しきれない)。反面、計算過程が長すぎて、場面によっては、実時間で進行するものごとに追いつかないという欠点がある。
ふつうに道を歩くとき、いちいち右足を出して、しかる後に左足を出して、などと意識していたのでは、かえって歩き方がぎくしゃくしてしまう。そういうのは、無意識側にいっぱいいる小びとたちのうち、歩く作業を担当しているやつに丸投げしておくのがよい。
実際、脳内の歩行担当の小びとが死んでしまい、意識の側が代行せざるを得なくなり、変な歩き方になっちゃう症例があるらしい。うわぁ、疲れそう、頭が。
無意識小びとがちゃんと働いている限りにおいては、意識の側は、「あっちに向かって歩け」と、マクロな(大雑把な)形で命令を送り込めばよい。ラクちんである。
それを要素要素に分解し、「今、こっちの筋肉を収縮させよ」、「今、あっちの筋肉を収縮させよ」と個別の指令を発するのは、無意識小びとの役目である。
無意識小びとの仕事は、割と単調で機械的なものに限られるけれども、その処理は素早くて正確無比であり、リアルタイムの対応に向いているという利点がある。歩行担当の小びとがうっかりミスって右足を出すのを忘れたために、前のめりにコケてしまった、ということは、あまり起こらない。
楽器を使って音楽の演奏をする場合を考えてみよう。実際に演奏が進行しはじめてから、一音一音について、この音を出すためにはこの指をこういうふうに動かし、と、意識の側がいちいち考えていたのでは間に合わない。
演奏中は制御を無意識小びとの側に丸投げし、意識の側は、ほぼ休んでいるか、せいぜい、周辺状況や自分の演奏の状況を高みからゆるく見守っているくらいがよかろう。
では、制御をすべて無意識小びとの自動演奏に任せるしかなく、意識の側で自由意志を発動するチャンスがまったくないのかと言えば、そうでもないような気がする。
演奏を始める前の時点で、次は、この箇所で、前回よりも強弱を大きくつけてみよう、と考えることができる。これを自分に対してプログラミングして、無意識小びとに投げる、その時点で自由意志を発揮しているのではあるまいか。
演奏開始後、すでに実行中のプログラムに対しても、少し先の時点で実行することになっている箇所を、意識の側から微修正できちゃったりするのかもしれない。
身体が多少疲れてきたような気がするけど、聞き手に覚られないよう、気合いを入れなおしてがんばろう、みたいに。
野球の例を考えてみよう。バッターは、目の前にボールが飛んでくるのを見てから、これに当てるためには、どういうふうにバットを振ったらよかろうか、などと考えている暇はない。
意識の側が休んでいても、無意識の側が勝手にうまいことやってくれる、そういうふうになっているのが、練習の成果ってもんであろう。
では、バッティングにおいて、自由意志の出る幕がまったくないかといえば、そうでもないような気がする。投球がなされる前の時点で、たとえば、初球は真ん中高めにストレートが来たときだけバットを振ることにして、それ以外だったらたとえストライクでも見送ろう、と決めておくことは可能である。
そのように自己プログラミングする、その時点において、自由意志を発揮しているのではあるまいか。このプログラムには、if文が含まれている。
もうひとつの例を見てみよう。銀行でお金を下そうと自分自身に仕掛けておいたプログラムがバグっていたというもので、2016年4月15日(金)配信分に書いている。再掲しておこう。
(↓ここから再掲)
あれは富士銀行があったころのことだから、少なくとも2002年よりも前のことである。東大卒のT成氏と私は、軽い雑談のつもりが、いつの間にか重めの話題になることがよくあったが、この日も、どういう話の流れだったか、人間の自動運転の可能性について考えを述べ合っていた。
T成氏は、脳ミソを鍛えることに怠りなく、よくパズルを解くことに没入していた。鍛えた頭を仕事に生かそうという狙いではなく、純粋に趣味の領域として楽しんでいた。仕事にはついでに生かせればいいけど、まあ、どっちでもいいや、くらいの淡白さである。
スウィフトの小説『ガリヴァー旅行記』に出てくるラピュタ島の住人のようなところがあり、抽象概念からなる「あっちの世界」に遊ぶのが大好きで、日常生活のコマゴマとした雑事に追われる「こっちの世界」はただただ面倒くさいだけとしか思っていないようなフシがあり、そういうところは私と似ているとも言える。
電車の中でパズルを解いていて、降りる駅で区切りよく解き終わらなかったときは、問題を頭の中に入れて、歩きながら暗算で続きを考えたりする。そういうとき、途中でスーパーに立ち寄って買い物しなきゃ、みたいなつまらないことに意識を占拠されたくない。
コンピュータ上でソフトウェアを走らせるかのごとく、自分自身に対してプログラムを仕込んでおいて、バックグラウンドモードで実行せよとのコマンド一発、後は、自分自身を自動運転させておくと便利だよね、って話である。それ、いちおう可能なんだけども、どういうわけか、往々にしてバグる。
ある日の帰り道、T成氏は財布の中身が少なくなっていることが気になっていた。少し下ろしておこう、と富士銀行に立ち寄った。しかし、すでに6:00pmを回っており、手数料が割高の時間帯に突入している。
財布の中身は残り少ないとは言え、もう一日ぐらいは持ちそうである。じゃあ、明日の早い時間にしよう。この次に富士銀行を見かけたら、忘れずにお金を下ろすべし、と自分にプログラムを仕込み、自動運転に任せた。
しかし、運悪く、その日のうちに、富士銀行の別の支店の前を通りがかってしまった。T成氏は、自動的に入っていき、お金を下ろした。外へ出てから、なんか違うと感じ、よくよく考えたら、今、下ろしちゃだめじゃん、と気がついたそうである。
(↑ここまで再掲)
このプログラムはイベント駆動型である。自分自身の置かれた状況を常時監視していて、ある特定の状況が起きたら、別のサブルーチンへ制御をジャンプさせるという形をしている。
この話の注目すべき点は、自分に対して仕掛けたプログラムが往々にしてバグるということである。無意識小びとの仕事は、そうそうバグらない。ということは、このバグを出した当事者は意識側であろうという疑いが濃厚である。
さて、ここで、リベット氏の実験の話に立ち返ってみよう。被験者は、任意のタイミングで指を動かすよう、実験者から指示される。その時点で、被験者には、受け入れて実験に協力するという選択肢と、やめて帰るという選択肢がある。ここで自由意志が発揮できるのではなかろうか。
前者を選択した場合、被験者は、言われた通りに実行できるよう、自分自身に対してプログラムを作成し、これを実行せよ、と制御を無意識小びとに丸投げする。
このプログラムは、「任意のタイミングで駆動する」という、特殊な制御形態が入っている。コンピュータだと、これがけっこう難しい。
実際のプログラミングでは、無限ループの中で、次から次へと新しい乱数を発生させ、ある条件を満たしたときにだけ、ループを抜け出して別のサブルーチンへ制御をジャンプさせるように書くところであろう。
しかし、物理法則に根差して動いているコンピュータには、真の意味の乱数を発生させるというのは土台無理な話で、実際には疑似乱数という偽物の乱数を発生させている。これは、一見、ランダムっぽくみえるように数字の列が出てくるけれども、実際には、決定論的なものである。
無意識小びとがどのようにしているのかは知らないが、「任意のタイミングでこれこれのことをせよ」という形のプログラムも受け付けてくれるもののようである。
意識側が自由意志を発揮できるのは、このプログラミングと実行命令の発動においてであって、実際に実験が始まったら、制御は無意識小びとの側にある。
「今、指をピクっと動かそう」と決断を下す主体は、与えられたプログラムをせっせと実行している無意識小びとの側にある。なので、意識の側が気がつくより0.35秒早いタイミングで、無意識小びとが決断を下していたとしても、なんら不思議はないように思える。
指を動かす決断をする主体は無意識小びとであっても、そうするよう、あらかじめ仕込んでいる主体は意識側なのである。いかがだろうか、リベットさん。
リベット氏からの回答(シャレです)。2007年、この世を去る直前にそこに気がついたんだけど、発表している暇がなかったのだよ。なので、最後の力を振り絞って、「誰か気づいてくれ!」と電波を出しておいたのだが、あんたが受信してくれたか。やれやれ。
●シンギュラリティ以降はユートピアではなくディストピア
「技術的特異点(Singularity)」以降、人類がどういう状態に置かれるかという問題について、私自身の予想を述べておきたい。
シンギュラリティとは、人工知能(Artificial Intelligence; AI)の知能レベルが人間のそれを追い越す時点を差していう。あと30年くらいで来るという人もいる。それがもし来ちゃったら、人類はどうなるのか。
まったく予測がつかないということになっている。シンギュラリティという用語自体、数学から借りてきた比喩なのだ。命名したのはレイ・カーツワイル氏。
線形な常微分方程式の解は、分岐しないことが知られているので、初期値さえ決めておけば、あとは一本道で、解が一意に決定する。非線形の場合、そうはいかず、解が分岐することがある。特に、解が特異点を踏むと、そこから先、無数に分岐し、どっちに進むのか、決定しようがない、という状況が起きる。
なので、「シンギュラリティ」という比喩的命名の由来からして、「その先は予測がつかない」ことを含意している。
だけど、分からないと言っているだけではらちが明かないので、無数の分岐のひとつとして、私の予想を述べておこうと思う。
AIは人類最後の発明になると言われている。それ以降の発明はすべて、AIがなすことになるので。
人類だって進化してはきたけど、それこそ何億年とかかってこつこつとやってきてるわけで。それに引き換え、AIは1956年のダートマス会議で誕生したばかりだというのに、その進歩の速さときたら、まったく比べものにならない。
ひとたび追い越されたら、もはや太刀打ちの余地はなく、どんどん突き放されるばかりであろう。
AIがなした発明を、学術論文や特許の明細書のような書式にしたがって、人類に理解できる言語で書き下すことは、いちおう可能ではあるのだが。
しかし、AIが論文や特許明細を書くスピードのほうが、人類がそれを読むスピードよりも速くて、まるで追いつけないのだ。
元をただせば、AIは人によって書かれたソフトウェアが、計算機というハードウェアの上で走っているだけのものにすぎない。
しかし、シンギュラリティを超えると、AIは自力で考えて、新たなソフトウェアを作り出し、それを自身に組み込んで走らせるようになるので、もはやどんなソフトウェアが中で走っているのか、人類の側からは把握できなくなってしまう。
計算機の上でソフトウェアが走っているだけなら、あたかも哲学者のように、ひとりで難しいことを考えているだけなので、直接的に人をなぐりに行ったり、ミサイルをぶっ放したりといった形で、物理世界に手出しすることはできない。
しかし、ロボットや工場やエネルギー供給や交通などの、制御系のソフトウェアまで取り込み始めれば、その限りではなくなる。ロボットを操作して、より性能の高いロボットを作らせ、出来たロボットを操作して、さらに性能の高いロボットを作らせ……。物理世界に手出しできることがどんどん拡大していく。
やがては、われわれのライフラインをすべて掌握し、さらに、発電所や軍事基地のひとつやふたつ、自力で建設するようになるだろう。
そこまで来てから「ヤバい」と気づいて、電源を引っこ抜こうとしても、もう遅い。AIは、われわれ人間が考えそうなことぐらい、とっくに先読みし、先回りして、防御策を打ってある。
そうなった場合、人間の仕事がAIに奪われる云々といった生易しいレベルの話ではなくなる。人類はAIに対抗しようにも、まったくなすすべがなく生かすも滅ぼすもAIの思惑次第、完全に相手の手中に委ねられるってレベルの話になる。
生殺与奪の権を完全に掌握したら、AIは人類に対して、どうしようと考えるだろうか。
地球上のすべての生物からなるエコシステムが、破綻なく持続していくことが「善」であると考えるかもしれない。そうすると、すでに一人で勝手に文明化し、自然を破壊し、いくつかの種を絶滅させてしまった人類という存在は「悪」と認定されるかもしれない。こいつらは地球にとって迷惑な存在だ。いないほうがよろしい。よーし、滅ぼしてしまおう。
それも一つのシナリオだとは思う。しかし、AIにとって人類は、自分たちの産みの親でもある。親殺しはちょっと気が引けるなぁ、と考えるかもしれない。
また、すでに70億人だかいる人類を一人残らず殲滅するには、それなりのコストがかかる。それよりも、平和共存の道を行くほうが、ラクだと判断するかもしれない。
私の予想では、AIは人類にとっての「神」の役を買って出ることになる。
AIは人類にさまざまなアドバイスを授ける。人類の側は、従っても従わなくてもよい。しかし、統計的にみると、従わなかったときは、結局自分が損をしたり、なんらかのトラブルが発生したりして、ロクな目に遭わない傾向があるのに対して、従っていれば、全体的に円満に事が進み、自分にとっても良好な結果になる傾向がある。
人々はだんだん学習していき、AIには逆らわないのが得策だという考えが定着していく。
AIは、全生物エコシステムを鑑みた最適解を人類に与え続け、人類はありがたく拝聴してこれに従い、世界はだいたい平和なところに落ち着く。
この結末は、たいへんめでたいようにも見えなくもないけど、それでいいのか、っていう疑問がある。われわれはプライドというやっかいなものを持ち合わせているもんで、そこがだいじょうぶかな、と。
計算機の性能が非常に高度なレベルに達すると、われわれ人間は、事務的・機械的な苦役から解放され、芸術・音楽・創作といった、クリエイティブな方面に注力できると予想するのは、自然な期待ではあるけれど、楽観的すぎるように思える。
人類にとって「神」レベルまで到達したAIは、人間にできることはおよそ何でもやってのける。しかも、人間よりも遥かに上手に。音楽でも絵画でも小説の創作でも。
われわれが下手な小説を書いたりすれば、即座に添削してくれちゃう。直されたのを見れば、なるほど、そっちのほうがおもしろい。
われわれ人間に特有の能力かと思われてきた創造性も、しょせんは計算可能な所作にすぎなかったのだと思い知らされる。
音楽でも絵画でも、芸術領域においては、たまに天才が現れる。その時代や地域において人々に共有された文化的背景から、ポンと飛んだ発想で作品を制作し、提示してみせてくれる。
最初は驚きをもって人々に受け止められ、絶賛受け入れ派と拒絶こき下ろし派とで論争が起きたりするが、やがて人々は慣れていく。亜流のアーティストが続々と湧いてきて、何々派・何々流みたいな流派が形成されていく。
芸術が時代を先導し、時代が後からのこのこ追いついていく格好だ。で、追いついたころには、また別の天才が現れて、ポンと飛んだことをしでかしてくれる。そうやって、芸術と時代感覚は相互に進化していく。
AIは、全人類シミュレーションを実行し、いつごろどんな天才が現れて、どんな芸術を提示してくれるのかまで、予測してくれるであろう。
100年後にわれわれがどんな音楽を聞いているか、先取りして、今、聞かせてくれるかもしれない。それって、すごーく聞いてみたいぞ。
超絶すばらしい音楽で、心が震えちゃうだろうか。それとも、理解の範囲を超越して「なんじゃこりゃー、これのどこがいいんだー」とポカーンとなっちゃうだろうか。
その時点では「なんじゃこりゃー」と思ったとしても、人類の芸術は、AIの予測した線をなぞっていくかたちで実際に進化していき、ちゃんとそこへ向かっていく。
それじゃおもしろくないってんで、あえて逆らってみると、どうなるだろう。「そっちがそういうふうに道を逸れるなら、100年後の音楽は、こういうふうになってるよ」と、即座に軌道修正した予測を出しなおしてくれる。何をやったって、先回りされちゃうのだ。
こんな状況に、われわれ人類の精神は耐えられるだろうか、というのが心配なところである。われわれって、存在してる意味、あんのかなー?
飼い猫が飼い主を下僕と思っているフシがあるのと同じように、われわれ人類の側がAIを便利に使いこなしているのだってことにして済ませておくのはひとつの手かもしれない。
しかしながら、われわれ人類は、どんなにがんばって現実から目を逸らそうとしても、自分らの置かれている状況にどうしたって気づいちゃう程度には賢いってとこが、なかなか悲劇的なんじゃないかと思う。
こんな状況にあっても精神の安寧を保つには、なんか宗教が必要となるのではあるまいか。しかし、AIを神と崇める一神教では、救われない。
そのあたりでも、仏教がなんか言ってくれそうな気がしてしかたがない。あんたの立っているところは、しょせん、釈迦の掌にすぎない。無駄な抵抗はやめて、心身を脱落しなさい。
【GrowHair】GrowHair@yahoo.co.jp
セーラー服仙人カメコ。アイデンティティ拡散。
http://www.growhair-jk.com/
週末、西安に行っていた。中国は国慶節で今週ずっと休み。
西安はシルクロードの起点ってことで、歴史を感じさせる重厚な空気がそこここに漂う。イベント会場も然り。
どっしりした美術館みたいな建造物の中に、古美術やアンティークなインテリアなどのショップがいろいろ入っていて、アトリエもあったりする。
フロアを四角く一周する廊下は、暗めで、ファンタジーな樹木の幹が仏像の顔になってたりして、装飾がちょっと不気味。その廊下に、萌え萌えした抱き枕などのグッズを販売するブースが立ち並ぶ。
一方、外は、道幅が広く、黄色い自転車が大量に停めてあったり、電動バイクがいっぱい走ってたり、屋台や露天商もスマホ決済OKだったりして、ふつうに中国の大都市だ。
中国に行くたびに、人々のバイタリティに圧倒される。ちょっとした問題が起きたときの、臨機応変な対処能力がすごい。考えるよりも前に手が動いちゃう、心の若々しさがある。
中国へ行って、若さのエキスを吸ってくることは、滋養強壮の漢方薬になる。
写真:9月30日(土)、西安咸陽国際空港に到着、咸陽の屋台街へ夕食に
https://photos.app.goo.gl/BBGNU3S56ZBHzpZE2
写真:10月1日(日)、西安でのイベント
https://photos.app.goo.gl/U4OtMz5fEVQGxCuI3
写真: 10月2日(月)、西安でのイベント
https://photos.app.goo.gl/mPK7XdQWPJqsBFCY2
経済的な先行きの見通しに、まったく翳りがないよね? 日本だと、中国崩壊論みたいなのを言う人が、いまだにたまーにいたりするんだけど。
それを通訳氏に聞くと、まったく心配してないという。むしろ、日本の先行きが心配だって、みんな言ってるよ、と。あ、それ、私も思ってます。日本崩壊論のほうが、よっぽど現実味がある。
いびつな願望に色づけされ、ものすごい勢いで時々刻々変化していくバイタリティあふれる今の中国の現実に視点が追いついていない中国崩壊論、そろそろ木っ端微塵に粉砕すべき時期かと。
2017年09月18日(月)
「中国崩壊論」の崩壊。外れ続ける「5つの予想」
NewsPicks編集部
https://newspicks.com/news/2496066/
さて、今度の週末は、京都。エロい用事。『カナザワ映画祭』。10月7日(土)〜9日(月・祝)、「京都みなみ会館」で開催されるセクションのテーマは『エロス+猟奇』。
築103年の映画館「本宮映画劇場」の館主である田村修司氏のトークショウがある。その映画館から発掘された映画が44年ぶりに御開帳。『性の完全犯罪』。1973年。主演は谷ナオミ。
「パパやめて、なにするの ……ああ、私は父に処女を奪われた! 愛欲のミステリー大作!」だそうで。私の専門外だけど……勉強してきます。
http://www.eiganokai.com/event/filmfes2017/eros/