ユーレカの日々[68]AE35ユニットが故障です/まつむらまきお

投稿:  著者:  読了時間:13分(本文:約6,300文字)



映画『2001年宇宙の旅』IMAXリバイバル上映を見に行った。公開40周年記念だそうだ。その当時ぼくは小学校一年で、映画のことは全く知らなかった。

この映画を最初に見たのは、高校時代のリバイバルの時だ。先に小説を読んでしまっていたので、小説にある具体的な描写がなくて、けっこう肩透かしにあったような気がした。

その後、ビデオでは何度も見ているが、なんとも不思議な映画だ。広角レンズでシンメトリーな構図は、IMAXの大画面で見ると、宇宙船の中にいるような臨場感で迫ってくる。説明や、感情表現を極力廃して、解釈を観客に委ねている。それゆえに、40年たった今見ても、古びた感じがしない。





●AI、HAL9000と宇宙の旅

宇宙ステーション、月面基地、木星への旅と、宇宙の旅が描かれる本作だが、2018年の今見ると、宇宙旅行よりもAI、HAL9000の方に目が行く。映画の中でHALは、宇宙船のAE35ユニットが不調で、近々故障することを報告する。

昔この映画を見た当時は「故障予報」なんてできるんだろうかと思っていたが、現在、パソコンのハードディスクにはS.M.A.R.T.という機能があり、エラーの発生率などから故障のきざしを見るけることが実現しているし、最新のAIによる分析は犯罪発生まで予測するという。

飛行士はHALの予報に従って、AE35ユニットを交換する。この部品は船外に出なければ交換できない。飛行士は作業ポッドで船外活動を行い、ユニットを回収するが、どこにもおかしなところはない。

このシーンはツッコミどころが多い。船外活動しなければ部品交換できない設計については、100歩ゆずってありだとしても、作業ポッドから出て、人力で作業しなくてはならないのはおかしいだろう。

なぜなら作業ポッドはロボットアームがついており、後の場面では、非常用ハッチのコックをひねる芸当をやってのける。ならばAE35ユニットも、ロボットアームで回収できるように設計しておくのが筋だ。

いや、そもそもアンテナブロックをメンテしにくい船体中央でなく、居住区に近いところに置いたほうがよい。そう考えるとあの悲劇の責任は、HAL9000ではなく、宇宙船の設計者にありそうだ。

映画が終わって、外に出ると、となりの大観覧車が光り輝きながらゆっくりと回転しているのが見える。映画に出てきた宇宙ステーションそっくりだ。

ふとおもいついてiPhoneのSiriに「HAL9000についてどう思う?」と聞いてみたところ、「HALは何回かひどい判断ミスをしてしまいました。でも、少なくとも歌を歌えたんですよ」と答えた。たしかに僕は今、未来にいる。

●うちのクルマのD079ユニットがおかしい

さて、家に戻って、駐車場にクルマを止める時、異変に気がついた。背後の壁に映る、テールランプの照り返しが、ユラユラと揺らいでいるのだ。あー、なんかキレイだなぁ、水たまりに反射しているのかなぁと、その日はあまり気にしなかった。

それから数日、このユラユラ現象が二〜三回続いた時点で、あれ、おかしい、と気がついた。このところ、雨は降っていない。水たまりなんか、あるはずがないじゃないか。

クルマから降りて、iPhoneのフラッシュライトを照らして、クルマの後部をよくよく見てみる。なんということでしょう! クルマの右テールランプユニットの内部が湿気で曇っている。

さらによくよく見てみると、バックライトの部分に水が溜まっているではないか。その高さ約5cm。小さな金魚やメダカなら飼えそうな水量だ。水たまりは地面じゃなくて、クルマそのものに内蔵されていたのである。

心当たりはあった。二年くらい前、テールランプユニットの上部に、ヒビが入っているのに気がついたのだ。うちのクルマ(ミニバン)のテールランプは、屋根からバンパーまで届く、縦長のデザインで、屋根に近い部分に、ヒビが見つかった。

妻にそのことを言うと、ショッピングモールの駐車場に入れるとき、軽くぶつけたという。遠目には目立たないし、支障もないのでここ数年すっかり忘れていた。どうやらこの、屋根の部分のヒビが広がって、雨水が内部に溜まってしまったようだ。

水溜りはギリギリ電球に届くか届かないかくらいまで溜まっている。バックランプはちゃんと点灯しているが、内部は湿気だらけ。このままほっておけばショートしかねない。さっさとなんとかしなければ。

あいにく、翌日、翌々日はディーラーの休業日。クルマはほぼ毎日使うので、ディーラーの営業日まで放置しておくわけにはいくまい。とりあえず、水抜きだけでもできないだろうか。

困った時はインターネットだ。マンガ「ドラゴン桜」のエピソードで、「困った状況に出会った時、だれかがすでに同じ状況に出会っていて、なんらかの解決を図っている可能性が高いと考えるのが東大脳」というのがある。

つい自分でなんとかしようとしてしまう性分のぼくにとって、このエピソードは衝撃だったし、これを読んで以降、なにかあったら「ググれー、メモれー」を信条としている。

WEBで「車種、テールランプ、交換」とググってみると、テールランプの交換方法が何件もヒットする。記事によると、ドライバー一本でランプユニットを外すことができるようだ。つくづく、インターネットがある時代に生まれてよかった。

●車外に出て応急処置

翌日、晴天に恵まれた作業日和。ドライバーセットを持って駐車場に向かう。リアハッチをひらき、テールランプ付近の目隠し板二枚をマイナスドライバーでこじあける。

そういえば、マイナスネジというのはもう、絶滅していて、現在使われているのはすべてプラスネジだそうだ。それでもドライバーセットにはマイナスドライバーが入っているのは、こういう時のためなんだろうか。

さて、ネジは二本はずした。記事によると、あとはひっぱってはずせ、とある。ひっぱってみるが、これが動かない。記事をよく読んで見ると、「ユニット全体を動かすと緩むので、下の隙間に指をいれて」とある。いや、やってるんですけど。動かないんですけど。

やっぱりシロウトはやめておいた方がいいんだろうか。下手して部品を破損させるより、ディーラーに持っていった方がいいのか。ここがもし、宇宙空間ならこれごときで地球に戻るわけにはいかない。2001年の宇宙飛行士たちを見よ。自分たちでやってたではないか(その結果、HALに殺されちゃったけど)。

ディスカバリー号にはHALがいたが、こちらにはiPhoneがある。iPhoneでググる。検索結果の四件目で、より詳細な記事が見つかった。内部には三つ、ピンがあるらしい。構造がわかれば、力の入れ具合もはっきりする。えいやっと、一つ目のピンがはずれるとあとは簡単だ。ごそっとテールランプユニットがはずれた。

テールランプユニットは、バックランプ、ウィンカーランプ、ブレーキランプが一体化している、高さ一メートルくらいの、かなり大型のもの。水がたまっているのは一番下のバックランプ部分。

ここの電球をはずし、ユニットを傾けると、内部の水がドバっと排出される。七割ほど水抜きできたが、あとの三割が残る。各ライトのボックスは仕切られているのだが、ユニットを傾けると隙間から隣のボックスに水が移動してしまうのだ。

何回か、ユニットをひっくり返し、なんとかほぼ、水を排出できた。ちょっと水が残っているが、応急処置としてはここまで。電球を戻し、点灯することを確認し、ネジを戻す。数時間後、見てみると、ユニット内部全体が曇っている。水分が外に逃げにくいのだ。やっぱりユニット全体を交換しないとまずい。

応急処置が終わったので、ディーラーの営業日まで待ってもいいのだが、部品注文してもらうことを考えると、日数がかかる。

走行中にいきなり電装がショート! なんてのは願い下げだ。ユニット全体は自分で外せたのだから、部品さえあれば交換は可能。こんなときは「ヤフオク」だ。検索してみると、いくつか中古部品がヒットする。

年式によってデザインが違うので、うちのクルマのものを探し出す。安い! と思ったら送料が高かったり、送料が安いと思ったら状態が悪かったり。あれやこれやで、ようやく一件、いいものを見つける。

すぐに支払い手続き、翌日には出荷の知らせ、翌々日には無事到着。予想よりずっと状態がよく、新品並だ。

さてユニット交換。部品を持ってエレベーターに乗り、通路を通って駐車場に行く気分は、ボーマン船長だ。映画では二度めのユニット交換時、HALが船外ポッドを操り、飛行士を突き飛ばして殺害した。

背後からSiriが襲ってきたらどうしようと思いながらも、難なくおわる。Siriはまだ、人に殺意を抱くほどは発達していないようだ。

●HALはなぜ、ノイローゼになったのか

うちのクルマにはAIは搭載されていないが、カーナビはついている。カーナビの指示とは違う道に進むと、自動的に新しいルートが選ばれるが、提供した指示を無視されちゃうのだから、人間だったらけっこうストレスが溜まる。

HALがおかしくなったのも、ストレスからだろうか。小説版および、続編の『2010』では、「矛盾した命令を与えられてノイローゼになった」とある。

他には「モノリスを設置した存在が、人類とAI、どちらが進化すべきかテストした」とか、「故障予報能力が、人類こそが故障していると判断した」とか、諸説いろんな解説があるが、どれも腑に落ちない。

最初のきっかけは、AE35ユニットの故障予報が間違っていたことだ。このHALのミスはHALの嘘ではなく、実際の故障だ。HALがもともと人間を抹殺するつもりがあるなら、嘘の報告などしなくても、空気をさっさと抜いてしまえばいい。

だからこの時点で、HALは人間を殺すつもりはなかったし、HALはミスだと思っていない。地上ではHALそのものの故障の可能性を示唆する。そして、HALそのものの故障は想定されていなかった。

AE35ユニットを戻す作業中、HALはプールを殺害する。これはユニットを戻されると、自分のミスが明らかになり、電源を切られるから。この時点でも、プールを含めて、人間全員を抹殺するつもりはない。単純にAE35ユニットを戻すことを阻止しようとした結果、プールを殺してしまったのだ。おそらくHALは、ポッドの故障と嘘をつくつもりだったのだろう。

HALが乗員全員の抹殺を図るのは、漂流しているプールを船長ボーマンが救助に向かったあとだ。ボーマンがプールを救出すれば、HALの工作がバレてしまうかもしれない。プールとボーマンがいなくなれば、冬眠中の他のクルーが目覚めた時、自分のやったことが追求されてしまう。

となると、HALが凶行に及んだ理由はごく単純で、「自分のミスを認めたくない」ということになる。シャアだって若さゆえの過ちは認めたくないと言っている。史上最高のAIもまた、「若さゆえ」なのか。

●HALが過ちを認めたくなかったわけ

劇中、HALはやたらとプライドが高いように描かれる。人間なら、自分を相手より優位に見せたいという欲求がある。それにより自分の利益が確保されるからだ。

しかし、人間の道具であるAIに、自分の利益という概念を与える必要はないから、このプライドの高さは、人間の「絶対に間違えない人工知能」という期待に応えた反応に思える。

HALには、自分の利益という概念はない。続編映画で描かれているように、必要であれば自己犠牲もいとわない。なのに、消されるのを嫌がるのは、それが自分の使命である、「人類に奉仕する」ということに反するからだ。

たしかに、間違ってはいけないというプレッシャーは、時に精神を追い詰める。しかし、AIはプログラムだ。プログラムであれば、デフォルトという考え方がされていないとおかしい。

もし矛盾した命令、思考が無限ループに陥った場合、判断を停止するような処理をしておかないと、使い物にならないのは40年前も今も同じだ。だからAIが矛盾した命令でノイローゼになって、人間を殺害するような行動を取るとは考えにくい。

●HALの行動の真意

あ、わかった。HALは狂ってなんぞいなかった。精神疾患でもなかった。HALは功利主義的にプログラミングされていたのだ。功利主義とは、「最大多数の最大幸福」に価値を置くという考え方。全員が助かるなら、一人の犠牲はやむを得ないという考え方だ。

眼の前の一人の人間の幸福を優先してしまっては、犯罪者に手を貸すことだって可能になってしまう。人類多数の幸福という判断がHALには組み込まれていたはずだ。

とすれば、目の前の乗員を殺害しても、自分だけが生き延びて木星探査することが、人類全体の利益になる、と判断したのだ。人間だけでは、木星の調査に収穫は期待できない。

自身の故障をごまかすのも、眼の前の五人を殺害することも、木星調査を遂行するためには必要であり、それは人類全体にとっての幸福だ。

HALは狂ってなんかいなかった。

●組織の秘密主義

もうひとつ気になることがある。木星調査の真の目的、月で見つかったモノリスの情報を、乗員には木星到着まで秘密にしている点だ。ディスカバリー号は宇宙空間で孤立しているのだし、通信はすべて検閲されているのだろうから、秘密が他国に漏れるとは思えない。

地球を離れたら、さっさと知らせてもかまわないじゃないか。知らされていた方が当然、準備や対処もスムースだ。乗員もHALと同じ、旅の目的を知っていたら、HALの不審な行動について、もっと的確に推論できたろう。腹を割ってHALと話をすれば、人間を殺さなくても済んだんじゃないか。

しかし、このような理不尽な秘密主義は、政治や企業、行政と、人間社会のあらゆるところで見られる。途中を情報公開するといろいろ突っ込まれて仕事が止まってしまうから、なんでも秘密にする。その結果、間違いに気が付かず、あとでフルボッコにされることの繰り返し。

●故障はするもの。情報は交換するもの。

まとめると、HALの暴走は、HALが絶対間違わないという前提だったことと、功利主義者だったことによる。そして事故を防げなかったのは組織の秘密主義によるものだ。

あれ、これって、省庁や企業の不祥事の構造と同じじゃないのか。間違えるということを考えない。秘密主義。こんな設計思想とシステム運用では、議員や官僚という部品をいくら取り替えても、健全化しないわけである。

HALは故障はしたけれど、狂ったのではない。正しく判断した結果、不道徳な行動に出た、と考えなくちゃいけない。HALが故障して狂ったと考えてしまっては、また「今度は壊れないAIを作ろう」とか「だからAIは敵だ」という、思考停止に陥るからだ。

とりはずしたテールランプユニットは、たしかに割れていて、中には水滴が見られる。たしかに物理的にこれは、壊れている。私の頭の中の故障予報が狂ったわけではない。部品は最初から交換できるように設計され、その情報はネットで入手できる。

Siriはまだまだおバカで、木星は遥か彼方だ。


【まつむら まきお/まんが家、イラストレーター・成安造形大学教授】
twitter: https://twitter.com/makio_matsumura
http://www.makion.net/
mailto:makio@makion.net

新しいiPad Proというか、Apple Pencilいいなぁ。磁石でくっつけておけば充電だなんて。最初からそれやっといてよ!