《なーんて本音をぼろっと言っちゃうから》
■ Otaku ワールドへようこそ！［291］
シンギュラリティ来ない派の言い分を聞いてみる［前編］
GrowHair
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
■ Otaku ワールドへようこそ！［291］
シンギュラリティ来ない派の言い分を聞いてみる［前編］
GrowHair
https://bn.dgcr.com/archives/20181102110100.html
───────────────────────────────────
人工知能（AI）が人類を超える日を「シンギュラリティ」と言い、レイ・カーツワイル氏は2045年ごろに来るだろうと予想しているが、当たるか外れるかは両論ある。
「外れる派」の発言をざっと眺めてみよう。
・シンギュラリティとか言っているのは、現実と夢の区別がついてない人か、その区別がついていない人を騙してビジネスをやろうとしている人か、そのどっちかだと思ってます。
東浩紀氏 2018年3月27日（火）twitter
https://twitter.com/hazuma/status/978644086134419462
・いわゆる「シンギュラリティ」の話は出来があまり良くないSFであり、錬金術や永久機関の話に近い。本気で力説されると「永久機関がいよいよできる」と喜んでいる人を見るようで、尊敬している人の場合どう応じたらよいものか困ってしまう。
谷島宣之氏 2018年3月29日（木）日経ビジネスONLINE
https://business.nikkeibp.co.jp/atcl/opinion/15/100753/032700007/
・（近い将来のシンギュラリティ予測について） ひとことで言えば、そういった考えはすべてばかげているし、ナンセンスです。ハリー・フランクファートという哲学者の言葉を借りれば「ウンコな議論」そのものです。
マルクス・ガブリエル氏 2018年7月13日（金）配信 Yahoo! ニュース
https://news.yahoo.co.jp/feature/1016
・近い将来、人工知能はあらゆる領域で人間の能力を圧倒し、人間を支配しはじめるのではないかという危惧までもが真剣に語られる。しかし「AIによる人類支配」は幻想である。それは拡張された人間の万能感に過ぎない。なぜなら、AIは決して「意味」を理解できないからだ。
斎藤環氏 2016年10月16日（日）第3回AI美芸研
https://www.aloalo.co.jp/ai/research/r003.html
・人工知能は人間ではないので、人間と同じようには考えない。ロボットには独立した目標および欲求がない。人工知能が過度に誇張される原因は、エンターテインメント作品、メディアの記事、研究者の誇張アピールの三つだ。
Jerry Kaplan氏 2018年9月12日（水）ROBOTEER
https://roboteer-tokyo.com/archives/13441
・近現代哲学の基本線から言えば、AIは「人間同様の知能」にはなりえないし、「心」は持てない。言うまでもないことだと僕は思ってたんだけど、言わないとまずい状況らしい。AIがやっているのはただの無意味な計算プロセスだという話を、まず大前提として置かなければならない。
千葉雅也氏 2018年5月11日（金）twitter
https://twitter.com/masayachiba/status/994755150731358208
https://twitter.com/masayachiba/status/994755885221068800
・数十年の間で急激に発達した最新テクノロジーの勢いを持ってしても、AIの学習能力には限界があり、人工知能が人間の進化を越える日は来ない。
新井紀子氏 2017年6月2日（金）ReseMom
https://resemom.jp/article/2017/06/02/38461.html
・（シンギュラリティーについて）私は、この言葉の賞味期限は長く見積もってもあと二年だろうと思う。
新井紀子氏 2018年2月2日（金）『AI vs. 教科書が読めない子どもたち』
・（政府がシンギュラリティプログラムを支援しようとしている現状に対し）土星に土星人がいるかもしれない、ということを前提に国家の政策について検討するのはいかがなものか。
新井紀子氏 2018年2月2日（金）『AI vs. 教科書が読めない子どもたち』
・AIは物事の意味を理解することができない。この限界があるかぎり、人間はAIに代替されることはないはずだ。
新井紀子氏 2018年3月30日（金）Forbes Japan
https://forbesjapan.com/articles/detail/20359/1/1/1
・そういうSF的な話は、どうも眉唾くさい。原始的な単細胞さえ合成できないのに、人間の意識など創れるのだろうか。むしろ誰かが、人工知能の仮面をかぶって支配権を握りたいのだろう、と疑いたくなる。これを邪推と言い切れるのか。
西垣通氏 2016年7月20日（水）『ビッグデータと人工知能』
・意識をもつ人工知能が自己認識し、人間と融合するという発想は、どこかおかしいのではないか？ シンギュラリティ仮説そのものの中に、どこか人工知能にたいする、根本的な誤解があるのではないか。
西垣通氏 2016年7月20日（水）『ビッグデータと人工知能』
・カーツワイルのいうAIとは、普遍的な絶対知の実現に他ならない。にもかかわらず、人知の模倣という側面も明確にみられる。人間の模倣を方法として用いながらも、より高次の超知性体への進化、絶対的真理への到達を目指している。だが、ホモサピエンスは特有の不完全さをもつ。これは根本的な矛盾ではないだろうか。
西垣通氏 2018年4月10日（火）『AI原論』
・シンギュラリティの到来に肯定的な人々は、科学とテクノロジーの世界で、今何が起きているかわかっていないのではないか。知る術がないのかもしれないし、ただ単に知りたくないのかもしれないが。
ジャン=ガブリエル・ガナシア氏 2017年5月26日（金）
『そろそろ、人工知能の真実を話そう』
・シンギュラリティの推進者の多くは、SF発祥の夢物語と科学やテクノロジーの研究成果に基づくプロジェクトの実現とを混同しているようだ。この事実は、グノーシス派に見られる神話の領域と、論理的思考の領域の混同を思い起こさせる。
ジャン=ガブリエル・ガナシア氏 2017年5月26日（金）
『そろそろ、人工知能の真実を話そう』
・シンギュラリティの主張は、はっきりした科学的証明がなされていないという点で、認識論的に間違っている。
ジャン=ガブリエル・ガナシア氏 2017年5月26日（金）
『そろそろ、人工知能の真実を話そう』
ことシンギュラリティの話題については、中立的な位置に立ち、先入観を排し、公平公正な姿勢を貫き、冷静さを失わず、客観視点に徹し、事実と論理に基づいて論を運ぶのが非常にむずかしい。
シンギュラリティ来る派にせよ、来ない派にせよ、ほとんどの人が、自分の側の考えに絶対的な確信を抱いており、相手側が浅慮に陥っているのを、せいぜい頭が悪いか、おかしいか、根本的なところで勘違いしているせいか、そんなところだろうと決めつけてかかっているようにみえる。
まあ、シンギュラリティの問題に限らず、安倍政権を支持するかしないかとか、ジャーナリストが危険を顧みず紛争地帯に行くことは是か非かとか、さまざまな論題について、自己の優越性を信じて疑わず、相手を馬鹿扱いしてかかる論調がこのところよくみられる。
自動車を運転する人のざっと8割は、自分が全ドライバーの平均以上に運転が上手いと思っているという調査結果があるらしい。まあ、数学的に厳密に言えば、例えば、度数含有比が2割対8割の極端な双峰性の度数分布を考えると、平均以上の要素が8割を占めるケースというのもありうることはありうる。
しかし、運転スキルが仮に一次元尺度として数値化できたとして、その度数分布がそれほど極端な形になるとは考えづらいので、平均以上の人の割合はだいたい5割程度だと考えるのが妥当であろう。だとすると、約3割の人は、幸せな幻想を抱いていることになる。
今回、あえて、自分とは反対の立場の人たちの意見を取り上げるのは、ひょっとしたら自分は平均以下の馬鹿なのではなかろうかと気づき始めて心配になったからではない。
お互いに相手を馬鹿呼ばわりして、ずっと平行線の放言合戦を続けていくだけではいかにも不毛なので、ちゃんと論拠を提示して真面目に論じている人たちの意見に限っては、いちおう、こっちも真面目に耳を傾け、受け容れて考えを改めるなり、冷静かつ論理的に反論するなりするのが礼儀というものであろうと思ったからである。
しかし、上で例示した発言のいくつかにみられるように、論拠をまったく示していないか、示してもせいぜい後づけのお座なり程度のもので、ハナっから結論を決めてかかっているような調子で、しかも相手を馬鹿にしきっているような態度のはどうしたらいいか。
まあ、放っておくしかないでしょうな。説得したら考えを改めそうな感じがぜんぜんしないし。わざわざエネルギーを使っても、ノイズが生成されてエントロピーが増大するだけだろうし。平行線というか、決別して、どんどん遠ざかっていけば省エネになっていいような気がする。
思想・信仰の自由という、憲法で保障された基本的人権について、これを軽んじてよいとはまったく思っていない。「私は、個人的にこれこれのことを信じたいんです」というタイプの主張に対しては、「どうぞどうぞ、ご自由に」と返す以外にない。ただ、こっちが「頭の悪い人なんだね」と腹の中で小馬鹿にする、思想・信仰の自由もぜひとも尊重してほしい。
……なーんて本音をぼろっと言っちゃうから場が荒れるのか。
●前提をすり合わせておきたい
ものごとを筋道立てて論理的に述べ立てたからといって、伝わるとは限らない。お互いが前提としている基盤が異なると、まったくかみ合わないことになる。なので、まず、そのへんを整理して、地ならししておきたい。
【前提1】人間の尊厳
人間の尊厳については、チューリングの論文を紹介した際に触れている。
◇
なぜ、多くの人々は「人間の尊厳」みたいな概念にしがみつきたがるのだろう。そんなの、セーラー服を着て往来を闊歩すれば、一瞬にして吹っ飛んじゃうんだけど。尊厳なんて吹っ飛んだって別に何も困らないし。人間の尊厳を木端微塵に粉砕して、徹底的に否定しようというわけでもなんだけど。ただ、ものごとを正しく知りたいと思うなら、その手の幻想に阻まれて真理に近づけないのでは、かえって前近代的な暗闇に閉じこもったまま出て来れなくなっているという劣等性を背負い込むことになる気がする。
◇
シンギュラリティ来ない派の中には、人間とは百獣の王じゃなかった万物の霊長であるからして、その尊厳が機械ごときに脅かされてたまるか、と思っている人が多いように見受けられる。
そこはもう宗教的な領域で、どうにもならないのかもしれないが、私からすると、尊厳なんてもんはティッシュにくるんでポイッとゴミ箱に投げ捨てちゃったほうが、かえってすっきりして頭が冴え、視界がクリアになる気がする。それが、先入観を排除するってことなのではあるまいか。
【前提2】今と未来の区別
「AIは」という主語を使うとき、下記のどちらの意味で言っているのかの区別ははっきりしておかないと話が混乱する。
（1）今現在の技術的到達レベルにおける、あるいは、その延長線上にある数年先ぐらいまでの到達レベルにおけるAIは、……
（2）原理的な理論限界により、未来永劫にわたって AI というものは、……
「AIは人間ではないので、人間と同じようには考えない」という主張について、前者の意味で言っているのであれば、私も100％同意する。「ロボットには独立した目標および欲求がない」についても同様。
今現在、我々人間を相手に普通の日常会話を延々と続けていって不自然さを呈さないAIは実現していない。碁が強いAlphaGoは、勝ちたいと思ってないし、勝っても嬉しいとも思っていない。
しかし、もし、後者の意味で言っているのだとしたら、「それって自明なことなんでしょうか」という疑問を返さざるをえない。
我々人間がふつうに出来ることが、AIに出来るようになる日は未来永劫、ぜったいに来ない、と主張するのであれば、人間とAIとの間を隔てる本質的な差異は何か、という、やや根源的な問いに立ち入らざるをえない。
生体脳の種々の機能のうち、機械によってぜったいに代替できないことがあるとすれば、それは何であって、なぜ代替できないのか。
シンギュラリティ来ない派の中で、そこまで立ち入って論じる人はあまり多くなさそうだ。というか、私はそういう論で、まともなのを見たことがない。
AIには身体がないので、人間と同じように死を恐怖したりできない、といった論については、【前提6】で触れよう。
【前提3】フリと素の区別
「狂人の真似とて大路を走らば、即ち狂人なり」と『徒然草』に書いてある。「ナニナニのフリが上手い」ことは、「ナニナニである」ことと同じだと。
アラン・チューリングは、知能があるフリが上手ければ、それは実際に知能を備えていることと見かけが同じであるばかりでなく、本質的にも同等なのではあるまいか、と考えていたようである。その立場にも一理あると思う。
しかし、議論するときは区別しておかないと混乱する。
【前提4】20世紀の物理学が悩んできたこと
シンギュラリティという概念について、荒唐無稽な妄想だとか、出来の悪いSFだとか言って言下に否定しようとする人たちは、20世紀の物理学がどんな悩みをくぐり抜けてきたのか、ちゃんと飲み込めていないのではなかろうかという疑いがある。
ここをちゃんと説明すると長くなるが、言っておかないわけにはいかないので、端折りながらなぞりたい。
例えば、超弦理論では、この世は10次元だと述べている。荒唐無稽な妄想に聞こえるかもしれないが、れっきとした物理学の仮説である。なぜこのような奇妙奇天烈な理論を、打ち出して来なくてはならなかったのか。
それは、この世で起きている物理現象が、おかしいからである。そんな現象が起きるのは論理的に考えて間違っているから、起きてはいけませんよ、と諌めたくなる。けど、実際に起きている以上、受け容れないわけにはいかない。この世は、我々が理性で考えているところとは、違うところだった。
ここが、押さえておくべき重要なポイントである。物理現象が、変。変な物理現象の代表例に、二重スリット問題と光速不変の法則がある。
一個の粒子を打ち出して、それが「二」の字のスリットの向こう側の壁に到達したとき、この粒子は一方のスリットを通り抜けたか、他方のスリットを通り抜けたか、二つに一つしかしかありえない、と思うのが妥当な推測ってもんだろう。両方いっぺんに通り抜けるなんてことは、起きようがない。
ところが、実際に観察される物理現象は、あたかも一個の粒子が、発射された直後から波に化けて、「二」の字のスリットの両方を通り抜けて、自分どうしが干渉しあい、壁に到達した瞬間には、しれっと粒子に戻った、としか考えられないようなことになっている。
人が見てないところでは勝手に波に化けていて、観察した瞬間に粒子に戻る。だるまさんがころんだ。
起きている物理現象に文句を垂れてもしょうがないから、しぶしぶ打ち出した理論が、量子論である。
立ち止まった状態で、レーザーポインタなどで、前方に向けて光線を発射した場合と、前進しながら発射した場合とでは、後者のほうが、前進速度分だけ加算されて、光の速度が速くなってしかるべきである。
ところが、光を受ける側からすると、両者の速度は同じと観察される。これは、どうにもこうにも、おかしい。この物理現象を受け容れて、理論を打ち立てようとすると、立ち止まっている人と、前進している人との間で、時間が経過するスピード（※）が異なると考えるしかなくなる。それで打ち立てられたのが相対論である。
※時間が経過するスピードったって、時間を時間で微分したら常に1になっちゃうので、異なりようがなかろうって反論は一理ありそうだが、私に聞かないでほしい。
量子論と相対論それぞれもすでにそうとうおかしいのだが、それらをガッチャンコしようとすると、またおかしなことが起きる。そのおかしさを解消しようとして打ち出されたのが超弦理論である。この世は10次元。余分な次元の世界を直接的に見てきた人はいないけど、そう仮定することで、やっと、この世で起きている物理現象に説明がつく、というわけだ。
量子論も相対論も超弦理論も奇妙奇天烈だが、その奇妙奇天烈さの責任は、理論を考えた人の頭のおかしさにあるのではなく、現実に起きている物理現象のおかしさに由来するのである。
ここをちゃんと踏まえておくと、シンギュラリティ仮説を聞いただけで、即座に「ふつうに考えておかしい」などと言って却下しようとすることはなくなると思うのだが、いかがだろうか。
このへんのところ、数式など使わず、ざっと定性的にでいいので、中学で教えるべきだと思う。
余談だが、私は大学で数学を専攻していたが、在学中、他学科聴講制度がスタートした。他学科の講義を聴講してよく、それで取得した単位は卒業単位として勘定してよいという画期的なものだ。生きている間に相対論は理解しておきたいと思っていた私は、物理学科の講義を選択した。
ところが、それは、基礎編を一年受講したという前提の下の、二年目の講義だった。「ローレンツ変換については、去年の講義を思い出してください」で片づけられた。最初の一回だけ出席して、もうやめた。あれはひどい仕打ちに遭ったと思う。
【前提5】数理論理学の基礎
仮に、Aさんが次のように言ったとしましょう。「明日は雨が降るような気がする。さっきまで晴れていたのに、あっという間に空が雲で覆われてしまった」。
これに対して、Bさんが次のように言ったとしましょう。「Aは明日は間違いなく雨が降ると言っているが、それはおかしい。彼の論証には欠陥がある。空が雲で覆われたからといって、かならずしも雨が降るとは限らない。ゆえに、明日は雨が降らない」。
これ、二重の間違いを犯していることに気づきましたか？ 第一に、Aが主張してもいないことをさも主張したかのごとく、すり替えてますね。で、すり替え後のほうの主張に対しては、たしかに論理的に論破できています。「すり替え論破」とでも呼んでおきましょうか。
ここで言えたことは、明日雨が降る可能性は100％ではない、ということです。100％ではないとしても、90％かもしれないし、50％かもしれないし、可能性は残っています。ところが、いきなり、可能性はゼロだと結論づけてしまっていますね。これが第二の間違いです。「部分否定の全否定化」とでも呼んでおきましょうか。
天気の例でみると、論理ミスが見抜きやすかったと思うが、シンギュラリティ来る派に対する反論の中には、これと同じタイプのをやらかしているんじゃなかろうかと疑わしいのが見受けられる。
いくらたくさん本を読んでいて、豊富な知識を蓄えていても、いざ、自分の考えを述べ立てようとするとき、論理の運びにほころびがあると、主張内容自体が脆弱になる。
大学入試において、人文系の学科にも数学を課すのは、いいことだと思う。今現在、人文系の評論家として活動している先生方の大半は落ちるような気がするが、それでいいと思う。論理は大事だ。
余談になるが、今、振り返ると、私が在学していた当時の私立桐朋中学・高校の数学の教諭陣はものすごく優秀なだけでなく、教育に対してすばらしく高い理念を掲げていた。
文部省（当時）の推奨するカリキュラムなんか丸無視で、中学の数学では、教諭陣の手作りの教科書を使って、ユークリッド幾何学をやってくれた。あれは、厳密な論理運びと数理体系の構築のなんたるかをみっちりと身体にしみ込ませてくれた。きらめく宝石のような数学教育だった。
おかげさまで、大学で数学を専攻するようになった私は、その後、少しばかり風変わりな人生を歩んできている。
あの薄い黄色の表紙の手作り教科書を復元するすべはないだろうけど、ユークリッド幾何学の教科書として、よさそうなのを見つけたのでご紹介しておきたい（読んでないのに無責任に薦めてすいません）。
溝上武實著
『ユークリッド幾何学を考える（読んで楽しむ教科書）』
ベレ出版（2006/6/25）
あと、下記のもお薦め。論理運びのほころびを瞬時に見抜く力を養ういいトレーニングになる。
野崎昭弘著
『詭弁論理学 改版』
中央公論新社; 改版（2017/4/19）
ついでに、中一の最初の授業の最後に付け足しのように下記の本を薦めてきた鬼の奥山先生に感謝したい。この難読書を中一の生徒に薦めるか！
遠山 啓著
『無限と連続 ― 現代数学の展望』
岩波書店; 改版（1952/5/10）
【前提 6】われわれ自身に立ち返る
人間にできることが、何でもかんでも機械にできるようになるとは限らないのだとしたら、人間と機械とを分け隔てる本質的な差異は何か、という問いが浮かび上がる。
じゃあ、われわれの脳は何をしているのか。外から客観的に観察する限り、脳といえども物質であることには間違いない。物質である以上、物理法則には厳密にしたがうはずである。この観点でみる限り、脳だって機械のように動作しているにすぎないはずである。
実際、脳科学が現時点までに解き明かしたところでは、脳は約860億個の脳神経細胞（ニューロン）からなり、一個一個のニューロンは、情報処理機能としては、短いプログラムで記述できる程度の、ごく簡単な計算をしているにすぎない。
いくら多数のニューロンが複雑に配線されているからといって、外からの客観的な観察からは、機械のようにしか動作していないようにみえる脳において、意識だの、知能だの、欲望だの、感情だの、想像力だの、創造性だの、主観的なものが備わるのは、いかなるメカニズムによってであるか。
現時点での科学の力をもってしても解明されていない、深～い謎である。機械のようにしか動作していなさそうにみえる脳に意識が宿っていることって、二重スリット問題や光速不変の法則にもまさる、ありえないくらい不思議なことなのだ。
この不思議さに気づき、驚嘆と畏敬の念をもって謎に向き合っている人って、人類の中でも数少ないように感じられる。
網膜には、現実世界を反映した倒立像が映っている。約一億個の視細胞が光の強弱を捉え、膜電位に変換している。視細胞が出力した電気信号は、神経節細胞を介して、外側膝状体（がいそくしつじょうたい、lateral geniculate nucleus; LGN）と呼ばれる領域に伝達される。視細胞は脳の外だが、LGNは脳内の一部位である。
脳の側にとってみると、視覚情報は、たくさんの神経の束を通じて、0か1かの値の列（＝ビット列）として、同時並行的に送り込まれてくる。聴覚情報も味覚情報も嗅覚情報も触覚情報もまたしかり。
いったんビット列になってしまえば、その発生源が光だったか音だったかなんて、区別がつきゃしない。なのに脳はそれらをちゃんと弁別し、視覚情報からは視覚クオリアを、聴覚情報からは聴覚クオリアを発生させる。
脳の視覚野と聴覚野とを作為的につなぎ替えても、脳は正しく弁別するようになるらしい。実際、舌でものを見る装置が開発されている。これは、あちこちから同時並行的に入ってくる情報どうしの整合性を頼りに、非常に難しい数学の問題を解いていることに相当するのだと思う。不思議だし、畏怖の念さえ起こさせるすごいことじゃなかろうか。
ビット列を次から次へと送り込んでくる神経の元のほうに、現実に目があったり耳があったり手足があったりするかどうかを知る手段は、脳の側にはない。脳それ自体は、頭蓋骨の中に閉じ込められていて、光も音もなく、ただただビット列の形で信号が送り込まれてくるのを受けて、信号処理しているだけなのである。
ということは、目や耳や手足のさらに先に、広大な現実世界が広がっているかどうかも、脳にとって知る手段はないのだ。
ただ、脳は、あちこちから入ってくる信号の整合性を頼りに、われわれの周辺の世界はきっとこうなっているはずだという三次元モデルを脳内に構築する。
いろいろなモダリティ（modality、様相、つまり五感のそれぞれ）で入ってきた情報に、これだけ整合性のある説明がつくのであれば、きっと現実を正しく捉えているに違いないと納得して安心する。しかし、脳が単独で実地に確認しに行く手段はない。
存在しない腕が、あたかもあるように感じられる「幻肢」という現象があり、錯視現象もあり、脳の現実認識は必ずしも常に正しいとは限らない。
AIは身体性を備えていなければ、人間と同じように思考することはできないとする論があるが、厳密に言えば、人間の脳においても、身体そのものは不要で、あたかも身体があるかのごとく信号が入ってきさえすれば、ふつうに機能するはずである。
脳は、入ってくるビット列を処理する計算しかしていないようだ。その計算自体は、原理的には、コンピュータで代替することが可能なように思えるがどうだろう。機能さえ果たせばいいのだとすれば、基盤が有機物か無機物かは関係ないだろう。
端的に言って、脳がいったい何をしているのかよく分かっていない現段階において、機械が人間のように振る舞うのは不可能であると結論づけてしまうのは、やや早計なのではあるまいか。少なくとも原理的には、可能性があるのではなかろうか。
●シンギュラリティとは何か、起きたらどうなるのか
シンギュラリティとは何であって、起きるとどうなるのか。そのあたりにすら統一見解はないようで、そこも混乱の元になっているかもしれない。
基本的には、AIの知能レベルが人間のそれを圧倒的に上回る時点、である。しかし、知能自体、科学の言葉できっちりと定義できているわけではないし。
シンギュラリティは、「知能爆発」の結果として引き起こされるとよく言われる。知能爆発とは何か。
AIの実体は、コンピュータの上で走るソフトウェアである。プログラマがソフトウェアを作成して走らせている限りにおいては、その動作は作り主の完全な掌握下にあると言ってよい。
しかし、そのソフトウェアがアウトプットとして、別のソフトウェアを吐き出したらどうだろう。ソフトウェア自身が子供を産んだ、みたいな。その子は親よりも優秀で、自身の改良版になっていたらどうだろう。
子供のソフトウェアを走らせた結果、それがまた子供を産んで、自身の改良版になっていたとしたら。その連鎖がずっと起き続けたら。
元のプログラムを書いた人が掌握しきれるレベルを超えて、AIが勝手に進化していってしまう。これが始まったら、知能レベルが猛スピードで上がっていき、あっという間に人間のレベルを追い越してしまう。これが知能爆発。
シンギュラリティが起きると、AIは人類最後の発明になると言われている。それ以降のすべての発明は、AIによってなされる。
AIは、人間に理解できる記述形式で論文をアウトプットすることもできるが、AIが論文を書くスピードが、人間がそれを読むスピードを上回るので、行けども行けども突き放されるばかりで、永久に追いつけない。
知能爆発が起きたからといって、その実態は、コンピュータの上でソフトウェアが走っているだけである。あたかも高僧が壁に向かって座禅を組んで瞑想に耽るかのごとく、ただ黙々と何らかの計算を実行しているだけであれば、それ自体が人類に直接的な実害を及ぼすことはない。
人類がまだ発見していない数学の定理を提示してきて、ささっと証明までつけてくれちゃったりすれば、ある種の脅威であることには違いない。
けど、その脅威は、地球上で唯一の高度な知能を備えた実体という人類の、種としてのプライドが傷つくという類いのメンタルなものである。我々がこうむるダメージの種類としては、碁や将棋でプロを負かすのと大差ないとも言える。
シンギュラリティ以降のAIが、実世界に物理的に手出しをすることができるようになるだろうか。
コンピュータ・ネットワークの情報通信を混乱に陥れたりとか。交通信号の切り替えを意図的に操作して、列車や自動車を衝突させたりとか。秘密裏に、あるいは、人間の介入をブロックして、ロボットなどを製造して、身体を獲得したりとか。それを大量に製造したりとか。
ロボットみずからに被害が及ばないよう、有機体の生命にだけ害を及ぼす毒物や細菌による兵器を開発して製造するとか。
そこまで行けば、AIが人類を滅ぼすのも、意のままになる。
だからこそ、故・スティーヴン・ホーキング氏が警告を発していたのではなかろうか。
●地ならしが済んだので、いよいよ本題
ここから本題に入るつもりでしたが、すでに長く書きすぎました。続きは次回に回します。
【GrowHair】GrowHair@yahoo.co.jp
セーラー服仙人カメコ。アイデンティティ拡散。
http://www.growhair-jk.com/
《つくばに行ってきた》
10月27日（土）、筑波大学に行ってきた。落合陽一氏の案内で、研究室を見学した。クラウドファンディングのリターンとして。研究室というより、作業場。狭い部屋にでかい機材がどかどか置かれて、秘密基地感ある。ものづくり指向者たちの天国。たのしそう。
写真。落合さん、かっこいい。
https://photos.app.goo.gl/acuy6L7p9cmsa4KC6
《ツイキャスします》
前回、静岡に行って体験してきたことを報告しました。
『利他性、前向き、頭いい ─ その業界で成功する三条件か』
https://bn.dgcr.com/archives/20181019110100.html
明後日、あかねさんのご紹介で、26歳素人童貞氏とお会いすることになりました。“兄弟”ご対面～。その模様、リアルタイムでネット配信します。
11月4日（日）4:30pm～5:00pm
『セーラー服おじさんと26歳素人童貞――好きを極めると人は変態になってしまう』
ご覧になりたい方は、あかねさんのtwitterアカウントをフォローしていただけると、開始直前にURLが公開されます。
https://twitter.com/mirage_akane
素人童貞氏の書籍は11月10日（土）発売予定。
素童
『昼休み、またピンクサロンに走り出していた』
ぶんか社（2018/11/10）
計量テキスト分析・テキストマイニングのためのフリーソフトウェア「KH Coder」の開発者である樋口耕一氏（立命館大学産業社会学部准教授）がtwitterでこの書籍を紹介するツイートをしています。
KH Coder @khcoder
『昼休み、またピンクサロンに走り出していた』（素童著）
http://www.amazon.co.jp/exec/obidos/ASIN/4821144921/dgcrcom-22/
KH Coderをお使いいただいた本としては、やや異色な本が、来月発売になるようです。サービス提供者・享受者双方の悲哀がどことなく伝わってくる作品だと思います。
18:18 - 2018年10月17日
樋口氏は、12月8日（土）に高知大学でセミナー開催を予定しているが、用意された100席がすでに満席となり、予約受付を締め切った。
著書：樋口耕一『社会調査のための計量テキスト分析 ― 内容分析の継承と発展を目指して』ナカニシヤ出版（2014/3/1）
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
編集後記（11/02）
●石上三登志「SF映画の冒険」を読んでいる。30年以上も前の新潮文庫。1977年「スター・ウォーズ」公開時にロスの劇場に行って見た人。日本で初めて活字になった「スター・ウォーズ」鑑賞記を「週刊プレイボーイ」に書いた人。日本で「スター・ウォーズ」が公開されたのは1978年。その10年後、SF映画時代の始まりに立ち会い、それ以降の重要なSF映画を評論した本がこれだ。
圧倒的に面白い映画とは、いつの時代でも単純明快な、しかし映像的な“驚き”に満ちた作品ばかりだったはずだ。だが、それがあり過ぎるとマニアは喜ぶがおおかたは馬鹿にした。そこをアメリカの若い映画人たちが再認識し、突然居直りだしたのが、宇宙最強モンスター映画「エイリアン」（1979）に至る、まさに始まったばかりのSF映画大奔流である、と見立てて喜ぶのが筆者である。
「この『エイリアン』はSF映画では本格的にはたぶんはじめての、非地球的空間デザインを徹底してやってのけ、それだけでもう、本当の映画ファンはおそらく感動してしまうはずなのだ」。ブリザード吹き荒れる怪惑星の地表に、まるで巨大な生物の死骸の如く聳え立つエイリアンの異様な大宇宙船、その内部は巨大生物の胎内のごとく非地球的で、モンスター登場以前にもう圧倒的だ。
そこから出てきたのが宇宙最強モンスター（どういう比較をしたんだと問いたいが）たる異生物で、こいつが地球の貨物輸送宇宙船ノストロモ号の内部にまで侵入し、船内は恐怖と絶望のパニックとなる。サスペンスとスリルとショックのつるべうちだからすさまじい。宇宙船内は化け物屋敷未来版に変貌、外は暗黒の大宇宙空間だから、観客は乗員とともに逃げ場なし、絶体絶命……。
確かにそんな映画であったなあと、ちょうどうまい具合に図書館のAV棚にあった「エイリアン」を借りて見た。何年ぶりだろう。ALIENのタイトルの出方が素敵だ。宇宙船の外観も内部も、いま見ても違和感がない（CRTモニター群を除いて）。7人の搭乗員の中には科学者＆技術者と思えない風体の黒人とその相棒がいる。女性が二人、片方がヒロインの航海士・通信士のリプリー（シガニー・ウィーバー）である。
船内でくわえタバコしている奴がいる。指揮系統が甘いような気がする。あまり表情を変えない、科学主任のアッシュが変にリードする。船外調査から戻った三人に異変を感じたリプリーが入船を拒むが、アッシュがエアロックを開ける。エイリアンの導入だ。エイリアンの幼体の死骸を船外に捨てるのを拒否する。会社の意向を盾に抵抗する彼は、会社が送り込んだアンドロイドだった。
会社はアッシュに極秘の特別指令を出していた。航路変更、異星生物を調査、標本を採集せよ、生体標本の持ち帰りを最優先、乗員等は場合により放棄してよい、という非情。アッシュは破壊され、残った三人のうちリプリー以外はエイリアンに殺される。脱出艇のリプリーは本船を切り離し、エイリアンごと自爆させた。というストーリーは分かりやすかった。が、全然怖くなかった……。
公開時のキャッチコピーは「宇宙では、あなたの悲鳴は誰にも聞こえない」だった。だめだ、こりゃ。最初に見た時は怖くて、感動したような気がする。スレたSFマニアになった老人は、その後のシリーズも見たがほとんど感心していない。「SF映画の冒険」を読むと、もう一度見てみようと思う。石上三登志、本名・今村昭。電通マン。編集者時代に何度もTVCMに関する原稿をいただいた。（柴田）
石上三登志「SF映画の冒険」1986 新潮文庫
http://www.amazon.co.jp/exec/obidos/ASIN/4101477019/dgcrcom-22/
●パスポートの更新続き。このボックス「Ki-Re-i」では、スマホ内の画像をプリントする「100円Piプリ（ピプリ）」というサービスもあった。
アプリをダウンロードした上で、レイアウトを選び予約するとQRコードが発行され、そのQRコードを「Ki-Re-i」にかざすと、ハガキサイズでプリントアウトができる。
子供さんの画像をプリントアウトしたいとか、家族写真とか、そういうのが気軽にボックスで。友達と会って記念撮影をし、画像を送り合うのもいいけれど、目の前でプリントアウトするのもいいね。
このボックスのレイアウトが予約だけでなく、そのボックス固有のものがあれば、観光地や商業施設で役立つのになぁ。大阪城近くのボックスなら、大阪城の何かが入っているレイアウトとか、その日のいい感じのニュースつきとか。
プリントしたボックスごとにスタンプ機能がついてるとかでもいいな。アプリ経由するんだもの。うーん、もうひとひねり、ってこの企業とは何の関係もないのだが（汗）。（hammer.mule）
100円Piプリ（ピプリ）
https://www.dnpphoto.jp/products/pipuri/
◎プレゼント情報
発売2週間で重版決定！「著作権トラブル解決のバイブル！ クリエイターのた
めの権利の本」ボーンデジタル
https://bn.dgcr.com/archives/20181018110100.html