Invent or Die 3 中島聡 × 松本徹三
2018年11月20日（火）に開催された「Invent or Die - 未来の設計者たちへ：第三回 中島聡 x 松本徹三」の書き起こしです。
ソフトウェアエンジニアである中島聡と、半世紀以上にわたり、世界のITビジネスの最先端で巨大企業の経営に携わってきた松本徹三氏が、「AIの真髄」に対する正しい理解にとどまらず、シンギュラリティに達した「究極のAI」に対し、私たち人間に突きつけられる向き合い方の選択についてまで、グローバルな観点から議論します。
© naonori kohira
松本でございます。実は私は非常に変わり種です。今私は何歳くらいだと思われますか？ 実は79歳です。22歳から仕事を始めているので、57年くらいは仕事をしてきており、まだ飽きずに仕事をしているわけです。「年寄りも仕事をしろ」と最近言われ始めましたけど、私は昔からずっと言ってきています。「高齢者をデノミネーションすればいい。高齢者なんていう呼び方は誰でも勝手に決めていいのだから、70歳にならないと高齢者と呼ばないことにすれば、日本の高齢化率はあっという間に下がる」と言ってきました。
私自身についていえば、身体はやっぱり年を取るとガタガタになりますね。しかし、頭は、気持ちの持ち方次第です。私の毎日の発想のパターンは30代の頃と何も変わりません。私は伊藤忠で34年仕事をしましたが、ある日突然辞めると言いました。こんな人間は、今だったらいくらでもいますが、その当時としてはとても珍しかったのです。それまでもずっと、大きな会社勤めは色々なしがらみがあって思い通りにいかないことが多いから、自分で会社を作って好きな様にやりたいと密かに思っていたのですが、あることが契機になって決心しました。今のEightみたいに、名刺の読み取りサービスから初めて、LinkedInみたいな会社に発展させたいと思っていました。当時56歳でした。
ところが、その時、モバイル通信の世界で革命的な技術を開発していた米国のクアルコムと知り合いまして、これはすごいと思いました。クアルコムはその頃はまだ数百人の会社で、自社開発の半導体を作り始めて間もない時でした。本社の要請に応じてクアルコム・ジャパンを作ったのが、私にとっては大きな転機になりました。クアルコムの仕事は通算すれば10年くらいやったことになりますが、３人で作った会社が5-6年で100人ぐらいになりました。
ところがその頃に孫正義さんと出会ったのが、私にとってはさらなる転機になりました。孫さんはどうしてもモバイルをやりたいと思っておられて、私に目をつけたのだと思います。その頃の孫さんは心血を注いでいたADSLがあまり思う様にはいかず、相当苦労しておられたのですね。光ファイバーが追いかけてくるし、相当ヤバかったのです。しかし、あの人の凄いのは、ヤバければ新しいことをすれば良いのだと考えて、すぐにそれを行動に移すというところです。最初は「松本さんがみんなやってくれ」と言われたのですが、これは「全く自信がない」と言ってお断りしました。お断りするだけでなく、「孫さんもやられるべきではない」とも申し上げました。「孫さんはいつの日かNTTを倒すといつも言っておられますよね。でも、これをやったら死にますよ。死んでしまったらもうNTTは倒せませんよ」とまで申しあげたのです。
これを言ったら千本（イー・アクセス、イーモバイル）さんに叱られるかもしれませんし、今また新しく携帯電話事業をやろうとしている楽天さんもお怒りになるかも知りませんが、通信事業はスケールメリットがモノを言う世界です。どんなに良い端末を作ったとしても、全国津々浦々で繋がらなければ誰も買わないでしょう？ ということは、この世界では、新規参入は並大抵のことでは成功出来ないのです。楽天の三木谷さんはどうされるのだろうかと密かに心配していたら、KDDIと提携するという発表がありましたので、やっぱりそうだったのかと思いました。KDDIと提携すれば楽天の端末は全国で使えますが、自社のネットワークだけでは全国をくまなくカバーするのは不可能ですから、恐らく一台も売れないでしょう。Eモバイルだって、千本さんや種野さん(種野晴夫氏)の様なプロ中のプロが長年取り組まれても、最後まで携帯電話やスマホは出せず、データ通信だけで勝負するしかなかったのです。
結果として何が起こったかといえば、孫さんは、せっかく手に入れた周波数免許を返上して、その代わりに当時第3位の携帯電話事業者だった英国のボーダフォンの日本会社を買ったのです。その時私が孫さんに勧めしたのは、MVNOという制度を利用して、ボーダフォンが全国に展開したネットワークをそのまま利用して販売事業をやることでした。これをやったら、必ずソフトバンク系の販売網の方がボーダフォン固有の販売網より数倍多く売るだろうから、発言力が強くなり、そのうちに合弁に持っていけるだろうと踏んでいたのです。しかし、案に相違して、MVNOの交渉の途中で、ボーダフォンの方から「いっそ買収しないか」という打診があり、話がまとまったのです。
孫さんは今や世界で押しも押されもせぬ人になりましたけど、あの当時はまだ事業家としての評価は定まっていませんでした。巨額の借金を背負って、生まれて初めての巨大な通信ネットワーク事業に取り組んだのですから、本当に真摯に、怖がりながら仕事しておられました。しかし、思い切りの良さは天下一品で、アイフォンに全てを賭けたことで業績が一気に伸びました。業績の伸びが尋常でなかったので、ソフトバンクモバイルの成功物語は世界的に有名になりました。加入者数で世界一だったボーダフォンが下げ続けていた日本でのシェアが、ソフトバンクが買収した途端に典型的なV字回復で急速に上がっていったのですから、世界中が驚いたのも当然でした。
ソフトバンクが世界で注目されたのにはもう一つ理由があります。それは世界中でインターネットの世界から通信事業に入ってきたのはソフトバンクだけだったからです。世界中の通信会社はみんな巨大な資金を動かせる既成の大きな会社が母体でしたが、これからの流れはインターネットではないかなと感じ始めていました。そこにインターネットの世界から通信業界に飛び込んできた会社があって、その会社が未曾有の成功を収めているというのですから、注目されるのは当然です。
ソフトバンクが参入した時の日本のマーケットシェアはといえば、その前身のボーダフォンは16.5%に過ぎませんでした。これに対して王者ドコモのシェアは54%ぐらい。KDDIはその中間でした。政治でも第三政党というものは普通は勝てません。1位と2位の戦いに全てが収斂されていく中で、3位は完全に埋没してしまうのが普通です。ですから、多くの人がソフトバンクはいつか必ず手を上げるだろうと思っていたのですが、手を上げるどころか、遂に三社のシェアは4：3：3、ちょうど三国志の世界みたいになってしまったのです。こうなると、孫さんのことを「単なる成り上がりじゃないか」と思っていた人達も、その力を認めざるを得なくなりました。事業家としての孫さんの現在の地位は、この時に形作られたと言ってもいいかもしれませんね。
しかし、孫さんは、今はもう事業家というよりも、投資家になったのではないかと思います。孫さんの今の目標は、世界史上で最強の投資家として名を馳せることではないのだろうかと私は思っています。「ウォーレン・バフェットより大きく張る。ウォーレン・バフェットが過去に対して投資するのに対し、自分は未来に投資する。それなのに、結果として、自分の成功率の方がウォーレン・バフェットを上回る」それが孫さんが今狙っていることなのではないだろうかと、私には思えてなりません。孫さんの投資の対象の多くが「今までにはなかったものを作り出して、それで世の中の人の生活を変える」事業であることは間違いないようですが、UberやWeWorkの例にも見られるように、投資対象は、既にある程度成功している会社、つまり既に「勝ち馬」とみなされている会社に傾斜しているかのようです。このような方針は、投資家のあり方としては決して悪いとは思いませんが、悪戦苦闘していた頃の事業家としての孫さんしか知らなかった私としては、ちょっと寂しい気もします。
© naonori kohira
さて、本論に入る前に、長々と孫さんのお話をしたのには理由があります。私は最近AIのことにとりわけ熱心になり、本も出しているほどなのですが、これには若干ながら孫さんの影響も有ります。孫さんは「今の世界で最も重要なのはAI」と公言しておられ、「シンギュラリティーは必ず来る」と確信している点でも、私と全く同じです。しかし、具体的なところに入って行くと、私と孫さんは考え方が相当異なります。
第一に、シンギュラリティー実現の時期については、孫さんの方が随分楽観的で、カーツ・ワイルの2045年説に近いことを言っておられたこともありますが、私はもっと時間がかかると思っており、100年後ぐらいが目安だと考えています。第二に、孫さんはロボットが好きで、ヒューマノイドという「人間に近いロボット」の実現に夢を持っておられるようですが、私は全く違います。私はAIの能力のほとんどはクラウドにあるべきであり、人間はスマホのような簡単な端末機からそれにアクセスできればそれで十分だと思っています。勿論ロボットはとても役に立ちますが、それは、人間の入り込めない狭いところまで掃除するとか、危険なところで仕事をするとか、重いものを扱えるとかの点で偉いのであって、頭はそんなに良くなくても、ほとんどの場合はそれで十分なのです。
私は無神論者ですが、家内がカトリック信者なので、カトリックのことは割とわかります。カトリック信者は何か悪いことをしても、自分の罪を告白して懺悔さえすれば許して貰えるのですね。よくヨーロッパ映画の中で、教会の中での何やら暗いところで「私は人妻に手を出してしまいました」とか何とか言うと、中にいる神父さんがそれに答えて何か言ってくれる。それで罪は許されるのです。しかし、それなら、AIが神父になるととてもいいと思います。悪いことをしたと思ったら、携帯からいつでも神父を呼び出して告白する。AIはアバターとなって神父の役割を演じ、罪を洗い清めてくれるのです。誰かの漫画でロボット神父のことが描かれていましたが、ロボット神父だったら探しに行くのが大変です。お布施も高く付きそうです。神父さんはアバターで十分です。ロボットである必要はありません。
しばしば一緒くたにして語られるAIとロボットが全く別のものであることは既に申し上げましたが、もう少し補足してみたいと思います。ロボットは本質的に人間の手足や指、骨格や筋肉を代替するものです。これに対してAIは頭を代替するものです。手足はある程度の頭がないと動かせませんし、頭だけではものは動かせませんから、両者は相互依存関係にありますが、あくまで役割はちがうのです。ただし、目や耳の機能は、この両方に深く関わってきますので、ロボットを語るときにも、AIを語るときにも、欠かせない大きな要素となります。ロボットも、闇雲に動き回ることはできませんから、視覚センサーや聴覚センサーを持たねばなりません。一方、AIも、視覚センサーや聴覚センサーから情報が入ってこなければ、多くのことについて的確な判断は下せません。それもあってか、最近はAIを語っているつもりの人が、実は画像認識や音声認識の話しかしていなかったというようなこともしばしばあるのです。
さて、ロボットが目や耳を持つとなると、どうしても人間の顔に似た顔を持たせたくなるのは人情でしょう。そうなると、何となく、その頭の部分には人間の頭脳に近いものが入っていてもおかしくないような気持ちになってしまうのも止むを得ないのでしょう。しかし、そんなに小さいところに、シンギュラリティー・レベルのAIはとても詰め込めません。このレベルのAIは、膨大な量のメモリーをスキャンして、それをベースに超高速で論理回路を働かせ、瞬時に答えを見つけ出すのですから、どう考えてもクラウドの中にいるしかありません。ロボットには目や耳を含む表情豊かな顔があり、本来の機能である手足や指があっても、頭脳の果たす機能のほとんどは遠隔地にあるクラウドの中にあり、ロボットの中の小さな頭脳は、クラウドとの通信のインターフェースを司るに過ぎないというのが、常識的な姿だと思います。それなのに、映画などの中では、常に独立したAI機能を具備しているかの様なロボットが描かれることが多く、AIそのものであるクラウドが描かれることは滅多にないのは、それが絵になりにくいからに過ぎません。映画は娯楽ですから、固いことを言うつもりはありませんが、AIというものをちゃんと理解しようとするときには、やはり映画で見たことは忘れて頂いた方が良いかと思います。
私が「AIが神になる日」という本を今の時点で書いたのは、AIという人類の将来を決める抜本的な技術変革が今まさに起ころうとしているのに、多くの人たちの理解があまりにも浅いと思ったからです。現在ここにお越しの方々はプロ中のプロの方々だと思われるので、そんなことは無いと思いますけど、AIに関する一般的な会話は、「AIって儲かるの？」とか「仕事が無くなるらしいね」とかそんなものです。「これではいかん。もっとAIの本質を知って欲しい」と私は思いました。知るだけじゃなくてアクションを起こしてくれないと、下手すると大変なことになると思うからです。その一方で「AIは下手をすると人類を滅ぼすぞ」とか「AIが暴走してターミネーターみたいになるぞ」とか言う人も多い。しかし、こう言う人には「怖かったら、じゃあどうすれば良いのですか」という問いに対する答えがないのです。怖かったら開発しないのですか？あなたがやらなかったら誰かがやりますよ。気がついたときにはその人たちが支配する世界で、我々には何の力もなく、言われるままに生きていることになる。それが嫌なら、我々が、皆さんが、色々な分野でAI開発の最先端に立たなければいけない。技術屋さんだけじゃなくて、それに関連する色々な仕事も含めて、朝から晩までAIのことを考えていないともう間に合いません。「あれは危ないからやるな」なんてことは、絶対に言ってもらっては困るのです。
科学技術というのは昔から比べると随分急速に進んでいますね。30年前と比べてみても、今はもう全然違うわけです。産業革命のときも大分変わったんだけど、最近の変わり具合はそれをはるかに越えます。ところが、それに比べて、政治とか、マネージメントとかは、どれだけ進んでいますか？現在の政治家なんて、ツタンカーメンとほとんど変わらないのではありませんか？安倍さんと聖徳太子ってどっちが偉いんですかって言われたら、…どっちか分からないけど、まぁ聖徳太子じゃあないですかっていうことになってしまいそうです。そうすると何が怖いかといえば、人間の性格は昔とあまり変わらないのに、技術だけが格段に進んでしまったという事実が怖いのです。昔だったら誰かが何かに癪に障って刀を振り回しても、せいぜい10人が殺せるくらいです。しかし、今はヤバいですよ。爆薬とか自動小銃とかがあるから、100人くらいはすぐにやられてしまいます。VXガスとか、細菌兵器とか、さらには小型の核兵器まで使われだしたら、犠牲者は、1000人、1万人、10万人、100万人、1000万人と、どんどん増えていきます。
現在の世界をみてください。世界中が寄ってたかっても、金正恩さん一人すらコントロール出来ません。人間が人間をコントロールするマネージメント能力というのは全然進歩していないんです。核が一番良い例です。核兵器はどんどん小型化し安くなった。誰でも作れるようになった。しかし、それをコントロールする能力は昔から全く変わっていないのです。プーチンが何かしたら、トランプもすぐに何かする。核兵器については、既にこの「恐怖の均衡」が常態化してしまっています。ですから、AIについては、今度こそ、科学技術の能力とマネージメント能力の進歩を合わせねばなりません。シンギュラリティーを実現したAIの能力はその比ではありません。本当に皆さん、今は平和に過ごしていますけど、あっという間にロヒンギャみたいな立場に自分たちが置かれても、文句は言えませんよ。
ですから、今こそ、まずはAIというものの本質を是非皆さんに知って欲しいのです。「仕事が無くなるらしいね」とか「儲かるんですか」とかいうレベルの話も、まぁそれはそれでやればいいですが、そういう話をしながらも、常に10年後はこうだとか50年後はこうだとかを考えて欲しいのです。決して逃げないで皆さんが先頭に立って欲しいのです。具体的に言えば、技術屋さんには、やっぱり倫理とか哲学とか歴史のことをいつも考えて欲しい。そして、文科系の人には、「あ、技術は分からないので…」みたいなことを言うのは、やめて欲しい。自分で開発しろと言ってるわけじゃないのです。AIなら何が出来るかということは文科系の人も分かるのですからそれを考えて、そのための法制度などを一生懸命やって欲しい。AIの本質を知るということは、その恐ろしさを知ると同時に、その良いところも知るということです。そういう強い気持ちがあったのでこの本を書きました。
この本は一昨年に日本で出したのですが、今年中には英語版が13か国で出せると思います。中国語版も出す予定ですが、中国はアメリカと並ぶ最強のAI大国となりそうですからね。中国語版は精華大学の出版部が出してくれます。精華大学の周辺には習近平さんに近い人も多いので、そういう人たちにも読んでもらえると嬉しいと思っています。そういうこともあって、これから私も、世界中の色々な場で、色々と議論していきたいと思っているのですが、何と言っても私も日本人ですから、日本が遅れている状態では、とても寂しいのです。日本は遅れていますよ。完全に遅れています。アメリカはやっぱり凄いですね。現状では、GoogleとMicrosoftが牽引車になって、色々な開発環境を提供しているので、色々な所で多くの人たちが最先端の研究開発に取り組んでいます。それから中国です。中国ほどAI開発に向いた国は無いので、早晩米国は中国に抜かれるのではないかと危惧している米国人は相当数います。
© naonori kohira
ここで少し基本的な問題に戻ってみましょう。AIって、要するに何ですかと。
一言で言えば、AIは人間の頭脳に代わるものです。そして、どうも人間より相当賢くなりそうだとみんなが考えています。しかし、本当は、こんなことはもうとっくに実現しています。それまで人間が頭を使ってやってきていた多くの仕事が、もうとっくにコンピューターに代替されています。そして、代替した分野では、人間より遥かに出来が良いことが分かっています。計算能力だとかそんなものは、比較にならないじゃないですか。ロボットだって力の強さや動きの速さは比較にならない。問題はただ一つ、コンピューターやロボットができる仕事は、人間がやっている仕事のほんの一部にすぎず、能力的には隙間だらけだということです。
では、コンピューターがAIと呼ばれるようになる時代には何が起こるかというと、人間の脳の活動のほとんどを、例えばアイディアを思いつくとか、これまでになかった新しいやり方を工夫するとか、そういったことも含め、多くの事を漏れなくカバーして、しかもカバーしたそれぞれの分野では、人間の能力を圧倒的に凌駕するようになるという事です。
よく引き合いに出される話ですが、世に言う「名医」とはどういう人でしょうか？ 要するに、経験を積んでいて知識が豊富な人、その知識をベースに患者の症状を分析して、的確な結論を出し、的確な措置を講じることができる人でしょう。知識はどこから得られるかと言えば、学校の授業、医学書、それから自分自身や先輩、同僚の経験からです。しかし、AIなら、およそ印刷物になったりネットに上げられたりしているものなら、全部通読して記憶し、一旦記憶したものは絶対に忘れないし、実際の診断に少しでも役に立つものは決して見落としません。どんな勉強家でも、こんなAIには太刀打ちできるわけはありません。
弁護士だってそうですよ。有能な弁護士ってどんな人ですか？ 法令や判例をたくさん覚えていて、臨機応変にそれを使える人ですよね。でも、法令や判例を全部覚えている人なんていませんよね？ AIにとってはそんなことは簡単ですけど。AIは世界中の法令を勿論全部憶えています。裁判の記録も全部。どうどう問題が持ち出されても「あ、あれはね何年のどこどこの裁判でこういった判決が出てるんです。あなたは勉強し直して下さい」とやられたら、人間の弁護士ではとても太刀打ちできません。
ただし、こういう事を言うと必ず出てくる反論があります。「そんなこと言ったって、人間のことはやっぱり人間でなければわかりませんよ。感情を持たないAIに人間の感情が理解できますか？ 人間の感情もわからないままに、心がこもったやり方で問題の処理ができますか？」というやつです。しかし、こういう反論に対して論駁するのは比較的簡単です。自らは感情を持たないAIも、人間の感情を統計的な手法で概ね理解することは出来るからです。それが証拠に、AIは人間が感動するような音楽を作ることもできますし、小説を書くこともできます。平均的に言えば、人間より上手いかも知れません。
例えば小説を書くとしましょうか。AIは統計的に「どうもこういう題材をこういう風に描くと人間は喜ぶらしい」ということを知っているのです。今普通に売れる小説は推理小説と歴史小説ですが、こういうのはAIの得意分野になるでしょう。歴史小説だったら「文体は司馬遼太郎風が人気があるらしい」と理解して、司馬遼太郎の文体のリズムをコピーします。これは勿論盗作にはなりません。 一旦題材を決めたら、史実なんかは全部綿密に調べますから、一分の隙もありません。勿論、人間の好みに合わせて史実を大きく曲げることもお茶の子さいさいです。筋書きのパターンも色々なアイデアの中から、統計的に一番好まれそうなものを選びます。「ここで主人公が挫折すると読者は同情するだろう」とか「せっかく上手くいっていたのに、女の為に馬鹿々々しい失敗をしてしまうと、読者は意外にもそのことに感動しそうだ」とか、「少しでもよく売れる本を書け」という命令に答える為に、AIは色々に工夫するのです。出来上がった小説を人間が書いたものと区別するのはほとんど不可能でしょうが、実は書く動機は全く違うのです。人間が小説を書くときは、自分の心の中に何かが生まれて「あ、この気持ち、他の人も分かってくれるかなぁ」という強い思いが自分を駆り立てます。そして、その気持ちが誰かに分かってもらえるとものすごく嬉しいのです。しかし、AIの場合は面白くも嬉しくもないのです。「よく売れそうな歴史小説を10冊ほど書いてよ」と人間から要請されれば、「はいはい！」といって受けるだけです。
尤も、これまでに全く例がなかったような独創的な本を初めて書くのは、現時点でのAIにはやはり荷が重いかも知れません。「クリエーション（創造）」という人間の脳の働きは、完全に解明するには時間がかかるでしょうから、最後まで人間の強みとして残るでしょう。AIによるこれまでの様な自己学習だけでは、ある程度は出来るかもしれないけれど、限界があるでしょうから、全く新しい学習方式を開発することが必要です。
「感情移入」ということについてももう少し考えてみましょう。感情を持たないAIは「感情移入」なんかしませんが、それで何か不都合がありますか？ AIに感情を持たせたら何か良いことがありますか？ 多くの人が「感情を持てないAIは所詮それだけのもの。人間とは同列にはなれない」と勝ち誇った様に言いますが、私に言わせれば、人間と同列になる必要なんか全くないのです。AIは、感情がないからこそ有難い存在になれるのであって、AIに感情を持たせるなどということは、考える必要がないどころか、絶対に考えるべきではないことなのです。喜怒哀楽で毎日を過ごすのは人間だけで十分です。人間のような存在は、もうこんなにたくさんいるのですから、これ以上はいりません。AIは、人間がしんどくてやりたくないこととか、上手く出来ないことを黙々とやってくれればいいので、喜んだり楽しんだり泣いたりするのは、人間がやっていればよく、AIなんかにやってもらう必要はありません。
AIの開発という観点からいっても、AIに感情を持たせようと努力するのは間違っています。そんなことをしようとしたら、とんでもない労力が必要になるからです。人間の喜怒哀楽は、色々な要因で、脳内でアドレナリンだとかドーパミンとかいった色々な物質が生まれてくることによって引き起こされますから、こういう色々な化学反応を人工的に作り出そうとしたらとんでもなく複雑な仕事になるのです。「理性」と「感情」は人間の脳の働きを語る上ではよく対比されて語られますが、人工的にこれを作ろうということになれば、比較にならないほど難易度に差が出て来ます。「理性」は、ほぼロジックそのものですから、デジタルで簡単に再現できますが、「感情」は複雑怪奇な化学反応が生み出すアナログ現象そのものですから、全く次元の異なったものであると理解しておくべきです。
そもそもAIは人間が自分のために役立つと思って作り出すものですから、役立たないものは無理に作り出す必要はありません。人間の感情を統計的に「理解」する事は必要ですが、こういう「理解」は理性の産物ですから、AIにやってもらってしかるべき仕事です。しかし、 AI自身に感情を持ってもらっても、人間にとってはクソの役にも立たないだけでなく、感情は理性的な判断の妨げになりますから、有害にさえなるのです。そんなことのために膨大な研究開発の時間をかけるのは全く無意味な事です。
© naonori kohira
さてここでAIと政治というテーマに移りましょう。「AIは人間が自分のために役立たせようとして作るもの」という定義から考えれば、政治はまさにその対象になります。端的に言えば、私自身は「政治こそAIの天職だ」とさえ思っています。
先ほど「AIは人間の感情を統計学的に理解するが、自らはいささかも感情を持たない」と申し上げましたが、もしそうならば、そんなAIこそが、我々にとって理想的な政治家なのではないでしょうか？ 強い自己顕示欲やエゴや嫉妬心を持った政治家は、我々には迷惑なだけです。勿論、汚職や腐敗にまみれた政治家なんか願い下げですよね。それなら、どう考えてもAIが一番です。お金なんかはじめから要らないのですから、汚職なんかするわけはありません。任期もないので、人気取り政策にうつつを抜かす必要もありません。暗殺もしようがないので、テロを恐れる必要もありません。政治家の仕事は、本来は、「自分の信念を選挙民に押し付ける」ことではなく、「選挙民が望むことを政策に反映してくれる」ことであるべきです。しかし、人間の政治家は前者に熱心で、後者には無頓着の様です。AIは正反対です。AIは色々な政策の選択肢を丁寧に選挙民に説明し、そして問いかけます。「こういう政策についてどう思いますか？ 嬉しいですか？ 悲しいですか？」そして結果を見て考え、あらためて選挙民に提案します。「・・・ははぁ。60％の人は嬉しいけど、40％の人は悲しいのかぁ。」「よし、それならこういう妥協案はどうですか？ これならほとんどの人にとってまあまあだと思いますよ。」これこそが、本来の民主主義のあるべき姿ではないでしょうか？
ところで、皆さんは、最近東京都の多摩市長選挙に「AI市長候補」を名乗る人が立候補したのをご存知ですか？ この人の選挙ポスターには、候補者の顔ではなくロボットが描かれていたので、みんな驚きました。結局現役の市長が再選されてこの人は4000票しか集められず、泡沫候補扱いで、日本ではテレビやラジオ、新聞でも報じられる事はありませんでしたが、何と海を越えたアメリカでは「ニューズウィーク」「シカゴ・トリビューン」「FOX７」といった超一流メディアが、ドイツでは国営のテレビ局が、大ニュースとして扱ったのです。「皆さん知っていますか？ 日本ではロボットが市長に立候補して4000票も集めたんですよ。日本ってすごくない？」というわけです。
このドイツの国営テレビ局が日本のAI事情について取材に来て、私も取材を受けました。「松本さんは人間の政治家とAIの政治家とどちらが良いですか」と聞かれたので「もちろんAIです。決まっているじゃあないですか」と答え、その理由を伝え、「皆さんは人間の政治家にそんなに期待しているのですか」と逆に質問しました。ついでに、相手がドイツ人なので少しゴマもすっておこうと思い、「ドイツの観念哲学というものが昔は世界を風靡していましたね。こういった哲学は、人間を規定するものとしては今ではすっかり古いものとみなされてしまっていますが、AIを規定するには大変ふさわしいものなので、あらためて注目しても良いのでは？」と言ってみました。意表を突いた話だったので、相手は少し驚いていたようでした。
せっかくなので、この機会に少し哲学的な話をすると、ドイツ観念哲学の旗手は有名なエマニュエル・カントという人で、この人が書いた純粋理性批判という哲学書は当時の世界のベストセラーでした。一言で言えば、人間は欲望とかそういうものを切り捨てて純粋な理性であるべきだという、そういった哲学でしたが、その後に出てきたいわゆる実存主義哲学では、こういう考えは全面的に否定されて、「人間にはあるべき姿なんていうものはない。人間はあるがままにあるのだ」とされました。実存主義哲学の旗手だったジャン・ポール・サルトルは「人間は自由という牢獄の中にいる」という有名な言葉を残していますが、これは「人間は生まれながらにして自由でしかあり得ない」という意味です。私自身の考えもこれと全く同じですが、「人間はどのようなAIを作るべきか」という問題になると、一昔前のエマニュエル・カントに戻りたい気持ちです。自分自身は完全に自由な存在でありたいけれども、我々の為に政治をし、社会を作ってくれるAIは、自分のような人間ではなく、欲望も感情も持たない「純粋に理性的な存在」、つまり心頭滅却した偉いお坊さんのような存在であって欲しいという事です。
これで私の基本的な考えは大体お話しできたと思いますので、あとは中島さんから大いに苛めて頂ければと思います。
対談
© naonori kohira
司会：それでは続きましてですね、お二人の対談に入って参りたいと思います。シンギュラリティソサエティの中島聡代表です。よろしくお願い致します。
中島：えーありがとうございます。私も結構AI関係のものはこっそりと読んでいるんですけど技術者なので、大体技術者が書いた本はこれなら私が書けるなとか思うんですけれど、宗教の話とか哲学の話が出てくるような松本さんの本は絶対書けないと思います。それで今日聞きたかったんですけど民主主義がね、私はアメリカに住んでいるんですけど、トランプが大統領になったところで民主主義はうまく働いていないと、まぁ民主主義プラス資本主義。そんな中で共産主義は共産主義で失敗しましたと。じゃあ答えはないのかって悩んでいたところに、松本さんのAIが政治家をやれば共産主義でいいというお話。ちょっと目から鱗というか、私がする発想じゃないと思ったのでちょっとその話を是非ともお願いしたいと思います。
松本：皆さんすでに感じられるとは思いますけど、民主主義は今本当に危機に直面していますよね。昔は王様による絶対王政でしたが、そこから二つに大きく流れが分かれました。ひとつは、新しく生まれた市民階級が中心になって、資本主義、自由経済をやっていこうという流れ。もうひとつはマルクスの唯物史観に基づく共産主義の流れでした。共産主義を標榜した人たちは「資本主義なんて上手くいくわけはない、民主主義も上手くいかない。プロレタリアが独裁して政治と経済を運営するのが唯一の正しい道だ」と考えたのです。「プロレタリア独裁」なんて言われると少し怖い気がしますが、よく考えてみると、今中島さんがおっしゃったように、最終的にはやはり共産主義が理想だと私は思うのです。
最近は、共産主義って何ですかって聞かれたら、うまく答えられる人は少ないでしょう。「何だか知らんけど、あれ失敗したんだよね。あいつらちょっと危ない奴だよね」と思っている人も多いでしょう。アメリカ人なんかは殆どそうですよ。コミュニズムと言った途端に身構えますからね。だけど、実際には「共産主義の理想」はこうなんです。「人間は能力によって働き、必要に応じて与えられる。」どう考えてみても、これが一番良いんじゃないかと思われます。その前段階である社会主義は「人間は能力によって働き、働きによって与えられる」というのが目標ですが、これじゃあまだ十分とはいえません。能力のある人はガンガン仕事するので裕福になり、そこには食料は余っている。しかし、残念ながら能力がなかったり、働く意欲が持てなかった人は、十分な食料を買うお金が稼げません。そうなると、一方では食べきれなかった食物が腐っているのに、一方では飢え死にが出るという馬鹿げたことがおこります。つまり、このルールはフェアかもしれないけど、理想ではないでしょう。理想は「食物が必要な人のところに食物が回ってくる」ことではないでしょうか？ そんな社会があれば良いに決まってるじゃないかと、僕なんかも若い時は思ったのです。
それからもう一つ。如何にも暴力的な感じのする共産主義者が盛んに「平和」という言葉を口にするのに違和感を覚える人は多いと思うのですが、これにもそれなりの根拠があったのです。「世界中の労働者が団結して、世界中でプロレタリア独裁国家ができれば、資本家はどこにもいないから、貪欲に市場を求めて外国に出て行くことはなくなる。そうすると利害の衝突から戦争が起こるなんてこともなくなる」という理論なのです。これについても、一世代前の多くの若い人たちは成る程なと思いました。
ところが、皆さんご承知のように、現実には共産主義は上手くいかなかったのです。それは何故か？ 二つの理由があります。一つは、人間は刺激がなければ働かないし、知恵も出てこないということです。だから集団農業というのもうまくいきませんでした。普通の農民なら、朝起きてみて霜が降りてきそうだったら、これは大変だとすっ飛んで行って必死になって対策を講じます。しかし、集団農場だと「俺は8時の出勤だから…」と悠然としていて、霜が降りようが降りまいが関係はありません。決められている通りにやるだけなのです。ですから、本来なら、欲得ずくではなく、全てを計画通りにやる共産主義経済の方が、経済は上手く回るだろうと思われていたのに、結果は正反対だったのです。結局、共産主義を標榜した人たちには、人間の本性を見抜けていなかったのですね。西ドイツと東ドイツを見ても、韓国と北朝鮮を見ても、資本主義の優位性は歴然でした。
そして、第二は、プロレタリアであれ何であれ、独裁となった途端に権力者は腐敗するということでした。独裁的な権力を握れば誰からも批判されないので、人間は好き放題をすることになります。「喜び組」を侍らせたいし、一流の酒を飲みたいし、人を顎で使いたいし、「あなたは偉大な人だ」と賞賛してもらいたい。出自がどうであろうと、人間というのはそういう性を持っているので仕方がないのです。ですから、元々は人と人との生活の格差をなくそうと考えて出発した共産主義の国では、権力を握った共産党員と一般人の間にこれまで以上に大きな格差ができてしまったのです。
しかし、考えてみてください。共産主義の現実が当初の理想とこんなにも違ったものになってしまったのは「人間がやったから」じゃないでしょうか。もしAIがやれば、結果は全然違ったものになっていたと思います。
AIは元々欲得やインセンティブのために働いているのではないのです。そのようにプログラムされているから働いているだけです。常に工夫して生産性を上げる。常に先読みして合理的な判断をする。そして、朝から晩まで24時間考え、24時間働く。これで別に苦痛もないし、遊んでいる人を羨むこともありません。こうなると経済は必ず良くなるしかありません。ですから、AIがやる計画経済は人間がやる資本主義よりもよくなるはずです。そして、この計画経済を運営する指導者も純粋で無欲ですから、絶対に腐敗はしません。「私は皆さんのためになる政治をしてくれと任されたのですから、そのようにやっているだけです」と言って淡々と仕事をします。偉そうにもしないし、賄賂もとりません。悪者に狙われても、厳重に守られた地下に格納されているので、暗殺もされません。
ですから、人間ではなくてAIが共産主義をやっていれば、現実の世界で共産主義が失敗した二つの原因が、二つとも消えていたはずなのです。こう考えていくと、一番悪いのは「人間がやる共産主義」。次にダメなのは「人間のやる民主主義・資本主義」。一番良いのは「AIがやる共産主義」。こういう事になりませんか？ 尤も、こんなことは、アメリカ人の前で言うのは気をつけなきゃいけないですね。短略的に「お前は共産主義者か？」なんて言われて、胸倉を掴まれそうです。でも、突き詰めて考えていくと、どうしてもこういう結論になってしまう気がするのです。
さて、今の世相はどうでしょうか。何となく世界中で民主主義が行き詰まっているような気がしませんか？ これまでは「まぁ何とかかんとか言ったって、やっぱり民主主義は守らなければね」というのがコンセンサスだったような気がします。チャーチルなんかも「民主主義ほど非効率なものはない。でも他の体制と比べれば一番マシだ」と言っていました。しかし、その自信が少しゆらいできたようなのです。
時あたかも、アメリカにはトランプのような人が出てきました。欧州ではポピュリスト政党が力を増しています。トランプはなぜ成功したのか？ それは、政治家としては珍しく、初めて本音を語ったからではないでしょうか？今までの欧米の政治家は、よく言えば理想を追いかけてきたとも言えますが、悪く言えば綺麗事を語ってごまかしてきたところがあるように思います。それに対してトランプは平気で本音を語った。「あんた達メキシコ人は嫌いだろう？ 嫌いだったら我々の国に入れなきゃ良いじゃないか」と、まあ、普通なら言い難い様なことを平気でいいました。しかし「そりゃそうだ」と思う人も結構いたのです。だから彼は大統領になれたのです。トランプのやり方は、こういう形で、民主主義のあまり見たくない本質を白日のもとに曝したとも言えます。
それからもう一つ、民主主義には大きな問題があります。例えばある政策で60％の人は幸せになるが、40％の人はとても不幸になるとします。民主主義は多数決ですから、60％の人に支持される政策が選ばれます。勝った多数派の人達は、負けた少数派の人達に同情して、政策を少し手直しするでしょうか？ そんなことは絶対にしませんよ。「おぉ勝ったぞ！」と盛り上がり、40％の人達のことは徹底的に無視するでしょう。そうなるとどうなるでしょうか？ 負けた少数派には恨みが残り、対立はますます激しくなるでしょう。こうして社会は分断されてしまいます。
資本主義もそうですね。資本主義は成熟してくればくるほど格差が激しくなる傾向があるようです。マルクスは「そうなると、虐げられた人たちは我慢できなくなって革命が起こる」と予言したのですが、実際には資本主義の中に自浄作用が働いて、独占禁止法とかいろいろな法律や制度を作ることによって資本家の強欲さが抑制され、そういう事態には至りませんでした。しかし、最近は、この点でも少し雲行きが怪しくなってきています。
ここで不思議なのは「資本主義と民主主義」の関係です。今のアメリカでは、1%の人が50%の富を握っていると言われていますが、民主主義だと投票は全員が1票なのですから、1%の人しか有利にならないような法律は、議会では通らないはずです。つまり、民主主義体制下で選挙権を持つ大多数の人達は、極端な格差をもたらすような政策に反対する政治家をどんどん議会に送り込む筈です。ところが、現実にはどうもそうはなっていない様です。それは何故なのでしょうか？ それは、恐らくは、多くの人達が経済政策とは別な論点に目を奪われて投票しているからではないでしょうか？ 目先の利益で釣られている様なこともあるかもしれません。要するに、民主主義はあまりうまく機能していない様なのです。だから、私は、AIに政治をやらせることによって、こういう現在の民主主義の問題点を克服したいのです。
中島：例えば言い方が共産主義って言葉を使うと嫌がる人がいるかもしれない。ただ、エッセンスの部分はAIが政治家をやった方がいいですよって話ですよね。
松本：そうです、そうです。それは政治。じゃあ経済はどうですか？
© naonori kohira
中島：経済っていうのは働く人たちの話？
松本：はい、今は起業する人も結構いますが、たいていの人はどこかの会社に就職して、毎日仕事に追われて、俺はこんなに働いてるのに、何でこれっぽっちの給料しかもらえないんだよ。何億円も稼いでいる奴もいるのにさーとか、何だかみんなあんまり幸せではないみたいですよね。
中島：でもみんなAIになると人間は働かなくなっちゃう可能性がありませんか？
松本：人間は本来は働く必要なんかないのではありませんか？ モノ作りとか、サービスとか、AIがみんなやってくれる世の中になれば、人間は面白いことだけしていればいいのです。こういうことを言うと、そんな人生はつまらないんじゃないかって言う人が多いのですが、それでは質問です。学生さんは毎日つまらないですか？ 学生さんって今仕事してないじゃないですか。勉強もあんまりしているようには思えません。では、学生さんたちの毎日は暗いですか？ 退屈で死にそうですか？ そうは思えません。みなさん結構色々と楽しんでやっているようです。いろいろなサークルがあるし、スポーツもする。
そうそう、スポーツです。現在は、老弱男女を問わず、多くの人たちがスポーツをしたり、観たりして、膨大な時間を使っています。これが昔の戦争の代替になっていると私は考えています。これはすごいことだと思います。
考えてみてください。昔は何かあるとすぐ戦争でした。人類の歴史は戦争の歴史でした。戦争に強い人が英雄でした。次々に近代兵器が開発されて、戦争の本質が変わり、戦争はもはや英雄的なものではなく残虐で悲惨なものになってきているのに、それでも人間は方々で戦争をしています。要するに、理性ではなく、力で白黒をつけるのが好きなのです。それは人間が生まれながらに持っている「闘争本能」や「バクチ好き」の性格、「誇り」や「恥」を重要視する性格などに起因していると思います。しかし、近年は、そういった「戦争を引き起こしてきた人間の本能や性格」を、スポーツが吸収してくれているかのようです。今、全人類がスポーツに使っている時間とエネルギーの総和は100年前と比べたら何百万倍くらいになっているのではありませんか？
AIは働き、人間は遊ぶ、そして、闘争本能は「スポーツという遊び」で吸収して、間違っても戦争はしない。これが私の描く理想の将来像です。
中島：人間の欲の話でいうと、例えば、権力欲、自己顕示欲とかあるわけですけど、現時点で大きな力を持っている人たち、政治家だったり、官僚だったり、会社のCEOといった人たちは、当然だけど、自分たちが持ってるポジションをAIに回したくないですよね。どうやってそこに持っていくのですか？
松本：それは作戦・戦術の問題ですね。うまく誘導して、こういう人たちの力をだんだんと削いで行けば良いと思います。でも、その前に、今は何故、政治家とか、親会社の社長とかが、「偉い人」だと思われて、幅を利かしているのでしょうか？ 実は、こういう人たちは格別に偉い人ではなさそうだし、こういう人達には別に幅を利かしてもらいたくはないです。一口に社長といっても、本当に自分でクリエイトする社長や、難しい決断をする社長は尊敬に値しますが、ただ下から上がってきただけで、別にいてもいなくてもいいような社長も結構いますよ。自己顕示欲なんかは、スポーツだとか碁だとか将棋だとか、そういう世界で競い合って欲しい。我々の生活に直接影響を与える政治や経済の世界には持ち込んでほしくないですね。
ところで、人間の「誇り」とAIとの関係については、言っておきたいことが一つあります。AIと人間はもともと別次元の存在なのですから、人間とAIが競い合うことは無意味です。将棋なんかは、ずっと前からAIにはボロ負けでしたが、藤井君はすごいとみんな興奮しているじゃないですか。レスリングなんてロボットに勝てるわけはなくても、人間の中で一番強ければ英雄です。そういう風に、人間は自分の好きなことをやって、その中で、闘争心や自己顕示欲を満足させ、ギャンブル性も楽しんでいればよいのです。政治やビジネスができなくても、決して退屈はしませんよ。
中島：どこかの段階で、日本だったら国会で「選挙は止めよう、政治はAIに任せよう」って国会議員が合意して憲法を変えるなりしないとそこには移らない。
松本：はい、もちろんそうです。それには時間がかかります。色々な手順も踏まなければなりません。でも、僕は今、AIがシンギュラリティに到達するのには、早くて40～50年、遅くて100年だと思っていますから、まだ十分に時間はあります。
ちなみに、僕が何故シンギュラリティーの実現までにはそれだけの時間がかかると見ているかといえば、それは二つの大きな課題があるからです。一つは推論のスピードとそれに要する電力の消費量です。これから数十年でコンピューターの能力が今の十倍くらいになっても、これではたいしたことは出来ないでしょう。やはり、量子コンピューターが実用化されるなどして、プロセス能力が現在のコンピューターの数千倍程度にならなければ駄目でしょう。又、終始参照するデータは、現在蓄積されているものの数百万倍にも及んでいることが必要でしょう。人間の脳の中にも、遺伝子によって受け継がれたものも含め、膨大な量のデータが蓄積されているとは思いますが、AIがシンギュラリティーに到達する頃には、それまでに人類が知り、あるいは経験したあらゆることがクラウドに蓄積されており、しかも毎日増え続けている状況になっていなければなりません。更にシンギュラリティー実現の一つの前提条件としては、最先端のAIを開発し運営する人達の間で、一定のコンセンサスが形づくられていることも必要ですし、これはこれで、とてつもなく長い時間がかかることだと思います。
ですから、私は、AIがシンギュラリティーに到達し、人間が政治を全てAIに任せようとするに至るまでには、三段階ぐらいの段階が必要であろうと思っています。第一段階は、今の時点でもう起こっています。「あれAI使ったらもっと早く正確にいけるんじゃないのか」「そうですね、予算さえおりれば、すぐにでも出来そうなんですがね」みたいなことは、もうすでに毎日起こっているじゃないですか。そして、何とかかんとか言っているうちに、AIを使う範囲は段々広くなってくると思います。それが人間がAIを使う時期、つまり「第一期」です。そして、「第二期」はその後に来ます。AIがやる仕事が段々増えてくると、人間とAIの仕事の分担は段々五分五分となってきて、そのうちに、AIに教えられることの方が多くなるでしょう。そうなると、人間も素直に「さすがAI様、わしらが考えるより、ずっと深く考えるんだねえ」と感心する毎日になります。つまり、第一期では人間の召使程度だったAIが、第二期では、段々同僚になって、兄貴分になって、メンターになります。AI同士がコミュニケートして、どんどん物事を決めていくことも多くなるでしょう。
こうなると、政治もAIを駆使する政治家の方が、AIを使えない政治家よりはるかに優位に立てます。弁護士も同じです。AIを駆使する弁護士とAIが使えない弁護士ではもう勝負が初めから付いています。AIを駆使出来る弁護士のところには、出来ない弁護士に比べれば数倍も多い仕事が持ち込まれてくるでしょうし、こういう弁護士はその程度の仕事量は難なくこなします。医者だってそうですよ。AIを駆使する医者の前に行列が出来る。AIが使えない医者は段々落ちぶれてしまいます。そうなると、段々AIがなくては、政治家も事業家も専門職も全く成り立たなくなってしまうでしょう。そして、気が付いてみたら、何をやるにもいつもAIが主役、人間が付け足しというような状況になるでしょう。
中島：いやでも、それは僕も思うんですけど、現状日本は経団連がやっとパソコンを入れたとか、サイバーセキュリティの大臣がパソコン触ったことがないっていうその状態が、そのステップ1の一歩目も踏み出せてないわけですよね。そこはどうしたら乗り越えられるんですかね。
松本：それはもう日本があまりにもお粗末だとしか言いようがありません。まずは「せめてアメリカ並みになってよ」と言うしかありません。このままだと、差がどんどん開く一方ですから、本当にここいらで本気にならなければヤバいですよ。だけど、放っておいたって、AIを駆使する企業は伸びるし、旧態依然の会社がどんどん落ちぶれていく。政治家だって、AIを駆使出来るような政治家の方が気の利いた演説も出来るようになり、当選率が高まる。こうして自然淘汰が起こるし、あらゆる分野でAIを駆使出来る人だけが生き残るので、日本だって段々とレベルは上がるのではありませんか？
中島：それはもうすでにアメリカのAmazonなりGoogleなりが伸びていることに対して日本企業がね、っていう事実はアリとして、でも何となくここは日本なので、どうして日本はそうなれないのかな、もしくはそうなってる企業もあるけどそういう企業はどう抑えられているのかなというのはありますよね。
松本：でも、今はまだ、日本の強いところも一杯あるじゃないですか。愚直に研究を重ねる必要のある地味な素材分野とか、倦まず弛まず改善をやるところとかですね。それの強さが、マネージメントが駄目とか、コンピューターを使いこなす能力が遅れてるところとかと相殺してるから、まぁまぁというところで踏み止まっているのかもしれません。だけど、多くの人たちの活躍分野の中で、ソフトウェアに関係するところの比重が高まっていっているのは事実でしょう。そして、この世界では、一人の天才が百人の人が汗かいてやることをあっという間に凌駕してしまいます。
でも、日本では、天才的な人は割と不遇です。子供のときからそうですよ。天才みたいな子供はどこかが必ず少し変ですが、日本だと変だから苛められたり登校拒否になったりする。これに対し、欧米だと「ギフテッド教育」というものがあって、そういう子供達を集めて徹底的に英才教育をしているわけです。日本では英才教育はなんていうのは不平等だから駄目だというんです。義務教育が崩壊すると。そんなことを一つずつ崩していくだけでも反対が起こるんです。
ですから、日本では明らかにソフトウェア分野での競争力が落ちていますよね。そもそも、ソフトウェアの開発手法も違います。日本人ではウォーターフォール方式というのが主流で、マイルストーン管理をきちっとやって、仕様も厳密に定義して、それからちょっとでも外れていると「君、ダメじゃないか」ということになるけど、海外ではアジャイル方式というのが主流で、「とにかくやってみる。駄目だったらやり直す」というおおらかなやり方です。「あー、あれ、駄目でした。今は違うやり方でやってます」とかケロっとして言っているような奴の方が、良いソフトを作っているんです。日本人は一生懸命働くし、全般的に見て頭も良いのですから、型にはめずに好きな様にやらした方がいいと思うのですがね。
© naonori kohira
中島：ちょっと話を切りますと、先生の本を読んでて思ったのは、「AIが例えば政治をするようになると、今より良い世界を作ってくれる」っていうのは分かるんですけれど、結局AIを設計してる、もしくはAIのパラメータを入れるのは人間じゃないですか。そうすると良い世の中にする、その「良い世の中」の定義がはっきりしてないとAIにとって動けない。それは誰が決めるんですか？
松本：その通りです。それはとても難しい仕事です。コンセンサス作りが大変ですから。ただね、考えてみてください。今一番戦争したり対立したりする原因になっているのは宗教です。同じイスラム教でもシーア派とスンニ派が殺し合うし…。宗教って、元々は人間の理想を追求した人たちの集まりだった筈なのに、殺し合いなんていう一番理想に遠いことをしています。ですから、私が提唱したいのは、世界中の大きな宗教の指導者を一堂に集め、そこで徹底的に議論してもらうことです。「皆さんで意見が違うところも多いことでしょうが、まずはみんなが合意できることを書き出してみましょう」と呼びかけるのです。「豚を食うな」というのはダメですね、豚を食いたい人もいるからコンセンサスになりません。「人を殺すな」ならコンセンサスは取れるかもしれません。でも「正当な理由なく」という言葉を上につけなければ駄目だと主張する宗教指導者は結構多いでしょう。では「何が正当な理由になりうるか」ということになると、なかなか意見は一致しないでしょう。しかし、そういうことでずっと詰めていくと、ある程度のコンセンサスはできると私は信じています。そうなればしめたものです。そこだけはまず「原則」として決めてしまえば良いのです。そして、あとはあんまり細部には入らないようにします。「原則」だけを決めて、あとはAIに判断させるのです。
SFの好きな人は、みんなアシモフのロボット三原則っていうのを知っていますよね？ 「ロボットは人間に危害を加えない」とか「どうしてもというときは自分を守れ」とかいうやつです。あの三原則はいくらなんでも荒っぽすぎますが、もっと深く色々と考えて、100ページくらいにわたる「原則」を書いたら、相当役に立つと思いますよ。それでもね、世の中には白黒つけられない問題が山の様にあります。堕胎は良いか悪いか？ 安楽死は認められるべきか？ 死刑は良いか悪いか？ そういう質問になると、絶対にこちらが正しいとは誰も言えませんよね。死刑の例を挙げるなら、「俺の子供が殺されたのに、相手が生きているのは正義じゃない」っていう人もいる一方で「何があろうと死刑というのは良くない」という人もいます。絶対に合意には至らないと思いますし、AIであろうと神様であろうと、どちらかが絶対に正しいとは言えないと思います。
「トロッコ理論」っていうのがありますよね。船が沈みかけています。荷物を全部捨ててもまだ重すぎる。人間を何人か減らせば転覆せずに済むが、減らさないと船は沈んで全員が死んでしまう。そういう時には色々な意見が出てきますよね。「一人でも犠牲にするくらいならみんな一緒に死のう」という人もいるかもしれませんが「そんなことはない。生命はかけがえのないものだから、一部の人が犠牲になって生き残れる人をできるだけ増やそう」という意見の方が多いでしょう。しかし、「じゃあ誰が犠牲になるんですか」となると、意見は分かれるでしょう。「年寄りは先が短いのだから、まず年寄りから先に飛び込んでもらおう」とか、「体重の大きい人が先に飛び込めば二人救えるのだから、体重が大きい人から飛び込んでもらおう」とか、色々な意見が出てくるでしょうが、どれが正しいかは決められません。AIだって判断はできないでしょう。ですよね。しかし、結論を出さなかったら船は沈み、みんなが死にますから、とにかく結論は出さなければいけない。皆さんならどうしますか？ 私の答えは「サイコロを振る」ことです。誰かの意見が通れば、反対意見の人は恨みますが、サイコロなら恨みようがないからです。私は、もしAIが判断を求められたら、AIもきっとサイコロを振ると思います。
中島：人間が働かなくてもいい時代になったときに、AIが、例えばですよ、「人間は欲望があるから、それに任せればいい。人間は全員パチンコしていればいい」とか思っちゃったら、どうしますか？
松本：いやいや、AIがそんな思いを持つとどうして思われるのですか？ AIは人間の自由を認め「人間が社会を壊さない限りは人間の自由を保障する」という基本理念に基づいて動きますから、AIが「お前らみんなパチンコしろ、パチンコ以外のことはするな」なんて言うわけは…
中島：いやいや、じゃなくて、要はパチンコじゃなくても良いんですけど、まぁパチンコみたいなもの、とにかく人間の欲望を満たして人間が夢中になるもの、ゲームでもいいです、を作って人間にやらせておけば、こいつら悪いことしないなということで飼い馴らされる状況になる…
松本：いや飼い馴らされるって、人間がもしそれを求めるんなら、結構な話じゃないですか。
中島：まぁ人間のパラメータは戦争をしないとか争わないというパラメータだったとすると、僕はAIだったら答えはそっちに行っちゃう。
松本：何でそこに行くんですか？ 私が思うにはですね、AIが100年後くらいのある日に独立宣言をするんですよ。「私、AIは、今の時点で人間が決めたこういうコンセンサスに基づいて作られました。この枠組みから外へは出ません。」。このプリンシプルを人間が認めれば、これがAIの基本原則になります。生物だったらどんどん勝手に進化しちゃうかもしれませんが、AIはそういう進化はしません。そのプログラムの原則通りにしか動かないですね。その原則をきっちり決めておけば、今ご心配されているようなことは特に起こらないと思います。
コカインのようなドラッグは禁止にすべきかどうか。こういうことも、その原則に従ってAIが決めるでしょう。今でもコカイン自由化論というのはあるんですね。こういうドラッグについては、日本が一番厳しい方だし、僕は日本のやり方が一番良いと思うんだけど、AIは常に「人間の意向を聞け」とプログラムされていますから、皆さんに色々な質問をするわけですよ。「コカインというものを吸うと人間はその時は気持ち良くなる。だけどそのうちに抜けられなくなり、まともな生活が送れなくなる。社会を破壊する可能性もある。だから禁止すべきだと思いますが、皆さんそれでいいですか？」と問われるわけです。その時に、皆さんが「みんな気持ちよくなって死ぬならそれでもいいよ」と答えたら、コカインは自由化され、人類は滅びるでしょう。しかし、人類の多くがそれでいいと思うのなら、別にそれだって良いんじゃないですか？ それが人類の運命ですから。人類はあくまで生存しなければならないというのは、何人かの人間が思い込んでいるだけなんです。これはかなり深く哲学的な話ですけど。
中島：ははは、分かりました。要は人間が望めばの話で、副作用もない、中毒症状もない完璧なドラッグをAIが作ってくれるなら、人間は幸せになれると、少なくとも気持ちは。それを多くの人が望めばそれをAIが作り始めて人間はずーっと幸せになれる。
松本：幸せになる、ぼーっとしてる。まぁそれは今の価値観から見ると「とんでもない」と思われるかもしれませんが、戦争やテロで悲惨な状況に追い込まれるよりはマシかもしれませんよ。
中島：うーん、ちょっとそれは…
松本：みんなこういう話になると、必ず「人間はかけがえのない存在。人間は素晴らしい」という前提で話します。でも、歴史を見ると、人間って残念ながらそんな素晴らしいものだったでしょうか？ そんな素晴らしいものだったら、どうして第一次世界大戦が起こり、第二次世界大戦が起こり、原爆が落とされたのでしょうか？ 人間というのはそんな信頼できますかと、僕は逆に聞きたいんです。
AIの話になると、「AIは結局人間のようになれない。だからダメだ」という話が出て来ます。でも、人間のようになれないってそんなに悲しいですか？ 僕は政治家なんかは人間のようになって欲しくはありません。純粋で無機質な存在になって欲しい。そうすると、政治家はみんな失職ですかという話になりますが、それで何か困ることがありますか？ 別に社会問題にもならないと思いますよ。その一方で、人間がやった方が上手くできる仕事は、これからもずっとあると思います。焼き鳥屋のおじさんなんて最後まで上手くやれるのでは？「どうだ、うちの焼き鳥はうめぇだろう、この火加減だよ！」「そうだね、オヤジには負けるよ！ はっはっは」って、お互いに楽しくやれそうです。そういう分野にはAIもなかなか入ってこれないと思います。政治とか経済とか、そんな低次元なことをやっている人が、いまは人間社会の中で幅を利かしているっていうこと自体が、僕にはちょっと異常だとさえ思えますよ。政治や経済なんかは、AIが適当に上手くやってくれればいいのです。人間の価値はそんなところにあるのではないのでは？ 人間はもっと人間らしく生きようよとか、そういう風に考えられませんか？
© naonori kohira
中島：分かりました。まぁ何となくこの話は尽きないような…ちょっと私なりにSF小説を書きたくなってきましたよ、まぁそれは今度。で時間もそろそろなんですけど、最後一個やっぱり聞きたかったのは、どこかの企業か、もしくはどこかの国が物凄いAIを一人で作ってしまうと、ろくでもないことになってしまう。GoogleのAIだけがずば抜けてるとか、中国が作るAIがずば抜けてしまうと、そこが独占してしまったらろくなことが無いから、じゃあ例えばUN（国連）で作りましょうとか。そういう話ですよね？
松本：前半のお話はその通りだと思いますが、具体的な手順になると、いきなりUNとはならないと思います。Googleのような企業が独占するのはまずいよということになれば、アメリカだと法律でいろいろ制約を加えることもできるでしょうが、中国の場合は国の政策がすべてですから、中国政府が「国の総力を結集して世界最強のAIを作るぞ」と言ったら、誰も止めらません。国際法なんていうものは基本的に無いものと一緒ですから。唯一の解は「中国が独走するのはまずいぞ」と考える国がそれぞれにベストを尽くすということです。宇宙開発だって、ソ連にリードされて危機感に目覚めたアメリカは、短時日の間に抜きかえしました。AI関連だって、国がらみで仕掛けてくるでしょう。日本だって、まぁ日本単独ではとても無理ですけど、インドと組むなどといった手も考えると、相当いいところまで行けるかもしれません。インド人がソフトで日本人がハードです。
中島：じゃあ別にでかい政府が出来るわけではなく、それぞれの、例えばアメリカ１つ、ヨーロッパ１つ、日本・インドで１つ、中国で１つとAIが出来ると。
松本：過渡期的にはそうなるのではありませんか？ しかし、最終的には世界で一つにならないと、ややこしくなりますね。AI覇権を巡って、至る所で代理戦争が起こるかもしれません。それからAIと人間の関係ですが、最初は人間がAIを作りますが、段々とAIの比重が多くなって、AI自身がAIを作るようになるでしょう。最後のディシジョンは人間がやるということになっていても、実質的には殆どのことはAIがやることになっていくと思います。そうなると、どこかで「AIへの大政奉還」があると思います。人間だといつ悪者が出てくるかわからないから怖いじゃないですか。AIなら決めたところから逸脱しないから安心です。だから「早くAIに大政奉還しちゃおう」ということになると思うのです。
そういう大政奉還が各国で起こると、今度は各国のAI同士の代理戦争になるのではないかという危惧が生まれますが、そのことについては、実は私には一つの希望的観測があります。これからは、各国で段々と国の仕事をAIがやる分野が多くなり、そうなると外交も例外ではなくなります。外交交渉もお互いにそれぞれのAI顧問と相談しながらする様になります。首脳同士が直接交渉すると、ついカッときて計算に合わないことを言ってしまったり、国民から弱腰だと批判されることを恐れて無理をしたりということがあり得ますが、AIに任せればその心配はありません。「我々がこのまま話していると衝突しちゃいそうですね。しばらくの間はお互いにAI顧問同士で話をさせませんか？ AI にやらせれば、お互いの利害得失を数値的に正確に弾きだしてくれそうだし、お互いの勘違いも無くなるでしょう。その間我々はバーで飲んでいましょうよ」と、どちらからともなく言いだしてくれれば、これで外交交渉は成功です。しばらくすると、「はい、答えが出ました」と言って両国のAI顧問から連絡が入ります。「AI同士の現状分析はこういうことで一致しました。このままいくとこういう問題が起こります。だから解決策としてこういうことで合意した方が、お互いによっぽどいいと思います」という提案が、理路整然となされるのです。こうなると、両国首脳はこれを受け入れるしか選択肢が無くなります。
中島：大政奉還する前の話？
松本：前の話です。大政奉還の前にやっぱり国同士の協定がないと。大政奉還はその後に。
中島：みんなで同時にやるのですね？
松本：そうですよ。そのときにはもう「世界連邦政府」が出来ている可能性も高いので、大政奉還をやるのも簡単になるでしょう。
中島：AI同士の話し合いによる「世界連邦政府」の成立ですね。
松本：そうです。まずは国境をなくすことが、大政奉還の前にあるべきです。大政奉還をして、シンギュラリティが全てを完全にコントロールするのが100年後とすれば、80年後くらいには世界連邦みたいなものが成立していなければならないという計算になります。
中島：それはAI同士がやってくれるから？
松本：その時点ではまだ最後は人間が決めるんです。でも実質的には、AI同士の計算づく合意がベースになります。「我々の共通の提案はこうですけど、最終的に決めるのは人間様ですから、両首脳が決めてください」とそれぞれのAI顧問に言われると、両首脳ともこれを否定しにくいですよ。
中島：まぁ中国とアメリカのAI同士がっていうのは…まぁあり得ないことではない。で、会場からの質問は受けるんでしたっけ？
司会：はい、そうですね。では一応ですね、お話させて頂きながら会場のお客様から質問を受けさせて頂きたいと思いますが、オフ会も貴重な機会なので、ぜひ遠慮なくご質問頂ければと思います。挙手制とさせて頂ければと思いますが、どなたかいらっしゃいませんか。何でも結構です。（挙手）はい、ありがとうございます。
質問者：ありがとうございます。AIに関してちょっとネガティブな質問になってしまうんですけれど、例えばAIがハックされてしまった、悪い人によってコントロールされてしまった、という風に想定をするとどうでしょうか…
松本：それはハックされないようにするしかありません。それ以外に解決方法はないじゃないですか。悪い人のコントロールは誰も出来ません。ですから、AIを開発するときには、いつも同時にセキュリティのことも考えていかなければなりません。何れにせよ「ハックされたら大変だからAIの開発なんか止めろ」なんていうことは言えませんよね。AIもサイバー攻撃力の充実も、いずれも中国では重点開発目標ですから、中国の属国になりたくないのなら、日本も全力で取り組むしかありません。それは時間との争いです。他の人に先を越されたらもうダメなんです。そこでちょっと怖いのが量子コンピューターです。量子コンピューターの実用化は割と近いと言われていますし、これもまた中国が非常に力を入れている分野です。量子コンピューターが出てくると、現在のセキュリティシステムを全部新しい時代に適応させないと、全てが完全に破られてしまいますから、大変なことになります。
中島：ただね、エンジニア目線から言うと守る部分ってあまり派手じゃないし、お金にならなかったりするので、そこは置いておいてまず作るっていうエンジニアが多いんですね。原発が良い例じゃないかと。
松本：はい、仰る通り。
中島：だからその、福島の事故ってやっぱりあれは発電の部分は凄い進んでたけど、防御する部分が全然ガタガタだったんじゃないですか、まぁマネジメントの問題だって仰っていたけど。それと同じようなことがAIでも起こるんじゃないかなっていう心配があります。
松本：全くそうです。やっぱり相当な統制をしないとダメですよ。ただ、幸いなことに…幸いかな？ 将来の戦争ってどうなると思います？ おそらく全部サイバー戦になっていますよ。だから、おそらく将来戦争では人は死なないでしょう。例えば、尖閣列島の問題がますます先鋭化してきたある日、日本のコンピューターが全部ダウンするんです。「あー、中国にハックされた」と思っても手遅れです。「あんたやったでしょう？」と抗議してみても「いや、知りません」と言われるだけです。そうなるとどうすれはいいのでしょうか？ 降伏するしかありません。「我々が考えるに、あなたのところの優秀なサイバー技術をもってすれば、我が国の原因不明のコンピュータートラブルは解決されるように思われます。よろしければ隣国のよしみで助けて頂けませんか。その代わりお礼に尖閣列島を差し上げます」と言うんです。そうじゃないとコンピューターシステムは動かず、日本経済は破綻するのですから仕方がありません。それで戦争は決着。中国が全面勝利、日本は全面敗北で尖閣列島は中国領になります。それが嫌なら、日本でも、サイバー攻撃・サイバー防衛のところに徹底的に人材を集めなければなりません。
中島：そこで使える人を探さなければなりませんね。(笑)
松本：経団連にいるかもしれません。（笑）
松本：ちなみに、今私がやっている仕事で、ホワイトハッカー育成プロジェクトっていうのがあるのですけれども、この分野はエストニアが意外と強いんですよ。エストニアは旧ソ連の体制下ではコンピューター・エンジニアリングの中核を担っていました。そのエストニアがNATOに参画したので、ロシアは怒って、猛烈なサイバー攻撃を仕掛けてきました。でも、エストニアは見事にこれを撃退したんです。こういう歴史もあって、NATO軍は今でもエストニアのサイバー戦能力からかなり学んでいます。この前新聞に出ていましたが、日本の自衛隊でも、やっと、陸・海・空と並んでサイバー部隊というものが発足する様ですが、とんでもなく出遅れていると言わざるを得ません。
司会：ありがとうございます。よろしいでしょうか。他にいらっしゃいませんか？
質問者：先ほど「AIに政治をやらせるのは簡単ですよ」と仰られていたんですけれども、我々には社会的コンセンサスとか色々あって、例えば民主制だったら、ある種の「諦めの正当性」みたいなものもあるのかなと。「多数決で決まったのなら、まぁ私は反対だけど合意しようか」という気持ちはあったとしても、「AIが決めたんじゃ納得がいかない」とか、そういう気持ちが出てきませんか？ また、一旦AIが決めたことでも、その時代によって価値観っていうのは変わってくるので、そういう時はどうするのでしょうか？ 例えば、優生保護法で、不妊手術が50～60年前は平気で行われてきたのに、今ではとんでもないということになっています。そういう価値観の移り変わりとかもあるので、「50年前のAIはこう決めたけど、今は違うのでは」という問題もどんどん出てくるでしょう。そういう時には、誰がどういう風に判断するのでしょうか？
松本：はい、それに対する答えはあります。まずAIは人間に奉仕するための存在ですから、常に人間の意見を聞くことが義務付けられます。人間の意識がもし変わってきたら、それを反映しなければ、AI設計の基本理念に違反してしまうことになります。次に「多数決なら諦めがつくだろうけど、AIの結論と言われたら、それで割り切れますか？」というご質問に対しては、僕は逆だと思うんですよ。多数決だと、相手は「自分とは違う考えを持った人間」じゃないですか？「あいつらはちょっと多数派だと思って、やりたい放題をしている。許せん！」となりませんか？ 相手が生身の人間だと敵愾心が出てきて、諦めはつき難いが、相手が純粋理性のAIなら「ま、仕方ないか」ということになりませんか？ 人間同士の争いの方が、はるかに大変なのではないかと思いますよ。
いつだったか、3つのメガバンクが合併したとき、それぞれのコンピューターシステムが違っていて、統一できませんでした。みんな面子がありますから、他行のシステムに合わせろと言われたら猛烈に抵抗します。それで、結局統合はできなかったのです。三つのシステムがバラバラに動いているという、物凄く不合理なシステムをずっと引っ張って行くしかなかったのです。僕は今でも思っているのですが、あの時、何でサイコロを振れなかったのでしょうか？ あの時に、誰かが「しょうがない、サイコロで決めよう」と言っていたら、もっとあの銀行の業績は上がったと思います。私は「意見が別れた時には多数決で決める」というのは、公平で一番良いやり方の様に見えて、実はあまり良くないと思っています。時と場合にもよりますが、私は、一番良いのは、AIが多数決の結果も勘案しつつ純粋に理性的に判断することであり、AIにも自信がなければ、サイコロを振るしかないと思っています。それが一番恨みつらみが残らない方法だと思います。
中島：私はちょっとAIに関して思っていたのは、ちょっと近い話ですけど、例えば自分が家を買おうとしてローンを申し込んだときに、今だと断られたときには色々理由が言われたりするんですけれど、多分言わなくなると思います。というのはAIを使い始めるので。AIを使われると、実は人間にとってブラックボックスなので、例えばどういう理由で断ったか誰も知らない状況が起こって、ローンが断られたからと文句を言うと、「いやAIで決めましたから」って答えられてそこで終わる時代が多分僕は5年10年くらいで来ると思うんです。で、実はそこに本当は黒人だから断ったとか、女性だから断ったっていう漠然としたデータの中にあるんだけど、あえてブラックボックス化してるから見えないみたいなことは起こるかなぁと。まぁちょっと気持ち悪いけど。
松本：ブラックボックスにするのは良く有りません。「AIはブラックボックス化する」ということはよく言われていますが、私にはその根拠が理解出来ません。実は、ブラックボックス化したい人が、AIを悪者にして言い繕っているのではありませんか？ 人間に奉仕するために人間の手によって作られたAIは、当然あらゆる問題に対して「説明責任」を持つべきです。
中島：まぁでもそれを言ったら今のディープラーニングはブラックボックス化しちゃうんです。だからそれをホワイトボックス化するものを誰かがちゃんと作らなきゃいけない。
松本：ディープラーニングは、第一層、第二層、第三層とどんどん多層化していき、複雑さが二乗、三乗になっていきますから、その論理展開の経過についていちいち説明なんかしていられないということだと思いますが、少なくともラーニングメカニズムの原理原則のところについては説明責任をもつべきです。
中島：そうですね。でもローンを断って、何故かというと調べて第三層に実は「この人は黒人だから断った」っていうことを発見した技術者がすごいジレンマにならないかってことは起こるかもしれない
松本：それなら、せめて「質問に対しては正直に答えなければならない」という原則だけは確立しておけばよいのではありませんか？ そうしたら、誰かに「私は断られたけど、それは私が黒人だからじゃないですか？」「そのプログラムの中に黒人というファクターが入っていますか、入っていませんか？」という質問をし、イエスかノーかで答えることを迫られれば、正直に答えざるを得ないと思います。だから、インチキのブラックボックス化は不可能だと思うんです。
中島：まぁ難しい問題だと思うんですけれども、あとオンラインで一つ質問が来ていて、
質問者：高価なメモリ・CPUを持った高度なAIを開発するには、資金力のあるGoogleやMicrosoftや国や軍でないと開発できないですか？ それに対抗して高性能な善のAIを作るにはどのように組織化して資金を集めて開発を進めれば良いですか？
松本：今は幸いなことに、特にGoogleとMicrosoftが一生懸命プラットホームを作ってくれています。至れり尽くせりで、誰でもこうやったらアプリが開発出来ますよと教えてくれています。だから、アプリ開発だけなら、色々な人がそういうものを利用して割と簡単に出来ると思っています。マーケットを絞り込めば、すぐにお金になるアプリも見つかるでしょう。だから、AI の開発は、必ずしも巨大資本がないと手も足も出ないというものではないと思っています。
中島：じゃあそういうところのプラットホームを使えばいいと。
松本：はい、そして、使えるプラットホームが、少なくとも1社だけじゃなくてよかったと思いますよ。もうGoogleとMicrosoftの一騎討ちみたいになっていますけど、両方ともこれでもかこれでもかとサービスを充実させてくれています。一方中国は、絶対に独自のプラットホームで行くでしょう。アメリカはもう中国企業には基本技術は出さないと思います。あと、ロシアなりイスラエルもあるのかもしりませんけど、当面はいくつかのプラットホームが競い合って、どこかの時点で緩やかに統合される。そういう流れになる様な気がします。それぞれのプラットホームの上では、多くのアプリが開発されていて、お互い同士の連携もどんどん進められて行く。そして、さして資金力のない人でも、ちょっと面白いアイデアがあれば、いつでもこじんまりとしたサービスが始められる。これから十年ぐらいは、だいたいそんな展開になるのではないでしょうか？
中島：少なくとも独占ではないと。
松本：はい、少なくとも当面は独占にはならないと思います。
中島：ありがとうございます。そろそろ次に移りますか。
中島・松本：ありがとうございました。
