「人工知能と人間 － 羽生善治｣高校生のための科学評論エッセンス ちくま科学評論選
コンピュータ将棋で言われるのは、人工知能には「恐怖心がない｣ということです。
棋士がしばしば口にする感想に、「将棋ソフトが指す手には、人間から見ると、違和感を覚える手が多い｣というものがあります。
通常なら怖くて指せないような、常識外の手を人工知能は指してくるのです。もちろん、将棋ソフトについて言うなら、人間の持つような盲点がない分、自由に手を選べるということもあるでしょう。
しかし、人工知能が社会に進出してきたら、どうでしょうか。
特に人工知能ロボットのような事例を考えてみると、「恐怖｣を覚えないのは社会生活を営む上で、そもそも困難を来すように思います。私たちが道で車にぶつからないように歩いたり、エスカレーターの前でしっかり歩みをステップに合わせられたりするのは煎じ詰めれば「恐怖｣で危険を察知できるからです。
また、人工知能がさらに大きな進化を遂げ、社会的な意思決定を任せられるようになったらどうでしょう。人工知能が人間では受け入れがたい、危険な判断をする可能性もゼロではないように思うのです。
仮にそれらの問題が解決されても、新しい問題が出てくるかもしれません。
ロボットが人間のように物理空間を移動して、人工知能が社会的な意思決定をしてくれるようになったら、「もう彼らに何もかもを任せればいいじゃないか｣と考えてしまう可能性もあります。そうなると、私たちの自ら思考する力が弱まっていきそうです。
人工知能に意思決定を任せていると、人間の「勘｣などが磨かれなくなることもあり得ます。
実際、テクノロジーの発展が要因となって、こういう問題はすでに起きています。
以前、警察の方と話したときに、最近の犯罪捜査では、個人情報保護法の影響で聞き込みでは情報が取れなくなっていて、最初に防犯カメラの映像を確認して回ることになっていると言われました。しかし、聞き込みという昔ながらの捜査方法なしでは、かつての刑事が持っていた、「どうもこの辺が怪しいぞ｣と“鼻を利かせる”直感が磨かれないままになる危険性があります。
もちろん、それでもいいという考えもあると思いますが、では、もし人工知能に全てを任せた結果、そのシステムでは対応できない問題が出てきたら、どうでしょう。誰がその問題を解決すればいいのでしょうか。
実際、将棋ソフトでも、どっちが優位か形勢を判断する評価値は、絶対的に正しいわけではありません。
人間から見ても接戦になっている場面では、値はソフトによってかなり幅を持つようです。そうなると、どこまで評価値の判断を参考にするかまで含めて、選択肢を考えていくことが必要になります。そして、その思考力は、やはり普段の対局から自分で考えることでしか、養われないのです。
もちろん、人工知能をいわば「仮想敵｣のように位置づけてしまって、その効果的な利用法を検討しないのは得策ではありません。うまく活用すれば、必ず私たち人間にとって大きな力となるはずです。
例えば、その一つが、「セカンドオピニオン｣としての人工知能です。「セカンドオピニオン｣とは、医療の世界の言葉で患者さんが一人の医師だけでなく、別の医師からも、「こういう診断(あるいは治療法)もあります｣と第二の意見を聞くことです。
同様に、私は、人間同士の判断だけではなく、人工知能に、「こういう可能性があります｣と提示してもらってもいいのではないかと考えています。
将棋ソフトは人間の思考の盲点を突いてくるという話をしましたが、逆に言えば、それは自分の視座が変わるような見方を教えてくれるということでもあります。「自分はこう思うが、人工知能はどう思うのか｣と、あくまでも絶対の判断ではないという前提で使っていくやり方もあるはずなのです。
チェスの世界ではもう一〇年以上前から、ソフトを使って、指し手を分析したり、研究したりすることが当たり前になっています。初期の段階ではソフトが出す回答にはばらつきも多く、上手に使いこなせるかが勝敗を分ける大きなポイントになっていましたが、今は皆が利用しているので、そこでは差がつきません。勝負のレベルはソフトをいかに上手に使いこなし、データベースも含めてプログラムをどの程度まで利用していくかという話にまで達しています。
将棋の世界でも、人工知能が人間の盲点を突いてきた手について、「やってみたら、この組み合わせも案外良いのではないか｣と受け入れられることも増えてきました。今では人工知能の指した手が定跡になっていく事例さえも出てきているのです。
このように、人工知能が提示したアイデアを参考にしながら新しい手を考えたり、さらにそこから将棋の技術が進歩したりするケースが、すでに非常に多く起こっています。人工知能が学習する一方で、人間の側も人工知能から学んでいるのです。
私自身も、こんなすごい速度で学習をしているものが目の前にあるのだから、単に答えを与えられるだけではもったいないと考えています。
よく取材でも答えるのですが、私自身は、将棋ソフトを日常的には使っていません。ただ「三駒関係｣の問題について、何か理解する方法はないだろうかと考察することはあります。さらに、人工知能が出した答えから、自分の思考の幅を広げていく可能性を探求する道もあるはずだと思います。
ただ、こういう話とは別に社会のなかで多くの人々が人工知能の出した結果にいかに納得するか、というテーマもあると思います。物事を判断・決定する際に、決定者がその問題を理解していない人に向けて、理解できるようにわかりやすく説明できるかどうかは、基本的だけれどもとても重要なことではないでしょうか。多くの人にその決定を納得してもらうには、理解を補助する何らかのプロセスが必須だと思います。いわば、人工知能版の池上彰さんのような存在が求められるのかもしれません。
また、膨大なビックデータをうまく処理して、可視化する「ビジュアライゼーション｣の技術は、これから先、とても大きな需要が出てくると考えています。人工知能が何をやっているのかわからないときに、それが何かを明快に説明する技術は重宝されるからです。
いずれにせよ、人工知能が社会に浸透していくことが確実視される今、セカンドオピニオンとしての人工知能を使いこなすことが、今後ある種のスキルとして問われていくのはほぼ間違いないでしょう。
その一方、人工知能と比較して、人間が得意なこともわかってくるように思います。
例えば、天気予報です。当初ほんのわずかな違いだったものが、時間とともにとてつもない違いになることで、コンピュータでも予測できない複雑なものを「カオス｣と呼びます。天気はその一つです。もしくは、政治的判断もそうですが、このような様々な要素が絡み合っているなかで何かを決定する行為は、まだまだ人間には一日の長があるように感じます。
あるいは、創造性はどうでしょうか。これまで述べてきた通り、人工知能が持っている創造性と人間が持っている創造性の間には、大きな隔たりがあります。だからこそ、セカンドオピニオンとしての人工知能の可能性があり得るのですが、それが究極的な意味でクリエイティブなものに結びついていくかと言うと、なかなか難しい問題です。
昔の画家のデータを計算して、その絵画の筆致にそっくりな絵を描く人工知能があります。同様の人工知能は、作曲の分野などでも登場しています。人工知能が芸術作品を作る可能性が出てきた今、そもそも人間の芸術活動は本当に創造的なのか検討することも含めて、「真の創造とは何か｣が問われていると思います。
一体「創造｣とは何でしょう。私見を言えば、「創造｣の九九パーセントは、今までに存在したものを、今までにない形で組み合わせることではないか、と思っています。こういう部分は、確かに人工知能が得意な領域かもしれません。
しかし、残りの一パーセントが〇・一パーセントかわかりませんが、何もないところから、あたかも突然変異のように生まれてきた、破壊的イノベーションは存在するように思うのです。
ちなみに、私は人工知能について講演や対談を行うとき、「人工知能がどれだけ進化を遂げても、ふなっしーを生み出すことはできないのではないか。｣と話すことがあります。
少し褒めすぎかもしれませんが、ふなっしーは、まさにそんな破壊的イノベーションの一つではないでしょうか。そして、こうした創造行為こそ、人間にとっての強みのある領域であるように思えるのです。
ただ、将棋のような世界では、仮にそういう新しいアイデアを見つけたとしても、皆が、「すごい｣とは思ってくれないかもしれない・・・とも感じています。と言うのは、観る人がどこかで、「コンピュータと一緒に分析して見つけたのではないか。｣と考えてしまったら、素直に感動できなくなる気がするからです。
実のところ、人工知能が先んじて普及したチェスの世界では、二一世紀に入ってから、人間が自力で検討して、画期的な一手を見つけたという話は聞きません。どんなGM(註グランドマスター)でも、チェックの段階でコンピュータを使うのは当然のことです。しかし、ともすれば、ニュートンの「万有引力の発見｣のような感動的なエピソードは生まれにくいかもしれません。
さて、そんなふうに日常的に、人工知能が人間をサポートしたり、人間が人工知能から学んだりする社会が来たら、何が起きるのでしょうか。人間は、あたかもすさまじく頭がよくなったかのように振る舞いだすのではないでしょうか。
ちなみに、脳科学者の茂木健一郎さんは、現代社会は人間のIQがせいぜい一〇〇程度だという前提で作られていると言っていました。そして、茂木さんはもし人工知能のIQが四〇〇〇になったらどうか、とも言うのです。そのときには社会のあり方がまったく変わる可能性があります。
もし、外付けハードディスクのように、あるいはスマートフォンのようにIQ四〇〇〇の人工知能を持ち歩ける時代が来たら－。
もちろん、この話は人工知能が引き起こす変化の可能性の一つの思考実験であって、ＳＦめいたところがあります。しかし、そこには検討すべき、とても興味深いテーマが存在するように感じられるのです。
人間は人工知能とどのように共存していくべきか。この問いの答えにたどり着こうと、自分なりに思索を重ねてきました。もちろん、私はその「正解｣を手にしてはいませんが、コンピュータ将棋の世界で起きたことやNHKスペシャルの取材で得た知見を手がかりに、少しでも近づきたいと思っています。
