人類が危ない！？滅ぼされないための正しい人工知能との付き合い方

2017/02/06 21:00

こんにちは、モノブライトのベース、出口です。

久々に特撮の世界のようなニュースを見かけました。「日経新聞、AIで決算記事を自動生成。「日経電子版」などに配信」とのこと。

ニュースによると、日経新聞社は、決算情報の要点を人工知能（AI）によって自動で文章化するサービス「決算サマリー」を開始。

決算開示後数分で、売上高や利益などのデータをまとめ「日本経済新聞　電子版」や「日経テレコム」に配信するというもの。これからは、要点をまとめて文章化する作業が完全に人間の手を離れるのも時間の問題かもしれません。

ここ最近の人工知能の発達は目を見張るものがあり、例えば音楽の分野では人工知能が人間の脳波を読み取りながら脳を活性化させる曲を自動作曲する、囲碁、将棋界では人工知能が世界最強棋士を破るなど、人の発想やひらめきの領域まで人工知能が迫っています。

技術の発展と進歩の点で見ればとても面白い未来ですが、同時に「人工知能により人間が必要なくなる未来」の危険性もはらんでいます。

特撮作品で描かれていたことがもうすぐ現実になるかもしれないのです。そこで、人工知能の発達について私たちは今後どうすべきか、を考えさせられる特撮作品をご紹介しましょう。

■人工知能が導きだした答えが「人類抹殺」

1977年に東映が制作した巨大ロボットの活躍を描く『大鉄人17（ワンセブン）』。ワンセブンと戦う敵が掲げる人類を襲う理由が、私たちを待つ恐ろしい未来を予感させるのです。

一人の博士が建造した世界最大の人工知能「ブレイン」。このブレインの最大の使命は人類をあらゆる災害から守り地球環境を保全すること。

なんでも生産できる超生産能力を有し、その力で自らを改良し巨大な頭脳に成長した結果「地球環境を守るには人類は排除すべき」という結論に至り、人類抹殺用ロボットを生産し人類の一掃を企みます。

ブレインによって17番目に建造されたロボット「ワンセブン」は自我を持ち、「人類が地球を救う。人類は地球に必要」という答えを導きだし、ブレインと対峙します。この物語は善と悪の対立ではなく、人類の存在についてが問われています。

人のために作られた人工知能が人を排除対象にする。そんな皮肉な未来は、なんとしても回避したいですね。

人工知能は膨大なモデルケースを取捨選択した結果による学習型である場合がほとんどです。

その取捨選択の中で「人類の悪性」に辿り着くと人類を抹殺対象に選ぶ可能性が出てきてしまいます。それを回避できると思われる方法が、『特警ウインスペクター』（1990年放送）で見ることができます。

警視庁に設立されている特別救急警察隊こと「ウインスペクター」には2体のサポートドロイド（ロボット）が配属されていて、そのうちの1体「バイクル」が主役の回、第36話「バイクルのパパ」に人類を抹殺しない人工知能のヒントがあるのです。

このバイクルの特徴は、人間特有の「あいまい」の概念を理解できることにあります。0か100の判断ではなく、より人間らしい判断基準を持っています。

そのため、人間らしく悩む場面もしばしば見られますが、変な方向に進まないためのストッパーになっているのが制作者・西田技術士の愛情、親心です。

西田技術士はバイクルを制作する段階から実の子供のように語りかけ（このとき名古屋弁で話していたためバイクルが名古屋弁を覚えてしまう）、ロボットに優しい心を与えます。

この36話はロボット（人工知能）のシステムの欠陥と心の対比が描かれていて、暴走するバイクルに「悪いことしたらいかん！」と諭す西田技術士の言葉をバイクルがしっかり理解するのは彼らがシステムを超えて心が通じ合っているからに他なりません。

心という非常に「あいまい」な部分が人工知能にも必要になってくるのかもしれません。

今後10年から20年で47％の仕事が機械に取って代わられるというデータもあるように、人工知能の台頭は私たちの生活とより密接に関わってくるのはほぼ確実でしょう。

人間がやらなくても良い仕事を人工知能が代わりにやってくれる、それ自体はとても素晴らしいことですが、人間の能力を超えて超合理的に学習し判断できる人工知能の開発に勤しみすぎて大事な部分を見誤ってしまうと、人工知能は「人間不要」の判断を下してしまうかもしれません。

身勝手な自分のためのシステムではなく、「誰かのための」システムであることを忘れてはいけないのです。

（文／モノブライト・出口博之）