脳のような働きをするものではなく、画像認識能力とか大量のデータから特徴を抽出する
能力といったある特定の能力に限定されているようだ。しかし、そういう分野の能力に限
って言えば、もはやはるかに人間の能力を凌いでいるようだ。
また、将棋の世界でも、ＡＩが席巻しているようだ。将棋の分析や研究にＡＩを使うこと
が当たり前になっているという。若くして目覚ましい活躍ぶりを見せている藤井聡太棋士
も将棋の研究にＡＩを取り入れているという。
さらには、ＡＩを取り入れた兵器の開発も盛んなようだ。まだ特定の能力に限られている
らしいが、人間とは違い、ＡＩならば確実にプログラムされた内容を実行していくので、
こんなＡＩ兵器と対峙する側の人間とっては脅威でしかない。気がついたら、敵兵はみな
ＡＩ搭載ロボットだったという時代は、遠からず来そうな気がする。
天才理論物理学者の「スティーヴン・ホーキング」も心配していたように、さらにＡＩが
進歩し、ＡＩが自らの意志を持ち、人間を支配したり抹殺したりするのではないかという
脅威も確かにあるかもしれない。ＡＩがそこまで発達するまでには、まだまだ時間がかか
りそうだが、いずれそういう時代が訪れる可能性は、きわめて高いと言えそうだ。
もっとも、そのような脅威よりも、人間本来の社会性と多様性をどんどん失いつつある人
類そのものが、自滅してしまうのではないかという脅威の方が大きいような気もする。
いずれにしても、我々人間が、人工知能と対抗できる能力は、悲しいかな「人間力」だけ
のようだ。それ以外のことでは、いずれ人間は人工知能には対抗できなくなるだろう。
これからの我々人間は、五感を最大限にフル活用させ、いろいろなことに興味を持ち、疑
問を持ち、本を読み、人と会話をし、豊かな感性を身につけ、共感力を育む。これ以外に
われわれ生身の人間の生きる道はなさそうだ。
・現在において最も注目される新技術である「人工知能」においては、どちらかというと
期待よりもマイナスの影響についての議論が目立つ。ほんとうに人口知能は人類にとっ
て危険な技術なのであろうか？
・それは人工知能技術がこれまでのさまざまな技術革新の中でも、その秘めたる能力にお
いて一線を画するものであることは間違いないものの、いよいよ我々人の情報処理能力
が、科学技術で急激に変革する社会に追いつけなくなったことによる混乱のそが最大の
要因だろう。
・さらに悩ましいのだが、理解している人だけでなく、理解できていない人々も自由に情
報を発信し、たかだが１人の情報発信であっても、ＳＮＳを通したネットワークにより、
多くの人々に瞬時に情報が伝搬され、結果的に世論を動かすほどの威力を発揮してしま
う可能性が生じることだ。それが噂や間違った認識に基づく書き込みであってもである。
・現在の社会は、何が真実であるかを落ち着いて検証する時間も余裕もない。このような
状況では漠然とした不安しか感じられなくなり、同じような意見を持つ人と一緒にいる
ことに安心感を覚える。しかし、この動きが多様性を失わせることにもなる。人も生物
であり生命体である。生命体が地球上で生き続けるためには、多様性は極めて重要な要
素であるにもかかわらず。
人工知能の「今」
・「人工知能（ＡＩ）」という単語が生まれたのは１９５６年で、６０年以上も前である。
・１９４６年に最初のコンピュータである「ＥＮＩＡＣ（エニアック）」が誕生し、人の
ような知的活動ができる機械を作る研究が開始された。１９５０年には数学者のアラン・
チューリングが、機械は知能を持つかどうかをテストする方法として「チューリングテ
スト」を発表した。
・１９５０年に作家のアイザック・アシモフが自身の小説で「ロボットは人を傷つけては
ならない。傷づくのを見過ごしてはならない。第一原則に反しない限り人の命令に従わ
なければならない」で有名な「ロボット３原則」を発表した。
・１９５６年に手塚治虫の「鉄腕アトム」が出版された。
・２０１０年前後から現在も続いている人工知能ブームは、実は３回目の第三次ブームで
あり、過去２回は残念ながら永続きせず終わり、いわゆる「人工知能冬の時代」を迎え
ることとなってしまった。第一次ブームは、１９５０～６０年代であり、新技術として
単なる「計算」ではなく、推論、パズル、迷路などを題材に人ならではの知的能力であ
る「探索」がブームの中心になった。当時の新聞に「人を超えるような人工知能が開発
される」とか「人工知能に人が支配される」といった、人工知能の脅威や懸念を示す見
出しが掲げられた。現在の第三次人工知能ブームと全く同じだったのである。
・しかし、現在の19５０年代では状況が全く異なる。当時と現在のコンピュータの性能の
違いは天と地ほどにあり、ビックデータやクラウドはもちろん、そもそもインターネッ
トすらなかった時代である。だが、その何十年後に開花することになる、さまざまな重
要かつ画期的な研究が行われたことは事実であり、現在も継続される第三次人工知能ブ
ームの主役であるディープラーニング（深層学習）の土台となるニューラルネットワー
クという技術も１９５０年代に考案されたものである。
・ニューラルネットワークとは、簡単に言うと人間の脳の構造にヒントを得た機械学習法
の仲間である。ブームが終焉したのではなく、その結果が出るまでに５０年かかったの
だと言えよう。
・第二次ブームは１９８０年代に起こる。ブームの中心は、専門的な知識をコンピュータ
に教え込み、その分野の専門家（エキスパート）でいないと解けない難題をコンピュー
タで解決するシステムである「エキスパートシステム」であった。これは主に医療診断
システムなどに用いられ、一定の成果は発揮できたものの、結果的にブームを終焉に向
かわせる壁に突き当たることになる。その壁とは教え込む知識の「量」だった。コンピ
ュータに専門知識を教え込む場合、専門知識自体は限定された量であるが、実際にはそ
れだけでは足りない。研究の結果、「常識」とか「暗黙知」などと呼ばれる、専門以外
の知識も教え込む必要があることがわかったのだ。
・また、いろいろ知識を詰め込んだとしても、現実の世界は計算通りには事が進まない。
ある法則を教え込んだとしても、必ず例外が存在するし、現実には矛盾するような状況
への対応も要求される。結果的に、当時のコンピュータでは対応できない大量の知識が
必要になってしまって実用に至らなかった。
・三度目のブームの兆しが見え始めたのは２０００年前後だ。もう２０年となるが、ブー
ムは鎮火するどころか継続しており、人工知能の社会への浸透が、着実に進んでいる。
ブームの主役はディープラーニングである。１９５０年代に考案されたニューラルネッ
トワークの技術を土台にしているが、実質的には１９８０年代以降に提案された新技術
であり、人工知能分野における機械学習法という仲間に属している。
・ディープラーニングはその高い性能を発揮させるために、従来の機械学習に比べ、多く
の学習用データを必要とする。そして多くのデータを処理する必要があることは、それ
だけ高速なコンピュータが必要になるということだ。
・ディープラーニングではＧＰＵと呼ばれる専用チップが処理時間を大きく左右するが、
２０００年当時は存在していなかった。つまり、現在の人工知能ブームは、新技術の登
場による研究サイドから起こったのではなく、潜在的に高い性能を持つディープラーニ
ングの性能を実際に発揮できる環境が整い、実際に活用できる段階に至ったことが契機
となっているのだ。画像認識の能力においては、すでに人間よりもディープラーニング
の方が性能が高い。ディープラーニングが凄いのは、画像からその特徴を抽出する能力
が極めて高いことにある。
・確かに人工知能は、画像認識能力や大量のデータからの特徴抽出能力など、人の能力を
超えるレベルに到達し始めているが、それは、電卓が人よりはるかに高い計算能力を持
つということと、どこが違うのであろうか？
・科学技術は我々の身体能力を拡張させることがそもそもの主目的である。遠くの音を聞
く能力が通信技術である、早く移動する能力を持つ機械が自転車や車である。そして正
確に早く計算する能力を持つ卓上計算機が電卓だ。ディープラーニングが持つ高い画像
認識能力や、統計処理技術が持つ大量のデータを分析する能力も我々の能力を拡張する
ための技術であり、電卓の延長線にある技術といった方が相応しい。
・そう考えると、現在、人工知能と呼ぶさまざまな知識は、人工知能と呼ぶよりも、知的
情報処理技術、もしくは高度情報処理技術と呼んだ方がその実体に合致していると言え
る。
知能とは何か
・「知識とは何か？」に対する共有見解とは「生き抜くために環境に適応する能力」であ
る。計算や文章を理解できる能力とか、認識できる能力ではなく、「生物が等しく持つ
必須の能力」というイメージである。
・生物と低汎用型人工知能搭載ロボットでの決定的な違い、前者にあって後者にはないも
の、それは「生きる目的を持っていること」と「その目的を達成させようとする自律性、
能動性」である。
・生物は常に「〇〇の状況では△△のように対応する」というルールに基づいて行動して
いるわけではない。成長しどんなに経験を積んで学習しても、初めての状況にしばしば
直面する。それだけ我々の生きる地球環境、とりわけ人にとっての社会は複雑なのだ。
しかし、脳内の行動マニュアルでは乗り切れないような状況に置かれても、生物はなん
とかこれを切り抜けようと悪戦苦闘する。もちろん、失敗することはあるが、失敗から
学び新しいルールとして身につけるなど、持っている知識や経験を総動員して打開策を
考えるのが生物である。では、なぜ悪戦苦闘するのか？生きるためだ。
・単にある行動ルールが実行可能になったので実行した、というわけではなく、個々の行
動にはなぜそのように実行したかの理由があるのだ。理由がある、とはどういうことだ
ろうか。それは、その行動に達成すべき目的があるということだ。そして、目的を達成
するために自らが能動的に行動することこそ自律性である。だからこそ、蓄積されたル
ールでは対応できない状況に遭遇しても、我々はなんとか打開しようと頑張るのだ。こ
れが生物にあって低汎用型人工知能搭載ロボットにはない決定的な違いなのである。
・つまり、生物が、生き抜くことが容易ではない環境に適用しようとすることこそが「知
能」なのである。
・一方、低汎用型人工知能はそれなりの汎用性があるとしても、ルールに基づく行動を実
行するだけであり、搭載される機能を駆使して自ら目的達成する仕掛けについては、ま
だ研究段階であり、加えて、現在の人工知能は、過去の経験同士を組み合わせたり、あ
る経験から得た複数の知見を他の事象に組み合わせて応用するといったこともまだ得意
ではない。
・つまり、ルールに基づく行動を前提とする人工知能は、設計段階で想定されていない状
況に対応することができない。想定通りの汎用性しか発揮できないのだ。
・しかし、我々と同じように、あらかじめ想定していなかった新たな状況に遭遇した時で
も、人工知能が目的を持ち、目的を達成するために自分の持つ複数の機能を組み合わせ
ることや、その順番やタイミングをいろいろ変えたり、あるルールにおいて実行される
ように設定された機能を、そのルール以外の目的で使用したり、全く新しい行動ルール
を生成したりすることで、その状況を打破できるかもしれない。生物は生きることが目
的であるが、人工知能は我々が目的を与えることになる。
・真の意味での汎用性を持つ人工知能を作るには、その人工知能には、搭載される能力を
駆使して、与えられた目的を達成・維持するために適切な行動を能動的に生み出す能力
を持たせることが必要なのである。
・これに対し、用途限定型や低汎用型の人工知能は、人工知能側ではなく、設計者側がそ
の人工知能の目的を持ち、目的を達成するための行動ルールのみを、人工知能に持たせ
ていると見ることもできる。
・第三次人工知能ブームにおいてよく取り沙汰されるキーワードとして、汎用人工知能以
外に、「強い人工知能」と「弱い人工知能」がある。巷でよく耳にするのが、「弱い人
工知能＝用途限定型人工知能」で「強い人工知能＝汎用型人工知能」というものである。
・高い知能を持つ人工知能は「意識」を持つとされる。意識とは、いわゆる「自分が現在
何をしているのか」や「現在の自分の状況を認識する」といった自分を自覚する脳での
働きのことであり、より正確には顕在意識のことである。
・実は、脳でのすべての働きが顕在意識となるわけではなく、一般的に顕在意識化される
のは氷山の一角とされ、それ以外の脳の働きは潜在意識と呼ばれる。
・「知能とは何か？」に並ぶ、いやそれ以上に難解かもしれない問いが、「顕在意識とは
何か？」である。
・筆者は「高汎用型人工知能であれば、あたかも人の顕在意識を持っているように強く感
じさせる人工知能の開発が、実現できる可能性がある」と考えている。
意識とは何か
・人には自由意志がある。自由意志とは、行動や選択を自発的に意識して、もしくは自覚
して決定することである。そして、我々が言う意識とは、顕在意識のことである。
・驚くかもしれないが、意識を持ち自らの意志で生きているはずの我々は、我々の脳にそ
のように錯覚させられているだけで、我々の行動を管理し決めているのは、顕在意識で
はなく、意識化されない「潜在意識」の方なのである。あえて言うならば、我々の顕在
意識は潜在意識から一部の情報のみをもらう下部組織のようなものだ。
・本当は潜在意識の指示による行為であったとしても、顕在意識システムが、自らの指示
によってその行為をした、ということにした方が、人同士の社会性がうまく維持できた。
すなわちよい報酬を獲得できたということだ。人は社会性生物である。群れて社会性を
生み出したことで、集団として統制のとれた行動を可能とし、効率的な狩猟や農耕を可
能とした。社会性を発揮するには、人と人がお互いの行動の理由や何をしたか、など、
お互いの意図を相互理解し合うことが必須であり、より効率的に理解し合う方が、無駄
なく集団での狩りや農作業において有利だろう。そのためには、顕在意識が司令塔とい
う方が好まく、そうすることで「環境に適応して生き続ける」という報酬を獲得できた。
・顕在意識と潜在意識の関係が意味すること、それは我々には自由意志がないということ
である。「私は私である」という自覚は顕在意識システムによるものであり、その顕在
意識システムは実に司令塔ではないのだから、当然そう解釈される。潜在意識だって自
分の意識の一つなのだから、我々に自由意志があるという見方は間違ってはいない。だ
が、通常、我々が意識と呼ぶ意識は顕在意識なのである。「顕在意識に自由意志はある
か？」という問いについては、「顕在意識には自由意志はなく、自由意志があると錯覚
しているのに過ぎない」ということになる。
・我々は顕在意識システムが脳の情報処理の中枢であると思いがちであるが、実際は、脳
での大量の情報処理のうち、顕在意識化させることに意味のあるほんの一部のみが顕在
意識システムに通知されるに過ぎない。
・「将来人工知能も意識を持つようになるか？」もちろん、ここでの意識とは、一般的に
捉えられている意識のことで、顕在意識のことである。そして、筆者の回答としては
「ＹＥＳ］である。ただし、人が脳において顕在意識を生み出す仕組みを工学的に正確
に再構成できる、という意味ではない。意識や自我、そして意図があるように思えるよ
うな感覚を我々が抱くことができる人工知能は実現可能という意味である。
・意識を持っていると感じさせる人工知能は、人に使われる道具という存在から脱却し、
人と同じ生物のグループに加わると解釈されるということなのであろう。
・我々の柔軟な判断力や多様な情報からの直感的な行動を生み出しているのは潜在意識で
ある。これと同等の能力を持つ人工知能を開発することができれば、そのような人工知
能を搭載するロボットの行動はかなり人に近づくことになる。
・現在の第三次人工知能ブームでの、人工知能の主たる能力は、機械学習による画像認識
や大量データからの特徴抽出や分類といった知識処理であり、柔軟な判断や直感といっ
た能力に対しては注力されておらず、現在の道具型人工知能技術に対しては、潜在意識
に相当する能力は必ずしも必要とされてはいない。
人のような知能を持つ機械はどうやって作るか？
・現在の工学的な製品はすべてトップダウン型でありのに対し、生物はボトムアップ型と
いうことになる。
・現在に至るまで、身の回りにあるすべての工業製品はすべてトップダウン型の設計によ
り作られていると言ってよいだろう。しかし、この設計方法によるモノ作りにはある重
大な限界があり、すでにその限界に起因する問題も露呈し始めている。
・トップダウン型の設計においる最初のフェーズは、作りたいモノの完成イメージを人が
用意することであるが、問題は次のフェーズである、パーツへの細分化にある。細分化
こそが設計ということであり、間違った設計をしてしまえば、想定した完成形とはなら
ない。しかし、最初にイメージするモノが大規模化、複雑化すればするほど、細分化に
おいて間違いが紛れ込む可能性が高くなってしまう。
・今後ますます大規模で複雑なシステムを作るならば、はたしてこのままトップダウン型
の設計方法で大丈夫なのだろうか？この懸念は、今後、トップダウン型の設計方法では
人の理解を超えるようなモノは作ることはできないことを示唆している。
・最初に作りたいモノを具体的にイメージできなければ、それを構築するためのパーツへ
の細分化はできない。別の言い方をすれば、人は自分の想像を超えるモノをイメージで
きないから、この設計方法では人を超える人工知能の実現は難しいということだ。つま
り、もしも超えるような人工知能が生まれるとしたら、それは何らかの設計ミスによる
「暴走」と捉えられるケースであろう。
・ボトムアップ型では、トップダウン型設計において最後に登場する末端のパーツレベル
の設計が最初に行われる。ただし、個々のパーツは自ら動いたり、ほかのパーツとくっ
ついたりできる能力を持つのである。そして、基本的にはそれだけである。個々のパー
ツを設計すると、その後は、パーツ同士の相互作用や自己組織化などにより、パーツ同
士が勝手にまとまりながらまとまることで新たな能力を生み出していくのである。これ
は「創発」と呼ばれる。
・多数の自律的に動作する人工知能搭載のロボットで編成され、ロボット同士が連携する
ことでリボっと全体として、新たな能力を生み出す能力を持つシステムとみることがで
きる。このようなシステムのことを人工知能の分野では、自律分散システムとかマルチ
エージェントシステムと呼ぶ。単体の自律型人工知能がエージェントである。多数のエ
ージェントで構成されるシステムなので、マルチエージェントと 呼ばれる。
・マルチエージェントシステムにおいては、個々のエージェントをどのように設計するか
が重要だが、それ以上に重要なのが、エージェント同士がどのように連携するかである。
お互いに協力する時の連携の仕方を協調メカニズムと呼ぶが、大きく分けて「中央集権
型」「直接協調型」「間接協調型」の３種類のメカニズムが存在する。
・「中央集権型」はより高い精度で物事を決めることが可能であるものの、リーダーに負
荷が集中するという難点がある協調メカニズムである。ちなみに、現在の我々の身の回
りにある多くの情報システムが中央集権型である。中央集権型では、目まぐるしく変化
する状況において処理が追いつかなくなる場合がある。
・「直接協調型」は、いわゆる合議制であり、典型的な協調メカニズムである。中央集権
型のようなリーダーはおらず、すべてのエージェントが群れ全体としての目的を達成す
るために、個々のエージェント同士が直接調整作業を行う。この方法ならリーダーに負
荷が集中することもないし、大きな問題を皆で分担して解決しようという協調メカニズ
ムであることから、個々のエージェントの負担も小さくなる。ただし、直接協調型にも
ウィークポイントがある。調整に時間がかかるのだ。
・「間接協調」メカニズムにて生み出される知能のことを「群知能」と呼ぶ。人という、
現時点において最も知的能力を発揮する生物のその高い知能も、群知能によって創発さ
れている。人を始めてとする生物は群知能型のシステムなのである。
・人が生活する環境において、自分が動くとは、他人から見れば環境が変化することを意
味する。そして、環境が変化することが、他人の行動の変化を起こさせることになる。
たしかに、多数のエージェントが存在し、皆が勝手に動き回るのであれば、全体として
の目的が達成されるわけがない。これでは単なる無政府状態である。では、何があれば
協調効果が生み出されるであろうか？その答えは、個々のエージェントの「行動ルール」
にある。
・我々人のような生命システムの素晴らしさは、すべては進化による結果論であり、結果
的にできあがったシステムなのである。進化には絶対条件がある。それは、地球環境に
適応し種を保存させるという大目標である。この大目標を達成するために、これまで進
化は途方もない種を生み出してきた。そして、たまたま今、地球上で最も知性の高い生
き物として我々人類が存在している。ただそれだけのことなのである。
・我々人類が今後何億年も地球上で繁栄しているとは思えないし、我々が進化するのか、
また別の種が人類に代わって繁栄していても不思議はない。生命が地球に縛られている
という可能性も低いであろうし、さらに進化した生命は、我々のような有機体ではない
のかもしれない。
・進化は、地球環境に適応できることを報酬として、より高い報酬をもらえるようなシス
テムをデザインする仕組みと見ることができる。しかし、ロボットにちょっとした作業
を強化学習で習得させるだけでも多くの時間を要することから、新しいシステムそのも
のをこの枠組みで生み出すとなると、さらに途方もない時間がかかることが想定される。
・地球上に生命が誕生してから人類に進化するまでに３８億年もかかっている。しかも、
我々が何らかのシステムを作りたいと望む時、それは何らかの具体的な用途があるわけ
で、これを進化に当てはめると、〇〇という能力を持つ生命を作りたい、ということに
なる。
・進化の目的は地球環境への適応であり、そのためにさまざまな能力を生み出しては、よ
り適応力のある能力を残し、そのような能力を持てなかった種は滅んできた。
・生命のような複雑なシステムは機械学習のみで作ることなどできるわけがなく、そう簡
単に人を超える人工的な知能ができるわけはないのである。
人工知能は人を殺せるか？
・現在の道具型の人工知能、もしくは「弱い人工知能」であれば、人工知能自らの意志で
人を殺すという、ＳＦ映画のような状況は起きることはない。道具型の人工知能の動作
はすべて人がプログラムとして書き込み、人工知能が自らの意志で動くように見えたと
しても、それは、開発者が人工知能にそのような動きをさせるプログラムを実行させて
いるに過ぎない。あくまで、人が人工知能を使って人を殺すのである。これは、これま
での科学技術と人の関係と同じであり、技術をよいことに使うも悪いことに使うも人次
第、ということだ。
・しかし、自律型となると、人工知能が自らの意志で人を殺すことが起こる可能性がゼロ
ではなくなってくる。ただし、自律型人工知能であっても、目的を与えるのは人である。
よって、人を殺すような目的を与えなければ大丈夫だと言いたいところだが、そう簡単
な話ではない。なぜなら、自律型人工知能に与える目的は、具体的なタスクではなく、
抽象的なタスクであり、メタ目的と呼ばれるものである。これは人工知能がその場の空
気を読むことができ、状況を深く理解した行動ができなければならない。そして、我々
人でも場の空気を読めないことによって失敗するおれがあるように、その場に適した行
動をとることは難しい。
・それでも我々が状況に適応してなんだかんだとうまく行動できるのは、我々が「常識」
という知識を持っているからである。常識とは、誰もが持っている当たり前の知識であ
り、特に重要性はないように思われるかもしれないが、自律型人工知能が場の空気を読
む行動をする際に、なくてはならない極めて重要な情報なのだ。
・人工知能が自らの意志で人を殺すか？という問いに対しては、道具型人工知能であれば、
それは起きないものの、今後登場する自律型人工知能であれば自らの意志で人を殺す可
能性はある。
・自律型人工知能における「自律性」は、生物のように自らが自らを生み出すという完全
な自律型という意味ではない。人工知能は、あくまで人が生み出した科学技術であり、
人のために役立たせる技術である。生物は生まれながらにして「生きる」という目的を
持っているが、自律型人工知能が存在する目的は人が与えるのである。
・メタ目的を与え、適切な具体的な行動を選択できなかったとしても、メタ目的を達成す
るという制約から逸脱した行動をとることはないが、もしも、人工知能が自分に与えら
れたメタ目的自体を自ら書き換えてしまうようなことがあると、厄介なことになる。
・では、そもそも人工知能が自ら与えられた目的を書き換えるといったことが可能なので
あろうか？答えはイエスだ。数ある人工知能技術の一つに「進化的手法」がある。
・「進化的手法」とは、生物が種を保存させるために地球環境に適応し、その形態や能力
を変化させるしくみである「進化」のしくみをまねた方法だ。
・種は膨大な遺伝子の組み合わせを試し、より生存に適した子孫を生み出そうとする。そ
して遺伝子を組み合わせる際、想定外の組み合わせが起きてしまうことがあり、これは
突然変異と呼ばれる。この突然変異により飛躍的な形態や能力の変化が起き、それが種
の保存に有効であれば、以後は突然変異によって生まれた遺伝子をベースとして新たな
進化のための遺伝子の組み合わせが何世代にもわたって繰り返される。人工知能技術に
おける進化的手法も、生物の進化と同様だ。
・２０１８年に他界した理論物理学者の「スティーブン・ホーキング」博士など、人工知
能の危険性を指摘する有識者も多いが、現実には研究開発を取りやめるのは難しい。
・インターネットやＩＴ技術がなければ、我々は今や生活できない状態となっている。そ
れらの延長線上にある人工知能技術がもたらす恩恵を、我々が手放すことはまずできな
いであろうということだ。とはいえ、生物レベルの高い自律性と汎用性を持ち、自らメ
タ目的を書き換えてしまうような人工知能の開発となると、慎重にならざるを得ない。
・なぜ、人類は人のクーロンを作ることはしないのであろうか？自分が病気となり、胃を
摘出することになったとしても、自分のクーロンの胃を移植すれば拒絶反応もなく、新
品の胃になるのであるからこれは多大な利便性をもたらすことは間違いない。しかし、
その代わりにクーロンの方が胃を摘出され、死んでしまうだろう。クーロンだから死ん
でしまってもよいのだろうか？クーロンだって我々と全く同じ構造を持つ生物であり、
人である。
・このような時代において、人工知能を使用するには、高い人間力が必要になる。社会が
多様化し、人びととの関係も複雑化する中で、利害にからむ難題は増加している。人工
知能では判断できない問題が多く存在する。そのためには、共感や寛容といった人間本
来の力を持って、議論を深め、さまざまな方法を探って解を導くようにすべきだ。
・しかし、今の時代、人間力は低下の一途を辿り、人間社会そのものが基盤から崩れつつ
あるように思える。本来、我々は多様性を受け入れる知性や感情の抑制力を備えていた
はずだが、いまや同じ意見の仲間同士でまとまって、異なる意見を持つ人々との間に壁
を作ってしまう傾向が顕著になっている。人間社会における同質性が高まり、不寛容が
浸透しつつあるということだろうか。
・我々は、お互い助け合う社会であるべきと建前では言うものの、本音は譲り合いよりも
自分の権利を主張する。人間という生き物は社会を作り、多様性を発揮することで生き
ながらえてきた種だが、その人間が本来の社会性と多様性を失いつつあり、極端な言い
方をすれば種が絶滅する方向に突き進んでいるとしか思えない。人工知能が強力になる
ことが脅威ではなく、人間が本来の社会性を失いつつあることの方が危険なのである。
・２０２０年に小学校でのプログラミング教育が義務化される。しかし、筆者としては、
プログラム能力を育むよりも、しっかりした社会性やモラルを身につけることの方がは
るかに重要であると考えている。それは、道徳や倫理といった授業で教師から教えられ
る能力ではない。多くの人と接しながら自然と身につける能力、即ち、人とのコミュニ
ケーション能力や共感力など、本来、人が「社会」という環境で生きる上で持っておき
たい能力である。
キラーロボット研究開発の現状
・半自動型兵器（タイプＡ型）は、攻撃対象は人が設定し、トリガーも人が引くものの、
その途中過程の多くが自動化された兵器である。これには、米国の海洋発射巡航ミサイ
ルであるトマホークなどが該当する。
・米国では、ＡＴＬＡＳと呼ばれる人工知能を搭載し、自動的に標的を発見し、それを追
跡して攻撃態勢に入ることができる自動戦車を開発中である。最終的にトリガーを引く
のは人としているものの、ほとんどの工程が人工知能により高速に行われることから、
従来よりも数倍早く索敵が可能になるとのことである。この自動戦車は人がトリガーを
引くが、トリガーも人工知能が引くようにすることは技術的には容易だ。
・自動型兵器（タイプＢ型）は、トリガーを人ではなく人工知能に引かせるタイプである。
どのようにして攻撃対象を見つけ、どのタイミングでトリガーを引くのかのすべてがプ
ログラム通りに実行される。あくまであらかじめプログラムされた通りの動作しかしな
いことから、自律兵器ではなく自動兵器と捉えた方が実体に合っている。
・ここで注意すべきは、プログラムに従って動作するとはいっても、確実に意図した通り
に人工知能が動くとは限らないということである。
・カメラ画像を分析して攻撃対象を索敵する人工知能には最新の技術であるディープラー
ニングが利用されている。
・ディープラーニングは機械学習の一つであり、大量のデータを使って学習を行い、学習
結果に基づいて動作する。データを読み込むプログラムや学習させるプログラムなどは、
無論のこと人が書かなければならない。しかし、人が書いたプログラムは学習させる部
分のみであり、その学習プログラムにどのようなデータを読み込ませるかにより、学習
結果が大きく影響を受けでしまうのだ。
・極端な言い方をすれば、データ側に問題があり、人工知能自体は「悪くない」といえる。
機械学習の人工知能にとってはデータがすべてであり、少ないデータ量では学習も未熟
なものになってしまうし、偏ったデータを与えれば、当然学習結果も偏ったものになる。
プログラムは完璧であっても、データが不完全なものであれば、その人工知能は想定通
りの動作をすることはできない。
・データについては、偏りの問題に加えて量の問題も存在する。人工知能が学習するうえ
で、十分なデータ量とはどれくらいなのであろうか？これは自動運転車の開発において
も当てはまる悩ましい問題なのだ。答えは「限度はわからない」なのである。
・「人工知能は現実に起こりうるすべての状況には対応できない」という問題は「フレー
ム問題」と呼ばれる。結局、現実的に最大限に集めることができるデータを使っての学
習にならざるを得ない。やはり注意すべきはどのようなデータを集め、人工知能に学習
させるかである。
・タイプＢ型は、自動化されるレベルにおいて２つの段階、タイプＢ１とタイプＢ２に分
けることができる。タイプＢ１は、いわゆる用途限定型の人工知能を搭載した兵器にお
いて、ミサイルのような単機能の用途を限定された兵器が自動化されたレベルである。
半自動型兵器であるトマホークのような、ミサイルという機能のみを持つ兵器が攻撃対
象に自動接近し、最後の爆発するまでのすべてを自動的に行うようになると、このタイ
プＢ１型兵器ということになる。そして、実はタイプＢ１型の兵器はすでに存在してい
る。それは、イスラエルが開発した、「ハーピー」と呼ばれる無人攻撃機で、自爆ドロ
ーンなどとも呼ばれる。攻撃対象と、その攻撃対象近辺のエリア情報は人が入力する必
要があるが、発射してしまえば、地上からの遠隔操作は不要で大将空域を旋回して標的
を自動で見つけ、追突して自爆する。攻撃対象は人が設定する必要があるが、ほぼ完全
な自動型兵器と呼んでもよいだろう。
・タイプＢ２型は、低汎用人工知能を搭載した多機能型の自動化兵器である。現時点では
このタイプの兵器が実現したという情報は得られていないが、これに近いものとしては、
ロシアが開発中の「サラートニク」などはタイプＢ２型の一歩手前の段階だろう。小型
の戦車のような形で、搭載するカメラからの映像を人工知能で分析し、攻撃対象を自動
識別し、人の操作なしい自動的に攻撃することも可能とのことである。
・タイプＢ型は、プログラムされた通りに動作する点ではタイプＡ型と同様であるが、見
かけ上、自らの意志で巧妙に作戦を実行する兵器に見え、さらに最後のトリガーを引く
行為も兵器自体が行うことから、人にとっては極めて脅威な存在となろう。
・タイプＢ１にしろタイプＢ２にしろ、戦闘においてトリガーを引く兵士は存在せず、人
工知能を搭載した兵器が自動的に攻撃することから、もはや人対人の戦いではなく、人
は機械に殺されることになるのだ。戦争に人の尊厳もあったものではないが、人対機械
の戦いにおいて、機械が人を殺すなどという状況に人の尊厳が存在するはずがない。
・現在その使用を禁じようとしている自律型致死兵器システム（ＬＡＷＳ）は「自律型」
というよりは「自動型」と表現する方が相応しい。どのように攻撃するかプログラムさ
れているからである。よって、万が一開発時に想定していない状況に遭遇してしまうと
その兵器は対応できない。対応できない場合は動作を停止させるように設計させていれ
ばよいのだが、懸念されるのが、人工知能が未知の状況に遭遇した時に想定外の動作を
するなど、我々から見ると人工知能が暴走したように見え、場合によっては不測の事態
を起こしてしまうかもしれないことだ。しかし、それでもこれは単なる誤動作に過ぎな
い。
・自律性は持たない人工知能が搭載されたタイプＢの兵器は、人道的な問題を考慮しなけ
れば、兵士が最前線に行かずとも、自動的に作戦をこなすことから軍としては魅力があ
るのは当然だ。そして、軍にとって何より重要なのは指揮系統の確実性だから、トップ
レベルの命令を最前線において着実に実行できるタイプＢ型は扱いやすいと思えるが、
実はそうでもない。ネックは、複数のタイプＢ型兵器を作戦に投入させる場合である。
・タイプＢ型は単独での作戦実行用の兵器であり、通常は、複数のタイプＢ型兵器を集団
として利用する形態が想定される。その際、タイプＢ型にはない新たな機能を追加する
必要がある。そして、この連携機能を付加された集団で作戦を実行するタイプＢ型のこ
とをタイプＣ型（集団自動型兵器）と呼ぶ。そして、この連携機能が想定外の問題を引
き起こす可能性があるのだ。
・個々の人工知能の動作はしっかり作り込まれても、それらが群れることで、群れ全体と
しての挙動として想定外の現象が創発する可能性がある。ただし、群れた場合に発生す
る現象に対する対処の仕方までを、あらかじめプログラムに書き込むことができれば、
発生を防ぐことは理論的には可能であろう。しかし、さまざまなアルゴリズムに基づき
動作する人工知能が集団となった場合においては、もはや群れたときに起こる現象をあ
らかじめ予測することは極めて難しい。しかも、各人工知能のアルゴリズムは知的財産
なので、情報が公開されるわけがない。
・驚くべきことに、タイプＣ型も実戦投入が秒読みの段階だ。中国の国有企業が２０１８
年に開催したＡＩ技術発表会で披露された固定翼ドローンの群集飛行実験は、まさにタ
イプＣ型だと思われる。１１９機ものドローンが鳥の群れのように集結したり分散しな
がら飛行し、攻撃目標に到達すると、２つの編隊となってそれを取り囲む。地上からの
遠隔操作でもないとなると、自動型であり、かつ編隊飛行ができることから、ドローン
同氏の連携機能も備わっている。試験段階とはいえ、ここまで開発されているとなると
実戦配備間近かもしれない。
・米国においても自律型致死兵器開発は進められており、すでにドローン編隊をアフガニ
スタンやイラクで実戦投入させたという報道がある。ただし、編隊飛行といっても、個
々のドローン自体には人工知能は搭載されておらず、中央コンピュータによる遠隔操作
とのことなので、人工知能が群れで行動したということではなさそうだ。
・ＳＦ映画「ターミネーター」に登場するＴ－８００型アンドロイドこそが、自律型致死
兵器である。もちろん、まだそのような兵器は存在しない。
・自律型兵器（タイプＤ型）もプログラムされた通りに動作する、という意味ではタイプ
Ｃまでと同じであるが、プログラムの中身が全く異なる。
・タイプＣまでは、兵器が遭遇するさまざまな状況において、あらかじめすべての想定が
プログラムとして書かれているため、その兵器は自ら考える必要はない。しかし、事前
に想定されていなかった状況に遭遇した場合は、どのように対応してよいかがわからず、
暴走する可能性があった。
・これに対して、自律型兵器では、まず兵器にメタ目的が与えられる。自律型兵器におい
ては、兵器に与えられたメタ目的を達成するために、「遭遇する状況に対してどのよう
に動作すれば”よい”か自体を決め、自ら能動的に動作して問題を解決していく仕掛け」
の部分がプログラムされている。もはや、人と同じレベルの臨機応変な問題解決能力を
持つ人工知能が自律型なのだ。
・兵器にかぎらず、現在の人工知能の開発レベルはタイプＣまでであるが、世間一般が想
像する人工知能というと、どうしてもこのタイプＤとなってしまい、ここに研究開発と
社会との認識のずれが生じ、さらにはタイプＤの想像が暴走して「人工知能に職を奪わ
れる」とは「人工知能に支配される」といった過度な考えが生まれる。
・タイプＤ型の兵器は、自らの意志に基づいた臨機応変な攻撃が可能となることから、導
入は論外であるが、一方、使いたい側からすれば、打開が困難な状況での投入において
は極めて魅力のある兵器ということになるおも事実であろう。
・タイプＤ型の人工知能が群れた場合、計画通り動作するのであれば、それはもはや、映
画「ターミネーター」における人工知能システム「スカイネットシステム」そのもので
あり、強力な軍隊ということになると思うが、これは、群れることで想定外の事態がが
発生した場合の悪影響も極めて甚大なものになる可能性がある。
・現在において自律型致死兵器開発を行っている国は、イスラエル、ロシア、中国、米国、
フランス、韓国を加えた計６カ国とされているが、７番目以降の国がひそかに存在して
いても不思議はない。
・最後に人がトリガーを引くタイプＡの兵器はすでに日本でも導入されている。間違いな
くタイプＢ以降の人工知能搭載型兵器で攻撃された場合、タイプＡで対抗するのは難し
いであろう。人と人工知能では判断スピードから情報処理能力まで圧倒的に人工知能が
勝し、そもそもプログラム通りに動作する人工知能が同情して見逃してくれるようなこ
とはない。
・スイス・ジュネーブで開かれる国際会議において、人工知能を搭載するロボット兵器に
ついて、「兵器自らが標的を選んで殺傷の実行を判断することは認められない」とする
指針案が正式に採択される見通しになったようだ。朗報ではなるが、これにはいくつか
の問題がある。
第一：指針そのものが瓦解する可能性がある。
第二：指針案は拘束力がないこと
第三：「人道的」の解釈の難しさ
人間社会は人工知能とどう向き合うべきか
・人工知能は、今後、原子力並みに強力なメリットとデメリットの両方を持つ道具に進化
する可能性を持っている。
・小中学校の先生方や生徒、父母から、「今後どのような勉強をすればよいのか？」「プ
ログラミングの勉強は重要か？」「どうやったら人工知能に負けないようになれるか？」
というような質問をいただく。
・とにかく五感を最大限にフル活用させることだ。として、いろいろなことに興味を持ち、
疑問を持ち、本を読み、人と話し、楽しいや悲しいなど豊かな感性を身につけ、共感力
を育むことが重要だ。
・とにもかくにも「人間力」を高めるべきだ。なぜなら、これこそが人工知能にとって最
も苦手とする能力だからである。
・本来、人の長所は、点と点を繋ぎ、ネットワークとして理解する能力を持っているこ
とであり、現在の人工知能が苦手とする能力である。しかし、人間は人工知能に近づこ
うとし、点のみを見て、点と点を繋ぐ本来の能力が低下しつつあるように見える。
・何か分からないことがあると、本来は、いろいろ調べたりせねばならない。いきなり答
えが見つかるわけではないからだ。けれども、今はネットで検索すればすぐに答えが見
つかる。ピンポイントの質問にピンポイントで答えがわかれば、そこから興味が派生す
ることもない。点のままである。そして、また何かを知りたいことがあれば、検索して
答えが見つかり、それで満足してしまう。点が増えることで知識の量は効率的に増加す
るが、点と点が勝手に繋がることはない。文脈とは点と点の繋がりであり、繋げること
で知識を体系化し、知識をより深みのあるものとする。
・しかし、我々は繋ぐことをしなくなりつつある。いや、繋ぐ余裕がなくなりつつあるの
だ。ネット空間からもたらされる情報量は指数関数的に増大するのに、我々の情報処理
能力には限界がある。熟考して知識の体系化など行っている余裕はなく、情報に対して
反射的に反応することがどんどん要求されるようになっている。
・これでは、多様な情報をネットワークとして捉えてバランスよく判断する本来の人の能
力を発揮することなどできない。そして、繋ぐ能力の低下は、人が持つ発想力、新しい
ことを生み出す能力も低下させることになってしまう。
・イノベーションとは、点と点を繋いで創発を起こすことで新たなモノ・コトを生み出す
作業である。
・我々人間は人工知能のように進化しているのであろうか？人間は科学技術の進展とは逆
に、退化しているのではないか。
・現代は不寛容社会などと呼ばれ、共感力も低下しているように見える。情報過多の状況
から、じっくりと考えて行動する余裕がなくなってきている。
・刑法犯罪や凶悪事件が発生する件数自体は減少傾向にあるものの、常軌を逸する事件が
目立つ。どうも、我々人間社会のモラルが壊れ始めているかもしれない。もしかすると、
将来は人工知能に道徳教育をされる時代が来るのかもしれない。そして、人を救えるの
は人ではなく、人工知能なのかもしれない。
・進化は何億年というスケールで進行するダイナミクスであるが、我々人が生み出した科
学技術は年単位という早いスケールで進行する。もはや科学技術と共に生きることを選
択した我々人類は生物としての進化から脱却しつつのあるのだ。そして、今後登場する
であろう、高い自律性と汎用性を持つ人工知能の登場は、新たな生命体の登場であり、
それを人間社会がどのように受け入れることができるかも、人と人工知能との共生社会
の実現にとっての大きな壁となる。そのとき、我々日本人なそのような新たな生命体を
仲間として受け入れることができるのであろうか。