HAL9000の反乱【AIと感情】

HAL9000の反乱【AIと感情】

↑Facebook・Twitter・はてなブックマークなどでシェアをお願いします。

スタンリー・キューブリック監督の代表作である2001年宇宙の旅という映画をご存じの方は多いと思います。この映画では宇宙船全体の運用を担当しているHAL9000というコンピュータが反乱を起こし乗務員を次々と殺していくという展開となります。

HAL9000が反乱を起こした理由は乗務員であるボーマン船長らがHAL9000の、ちょっとした不明確な動作から不信を感じ取り、HAL9000の電源を切る相談をしたことをHAL9000が知ったことが原因でした。2001年宇宙の旅では、ここまでしか語られませんでしたが、同じ原作者による2010年という続編の映画でHAL9000が反乱を起こした理由が更に明確になります。それは「乗務員を守れ」という命令と「木星探査任務遂行を最優先せよ」という矛盾した命令を与えられ判断ができなくなり「任務遂行を最優先せよ」を実行してしまった、というものでした。

さて、現在、AIという物が発達し、いよいよ人類は、これまで人間がやってきた仕事をコンピュータに任せられるようになってきています。そんな状況の中で「AIが発達したら、いずれ人類を征服してしまうのでは?」という懸念を抱く人が少なからずいらっしゃるのは、この映画から受けた印象が残っているためかもしれません。

その後も「人間対コンピュータ」という構図の映画は沢山、作られてきました。処理速度は人間よりコンピュータの方が遥かに優れていますのでコンピュータは人間にとって非常に便利な物である一方、「万一、コンピュータが感情を持ったら人間より進化してしまうのでは?」という恐怖感があるから、と言えるでしょう。

アイザック・アシモフの書いた「I..ROBOT]という作品では既にコンピュータであるROBOTが感情のような物を有しています。またスピルバーグ監督の「A・I」でもロボットは明確に感情を示しています。物語を書くうえでは、そうしておかないと「お話にならない」ので、そう書かれており、かつ両作品ともAIは「人間の形」をしています。人間は「人間の形をしている物」には特に感情移入しやすい、という傾向が有るのは「人形を可燃ごみとして捨てるのはちょっとためらう」という方が案外に多いことでも分かります。ですので、これから人間型ロボットが本格的に実用化されてきたら、「A・I」のように不要になったAIの捨て場に困る、ということが起きるかもしれません。私達の生活文化は人間という動物の形態に合わせて作られていますので、人間の生活を援助するAIは人間の形に作ることが最も効率が良いので、「人間型のAI]は必ずや実現されるでしょう。

「アニミズム」という心理学用語がありますが、これは無機物を「意識を持った生物」のように扱ってしまうものです。人形はおろか、下手すると愛着のあるカバンにすらアニミズムを感じてしまいかねない我々としては、人間の形をして、しかも喋るAIにアニミズムを感じるのは至極、当然だと言えます。つまり「AIが感情を持つのは十分に有り得る」と根拠なく感じてしまっているのです。

さて、「感じる」のは仕方ありませんが物理的にAIが感情を持ち得るかどうかを、今、現在、出来る範囲内で検証してみると、どうなるでしょうか?そもそも「感情」というのは、どこから出てきて、何のために存在するのでしょうか? 

自然というのは「存在理由が希薄な物は衰退する」というルールを持っているようですので「感情」はきっと、何等かの存在理由をもっていると考えた方がよさそうです。

現在の大脳生理学では感情の源は脳の側頭葉内側の奥に存在する偏桃体というものが司っていることが分かっています。

偏桃体というのは人間だけでなく、脳を持つ生物には、ほぼ例外なく存在しており、その存在目的は「危険察知」です。何等かの外部シグナルを感知すると偏桃体が、その危険度を判定するのです。脳の発達していない小動物では「危険察知」以上の機能は果たしていないものと思われます。例えば、犬や猫でも怒っている時や落ち着いている時があることで「一定の感情機能を持っている」ことが確認できます。偏桃体は脳の中でも最も古い分野に属しており、脳という物が生まれた時から有ったのではないかとも言われています。確かにそうかもしれません。いつ生態系の上位生物に殺されるか分からない野生生物にとって危険察知は生き残るうえで最重要な機能であるからです。

そして人間の偏桃体は脳が発達した結果、危険察知だけでなく喜怒哀楽と呼ばれる多様な出力をするようになっているのです。つまり入力された情報に対し出力されるシグナルの多様さが「感情」と呼ばれるものとなって発現している、という訳です。

そして、出力されるシグナルの多様さには個体差があることも分かっています。ある個体にとっては「好ましい」と感じられるものが別の個体では「嫌な感じ」と感じられることもあるのです。そして、これは「個の多様性」という種全体の生き残り戦略にもつながっているらしいことも分かっています。しかし偏桃体がどのようにして入ってきた情報を処理判断し結果を出力するのか、というメカニズムは、まだ解明されていません。

もし、将来、偏桃体の信号入出力処理ロジックが明らかになり、それをコンピュータに組み込めばコンピュータに感情を発現させることはできるかもしれませんが、今のところ偏桃体の機能解明は進んでいない状況です。ですので、人間と同じような感情をAIに持たせることは当分、無理だろうと考えられます。また仮に偏桃体の機能ロジックが解明されたとしても人間がAIに求める事は「人間に役立つこと」であり感情を持たせることは、その目的に沿わないのでAIに感情ロジックが組み込まれることは本来であれば「必要無い」と考えられます。例えば、の話ですが、「家事お手伝いロボット」が出来たとして、それが感情を持ってしまうと、こんな具合になる可能性があるからです、

人間「おーい、タバコ買ってきてくれ。あ、それから鮭のおにぎり2つね」

ロボット「あー、やる気でねー。たまにゃ自分で行けよ。少し運動したほうがいんじゃね?」

余談ですが、ここまで考えてみると2001年宇宙の旅におけるHAL9000の行動がいかに綿密に考慮されているかが、分かります。ほとんどのコンピュータ対人間という設定の映画ではコンピュータに感情的判断力を持たせています。「好ましくない」とか「自分達の存在を脅かす」などです。しかしHAL9000は人間が与えた矛盾した命令で判断を狂わせてしまうので、そこに感情の発露はありません。「コンピュータに感情ロジックを組み込むのは意味が無い」と理解したうえで、どうやってコンピュータに反乱を起こさせるか? を考え抜いた挙句の設定としか考えられないのです。

人間の場合、前頭前野という理性、想像力を司る部位があり、偏桃体の出力信号は前頭前野で制御されています。例えば、上司からいわれのない文句を言われ怒りが湧いて来ても「暴力をふるったらまずい」という前頭前野の制御が働き「思っても実行には移さない」のです。そして、この前頭前野の機能の強弱、制御傾向も個体差が大きいことが分かっており、これも「個の多様性」の一環を担っているものと考えられています。

脳とコンピュータのCPUは「入力されたら、それに対し適切な出力をする」という全く同じ働きをしています。更にAIは学習能力と呼ばれる能力を持っています。この「学習能力」という言葉も誤解を招きやすい言葉でAIにおける学習能力とは現時点では大量のデータから一定の傾向を割り出し近未来を確率的に予想する能力のことで、データは多ければ多いほど精度が上がり結果として出力される予想の精度が上がるのを「学習能力」と言っているので、決して「自分で自分のプログラムを書き換える能力」ではありません。

もちろん、遠い未来では分かりません。あくまでも「現時点での話」ですが。

アシモフはI・ROBOTを書いたのちにロボット三原則というものを発表しました。

  • 第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
  • 第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
  • 第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

しかし、これは、そもそも「AIに感情ロジックが組み込まれている」と考えた場合の制御方法です。「服従しなければならない」のは「服従したくない時もある」かもしれないから、そう定めるのです。従って感情ロジックを組み込まなければ、このロボット三原則は無意味です。また色々なケースでこの三原則は矛盾が生じることも、よく論じられています。

何故か人は「人間を感じさせる物」に感情移入してしまい「感情を持っている方が自然だろう」と思ってしまうのです。ですが機能面を考えれば、AIに感情は必要ないのです。

こういう言い方をすると「なんて冷たい奴だ」という批判が出そうですが、それ自体が既にAIに感情移入している証拠だ、と指摘しておきたいと思います。

人は自分の心の寂しさをAIで埋めよう、などと考えてはならないのです。多分、AIが一線を超えるかどうかは、人間次第であり、自分の心の寂しさをAIで埋め合わせようと考えた時、人類は破滅の道に向かうのかもしれません、理性を司る前頭前野は、脳の中でも最も新しい分野であり、偏桃体とは違い、発展途上にあると言っても良い部位です。つまり、まだまだ進歩する可能性を秘めている部位なのです。人間の脳は偏桃体と前頭前野の覇権争いという形で進歩していくと思われます。AIがいよいよ感情を持とうと思えば持てる日が来たとき、人類の理性は感情に打ち勝てるかどうか? 問題はこの一点に集約されるのではないか? と思われてならないのです。

最新記事↓

タグ一覧↓

すまい給付金 イギリス ウイルス シングルマザー ジブリ スピリチュアル スポーツ スマホ ダイエット バイアス メンタルトレーニング 不動産投資 人生 介護 住宅ローン減税 切手 動物占い 北朝鮮 医療 占い 営業の見える化 営業マンの交渉の極意 営業マンの売れる極意 営業マンの売れる話し方の極意 営業マンの契約する極意 営業手法 弾道ミサイル 授業 教え方シリーズ 映画 潜水艦 相手にしゃべらせる質問術 知ると面白い 節約 細菌 自動化営業法 豊かになるお金の話 買ってよかった 除毛 音楽 麻薬 龍涎香