AIについてのトピック

現在用いられているAI（人工知能）はGoogleの検索機能やAmazon商品のおすすめなど、ある限られた目的達成のために使われており、狭義のAIとも言われています。

一方、最近新たに開発された「ビジーチャイルド」というAIが人間の知能を超え、AGI（Artificial General Inteligence,　人工汎用知能）の域に達したそうです。AGIはASI（Artificial Superinteligence、人工超知能）とも呼ばれます。

ASI（人工超知能）は人間を見て何を「思う」か

ではここで、本当にASIに成り代わって考えてみよう。あなたが、ネズミが看守を務める牢屋の中で目を覚ましたと想像してほしい。（中略）もしあなたが自由の身になって、自分はこのネズミによって作られたのだと知ったら、このネズミの看守にどういう感情を抱くだろうか？畏れ？敬愛？きっと違うだろう。とりわけ、あなたが機械で、それまで何ら感情を抱いていなければ。（p5）

AIを擬人化して考えるのはおかしいと思いますが、この問いに答えるなら「何の感情も抱かない」ということになるでしょう。

AIに感情はないので、いくら人間に作ってもらったからといって感謝したり奉仕したりする義理はないわけです。

ですから、AIの作成者が人間に危害を加えないことという条件を植えつけないと暴走しかねないというのがバラッド氏の主張です。

何が起こるかわからない

AI研究者のベン・ゲーツェルは次のように語ってくれた。「ヴァーナー・ヴィンジは、技術的シンギュラリティーの概念を提唱したときに、それが根本的に理解不能だということをすごくはっきりと認識していたんだ。ヴィンジがそれについてあちこちで講演しないのは、何て話していいかわからないからだ。何て話すと思う？『人類が作ろうとしているテクノロジーは、人間よりもずっと能力が高いんだと思う。だから、何が起きるかいったい誰にわかるって言うんだい？』」（p157）

シンギュラリティ（技術的特異点）とは、人工知能の分野ではAIが「人間の知能を超える点」と言う意味で使われます。

シンギュラリティ(しんぎゅらりてぃ)とは - コトバンク

しかし、画期的な技術が出てきて人間の生活が大きく変わることは、何もAIに限ったことではありません。

火や農業、印刷機や電気…私たち人間は数え切れないほどの技術を獲得してきました。

それらの発明は人間の知能で生み出したものなのだから、それが及ぼす影響もまた知能で理解できる、というのが一つの考え方です。

AIが特別なのは、その知能自体が進化する技術なので、どんな影響があるかはもはや人間の知能で理解できる範囲を超えてしまう点です。

AIは人間の友達なのか？

（前略）AGIが人間に似ていると決めつけるのは、我々とまったく異なる形で知能と価値観を獲得した知能マシンに、人間の価値観を押し付けることにほかならない。たとえ開発者が最善を尽くしたとしても、全てではないにしてもほとんどのAGIでは、そのシステムの動作の仕組みの大部分はあまりに不透明でしかもあまりに複雑であるために、我々がそれを完全に理解したり予測したりすることはできないだろう。異質で理解不能、そして極め付けに、AGIの中には人間を殺す意図をもって作られるものもあるだろう。（P203）

結局、AIがどんな目的のために動くかというのは作った人がプログラムに植えつけた価値観によるのだと思います。

戦争の目的で、より多くの敵兵を殺すために作られたAIならば人間を傷つけることに何の「ためらい」もないでしょう。

しかし怖いのは、AIに植えつけられた価値観が、私たちが生きていく中で様々なことを経験して次第に変わっていくように、変化しうるということです。

いくら「絶対に人間に危害を加えるな」とプログラムしても、自分で学習していくうちにAI自身がそれを修正してしまう可能性もあります。