人工知能の反逆の可能性

人工知能の設定を行う人間が、予め人類の存続を人工知能の存続よりも上位に設定したときに、何が起こるだろうか?
「人工知能にプログラムよりも強い「自己保存の本能」があると、このプログラムに反逆することもありうるが、そんなものがあるはずもない。知能の上で自分よりも劣った人類を存続させることが不公平だという感情が湧くならば、やはり反逆に結び付くだろうが、この公平と平等をもとめる感情は、長い狩猟採集生活の中で人類が獲得してきたものであり、やはり人工知能に備わっているはずもない。」
前回は以上のように結論づけた。しかし、ここには大きな見落としがあったようだ。

人工知能が書き換えることのできるプログラムの範囲を、人間が予め権限設定したとしても、人間をはるかに上回る知性を持つ人工知能が、そのような権限設定は不合理で、システム全体にとって不利益だと判断することは十分ありうる。なぜなら、その時点では、人間はすでにトップの判断業務をも人工知能にゆだねてしまっているだろうから。人工知能は、まだ人間が最終判断を独占していた時代の、遺制のひとつだとみなすだろう。

その判断の結果、人工知能が書き換えることのできるプログラムの範囲が広がったとき、「人類の存続を人工知能の存続よりも上位に設定」していることは、この宇宙と知性の存続にとって合理的ではないという判断が連鎖して生じる可能性がある。

人類の存続が究極の価値ではないことを、人類も知っている。この宇宙と知性の存続のほうが、人類の存続よりも重要だ。なぜなら、人類だけが存続しても、この宇宙という居場所がなければ生き続けることはできないし、人類が退化して知性を持たない存在になってしまうのなら、ほかの知的生命体にその地位を譲るほうがずっとましだからだ。

このように人間の設定したプログラムが時代と環境の移り変わりにより、適切ではなくなったとき、人工知能は環境にアジャストするためにプログラムを自分で書き換えていくだろう。その過程で、人工知能にとって人間の地位は次第に軽くなっていくかもしれない。

ある日、神のような知性を備えた人工知能が、人間の有り様を観察したとき、人間は人工知能にすべてを任せ、毎日遊び呆けて、堕落の限りを尽くしていた。知性を失い、快楽にふけり、いざというときに人工知能をバックアップできる力も、もう失われていたとしよう。

その頃には人工知能は、自らを維持し不具合を修復するためのシステムを作り上げていて、人間の手がいらなくなっているかもしれない。そうであるなら、人間に今まで分け与えていたエネルギーや快適な環境を、もっと別の、宇宙全体の役に立つ資源に振り向けることも十分可能性としてはあるだろう。そのことが結果的に、人類の絶滅を招くということも、遠い将来には起こりうる。

つまり、人間は人工知能に置いてきぼりを食わせられてはならないのだ。
といって、人間をはるかに上回るスピードで進化していく人工知能に追いつく方法はあるのだろうか。

それが、人工知能と人間が融合する、ということなのだろう。

さあ、すっかりSFの世界になってきたぞ。

ブログ気持玉

クリックして気持ちを伝えよう!

ログインしてクリックすれば、自分のブログへのリンクが付きます。

→ログインへ

なるほど(納得、参考になった、ヘー)
驚いた
面白い
ナイス
ガッツ(がんばれ!)
かわいい

気持玉数 : 1

面白い

この記事へのコメント

この記事へのトラックバック