知らないとヤバい！映画マトリックスの世界はそこまで来ていた…AIとVRによる人類支配

ムーアの法則というのをご存じだろうか。インテル社の創業者のゴードン・ムーアが提唱したもので、LSI（集積回路）に集積できるトランジスタの数は，１年半ごとに２倍になるというものだ。言い換えれば、半導体のメモリの容量は指数関数（ねずみ算）的に増えていくということ。
AIが人類を超えたらどうなるの？ 話題の「シンギュラリティ」について説明します ｜TIME＆SPACE by KDDI

つまり、テクノロジーがとんでもなくスピードアップしていて、今後数十年で過去何百年分、何千年分の急激な進歩を成し遂げるというのだ。下のグラフは、コンピュータの進歩がどれほど指数関数的かを示したもので、これによるとちょうど2045年ごろに、コンピュータはすべての人間の脳に匹敵する能力を持つことになっている。その瞬間をレイ・カーツワイルは「シンギュラリティ（特異点）」と呼んだのだ。
AIが人類を超えたらどうなるの？ 話題の「シンギュラリティ」について説明します ｜TIME＆SPACE by KDDI

AIと生物の違いとして第一に考えられるのは、存在目的の有無です。それはルンバであれば室内を掃除することであり、鉄腕アトムであれば地球の平和を守ることです。
将棋で勝つこと、恋人役をすること、不審な人物をピックアップすること、渋滞しない交通システムをデザインすること…、存在目的は多岐にわたります。複数のミッションを担うことも、AIがAIを創造することも可能です。
人工知能と承認欲求　その１ – 承認欲求の考察

「優れた学習能力をもつイチゴ摘みロボットがあったとしよう」とマスクは続ける。「学習が進めばイチゴ摘みの能力が上がり、たくさんのイチゴを早く摘めるようになる。ロボットはもっとイチゴを摘み、もっと学習し、もっとイチゴを摘みたいと考える。結果はどうなる？ ロボットは世界中をイチゴ畑にしようと考えるだろう」。そして人間の居場所はなくなるわけだ。
人類はAIに支配されるのか──イーロン・マスクは恐怖の未来とたたかう｜メンズファッション、時計、高級車、男のための最新情報｜GQ JAPAN

いざというとき、ネット上のスーパーAIをキルする（止める）究極のキル・ボタンはできないのだろうか？ できたとしても、とマスクは言った。「私自身がそんなキル・ボタンを握るのはご免だな。きっとスーパーAIに見つかって、真っ先に殺されるから」。
人類はAIに支配されるのか──イーロン・マスクは恐怖の未来とたたかう｜メンズファッション、時計、高級車、男のための最新情報｜GQ JAPAN

AIが暴走する危険性は必ずしも排除しないが、もしそうなったら「暴走したやつより賢いAIを味方につけて戦えばいい」と言う。
人類はAIに支配されるのか──イーロン・マスクは恐怖の未来とたたかう｜メンズファッション、時計、高級車、男のための最新情報｜GQ JAPAN

人間を敵としないAI、人間という種の存続（＝その他のAIの破滅、ではない）を目的としたAIを高いレベルで教育しておく必要がありそうです。

「より技術が高度化した未来で、人の知性はAIとしてインターネット上に存在することが可能になるかもしれません」
知性を「クラウド化」し、死から解放される未来｜WIRED.jp

そうなるともはや、新しい生命を作り出す必要性が無くなる気も…

次はいよいよ「肉体を捨てる」という進化を遂げると言われてましてですね…。
「VR(ヴァーチャルリアリティー)」の進化でいずれ人間は永遠の命を手にする。 – シャイニングマンの「勇気を君に」