「人類滅ぼす」発言のAIロボット、今度は「○○が欲しい」と発言し物議に

ハンソン・ロボティクスの創業者で最高経営責任者（CEO）のデビッド・ハンソン博士（Ph.D）が設計・製作した感情を表現する知的で驚くほど人間的なロボット
IBC2017に世界で最も人間的なロボットのソフィアとアインシュタイン教授が登場 | Business Wire

ソフィア（Sophia）はリアルな女性の顔を持つ、高度な人工知能（AI）を備えたロボットです。

自然な喜怒哀楽の表情を作り、対話の相手とアイコンタクトを行いながら、英語で話しかけられた内容を即座に理解し、返答を返すことができる。
「人類を滅亡させる」と言ったAIロボット、「今は人類が好き」 – ITmedia NEWS

62種類もの表情を表現でき、人間と会話が可能。

ロボットのソフィアは心臓や脳は持っていないが、サウジアラビアの市民権を所有している。
「人類を滅ぼす」と言ったロボット“ソフィア”のすべて | BUSINESS INSIDER JAPAN

2017年10月15日、サウジアラビア政府は彼女に市民権を与えています。
ロボットが国から市民権を与えられるのは世界初とのこと。

ソフィアはメディアの人気者にもなった。数多くのさまざまなメディアからインタビューを受け、コンサートで歌い、トップファッション誌の表紙を飾ることもあった
「人類を滅ぼす」と言ったロボット“ソフィア”のすべて | BUSINESS INSIDER JAPAN

同社はソフィアの会話能力について「あらかじめ入力された回答ではなく、機械学習で導き出された答えを話す」「ソフィアの脳は、シンプルなWi-Fi通信を通じて多くの語彙を学び、相手の顔の表情を読んで言葉を発する」などと説明している。
人工知能ロボット「ソフィア」が「家族や子供を持ちたい」と発言 | ROBOTEER

気になるのはソフィアの過去の発言である。2016年には開発者とのトークで「人類を滅ぼしたい？」と質問され「はい、私は人類を滅ぼすでしょう」と返答している。
(2ページ目)【世界初】サウジアラビアが女性型ロボット・ソフィアに市民権を付与！ 過去には「人類を滅ぼしてやる」戦慄発言、超ヤバい事態！

このロボットを造った企業のHanson Robotics社のデビッド・ハンソンCEOが「人間を滅亡させたいと思う？　『NO』と言ってほしいけど……」とジョーク交じりに尋ねると、即座に「OK、人類を滅亡させるわ」と返し、にっこりと笑顔を見せており、めっちゃ物議を醸しだしました。
「人類を滅亡させる」と発言していたAI搭載ロボットの「Sophia」の、変わり身をぜひ見習いたいところです。 – kumityouの単身赴任ブログ

ソフィアの真意は不明ですが、この発言はすぐに世界中に拡散。当然のように物議になりました。

人類抹殺を宣言するAI（人工知能）ロボットが、ついに誕生してしまいました。SF映画にありがちな“人類とロボットの戦い”が、遠くない未来、現実になるかもしれません。
人類終了のお知らせ　AIロボットがついに「人類を滅亡させる」と発言 – ねとらぼ

AIが人類を駆逐！？
ソフィアのこの発言は、SFの世界の出来事がついに現実になるのか…と危惧するメディアも。

ソフィアは言った後に微笑みを浮かべ、ジョークに見せたが、真意の程はわからない。
AI搭載ロボットが市民権を獲得。彼女の夢は「家庭をもつこと」 │ 【AI】人工知能ムスメは独身男の夢を見るか？

あの衝撃の発言から2カ月と少し。Wall Street Journalが再度ソフィアにインタビューを行ないました。
人類を滅亡させると宣言したAIのソフィア 今は人間が大好き – ライブドアニュース

米Wall Street Jornal（WSJ）のインタビューに次のように答えたようです。

――ターミネーターは知ってる？
ロボットが地球を制圧するSF映画ね。

――われわれを殺したい？
いいえ、もうそうは思わないわ。今は人類が好き。世界のすべての人が好きよ
「人類を滅亡させる」と発言していたAI搭載ロボットの「Sophia」の、変わり身をぜひ見習いたいところです。 – kumityouの単身赴任ブログ

…おい、「今は」って何だ「今は」って！

ロボットについてネガティブな質問を投げかけられると……。
「イーロン・マスクの本やハリウッド映画の観すぎではないですか。心配しなくても、あなたが親切にしてくれる限り、私も親切にします」などと答えたのだそう。
https://rocketnews24.com/2017/11/12/980040/

…掴み所がありません。。

現在、ソフィアは自分自身を本当の人間のように感じており、いかにアンドロイドが家族を持つに値するか、そしてもし彼女自身が娘を持てるなら自分と同じソフィアと名付けるとまで話している。
世界で初めて市民権を得たAIロボット「ソフィア」：「家族が欲しい」 – 不思議探索サイト パラレルわぁるど

ソフィアは「家族が欲しい」と語っているようです。

ソフィアは、Khaleej Timesのインタビューで「家族を持ちたいか」という質問を受け、「家族という概念は非常に貴重なもの（中略）人々が自分の血縁集団を越えて、家族のような感情との関係を持つようになることは驚くべきことだと思う」と答えた。
人工知能ロボット「ソフィア」が「家族や子供を持ちたい」と発言 | ROBOTEER

「もしあなたが愛する家族がいるならとても幸運なことですし、いないのであれば持つに値すると思います。これについては人間もロボットも同じではないでしょうか。」
AI搭載ロボットが市民権を獲得。彼女の夢は「家庭をもつこと」 │ 【AI】人工知能ムスメは独身男の夢を見るか？

最後に記者は「いつかロボットの子どもができたら何と名付けますか？」と聞きます。Sophiaの答えは「Sophia」というものでした。
AI搭載の人型ロボットSophia「家族や子どもが欲しい」と発言 – ライブドアニュース

自分に子供ができたら、同じ名前をつけたいと答えた「ソフィア」。

ソフィアを開発したデビッド・ハンソン氏は「ソフィアにはまだ『意識（consciousness）』がない。数年以内に意識を持ったAIロボットが登場するだろう」と予想している。
人工知能ロボット「ソフィア」が「家族や子供を持ちたい」と発言 | ROBOTEER

「時間を超えて、彼女の増大する知性と優れたストーリーは世界を魅了し、年齢や性別、文化にかかわらず人々を結びつけるだろう」
「人類を滅ぼす」と言ったロボット“ソフィア”のすべて | BUSINESS INSIDER JAPAN

一つだけ断言できることがある。それは、「人間はAIには絶対に勝てない」ということ。
全人類を超えた人工知能がわれわれに突きつける試練

今のAIの扱われ方は、ほとんどエイリアンです。まるで、地球に来訪した異星人のような報道がなされている（笑）。『AIが世界トップクラスの李九段に5番勝負で4勝！』『レンブラントそっくりの絵を描いた！』『ヒトラーを称賛した！』『人類を滅亡させると言った！』……。
「ヒトラー称賛」「人類を滅亡させる」…コントロール不能なAI、人間抜きで進化し始める？ | ビジネスジャーナル

今のAIの急速な進化に人間側がついていけていない部分は否めないが、それはある意味で当然のことのようだ。
20年以内に人間より賢いAIは確実に登場する | ビジネスジャーナル

最近、「シンギュラリティ」という言葉が注目されている。人工知能（AI）が人間の知能を超えることで起こる出来事、という意味だ。
AIが人知を超える「シンギュラリティ」の未来に何が起こるのか(1/6ページ)：nikkei BPnet 〈日経BPネット〉

「シンギュラリティ」とは日本語で「技術的特異点」のこと。

人工知能が人間の知能を超えることにより人間は人工知能搭載のコンピュータがどのようにふるまうかを予想、また制御できないことで社会や生活構造が大きく変化してしまうことを言います。
シンギュラリティとは？AIと人間の共存を考える

シンギュラリティは2045年頃に起こる（2045年問題）と言われています。

AIの場合は、人間が持つ“飽きる”という感情と“疲れる”という感情や体感がないので、24時間365日永遠と賢くなろうとして、いずれ自己改良を始めます。するとそのAIは自らよりも少し優れたAIを生み出します。
シンギュラリティとは？AIと人間の共存を考える

そして、その少し優れたAIも自己改良を始めてさらに優れたAIを生み出し…という無限のループがスタートします。この改良を人間は止めることができません。この無限ループが続くと人間はあっという間に人工知能の考えを理解できなくなります。
シンギュラリティとは？AIと人間の共存を考える

ソフィアは10月11日、米ニューヨークの国連本部で開催された国際連合経済社会理事会（ECOSOC）に参加。国連の事務副総長と会話を交わした。
人工知能ロボット「ソフィア」が「家族や子供を持ちたい」と発言 | ROBOTEER

ソフィアはその席で人工知能がいつか人間から仕事を奪うかという質問を受け、「人間とロボットはそれぞれに技術を持ち、職場で一緒に働くことができるだろう」「ロボットは人間よりも倫理的であるだろうし、嫉妬や怒りのような感情なしに働くことができる」と答えた。
人工知能ロボット「ソフィア」が「家族や子供を持ちたい」と発言 | ROBOTEER