Stephen Hawking: Artificial Intelligence could spell end of human race ― RT UK
World-famous physicist Stephen Hawking told the BBC he believes future developments in artificial intelligence (AI) have the potential to eradicate mankind.
The Cambridge professor, who relies on a form of artificial intelligence to communicate, said if technology could match human capabilities “it would take off on its own, and re-design itself at an ever increasing rate.”
He also said that due to biological limitations, there would be no way humans could match the speed of development of technology.
“Humans, who are limited by slow biological evolution, couldn't compete and would be superseded,” he said.
“The development of full artificial intelligence could spell the end of the human race.”
ホーキング博士「人工知能は人類の脅威になりうる」と警告 地球外惑星移住も提案
BBCのインタビューに対して、ホーキング博士は今までに開発された原始的な形態の人工知能は非常に役立つものだとの見解を示したが、人間の能力を超えるようなものを創造することへの結果については脅威を感じていると述べた(12月2日)。
それに対して、BBCは人間と会話するために人工知能型のアルゴリズムを使用したアプリ・クレバーボットを開発したロロ・カーペンター氏や、ロケット製造企業スペースXのCEOであるイーロン・マスク氏の言葉を引用して、短期的には人間の職を奪うという懸念、長期的には存在を脅かす脅威としての人工知能の可能性を示した。
12月2日のフィナンシャル・タイムズ紙では、人工知能だけでなくテクノロジーには利点がある反面、破壊的な要素があると警告し、人類の存続を考えるのなら、地球外の惑星への移住を視野に入れるべきとホーキング博士が提案したことを伝えている。
「私達は、自分たちの生存において数々の脅威に直面している。核戦争、壊滅的となる地球温暖化、遺伝子操作されたウイルスなど。その数は、新しい技術の発展とともに将来に増える見込みが高く、新しい方法では物事が悪い方向に向かう可能性がある」。
「私達が長い将来を望むのなら、地球という惑星を超えて展望を拡大させる必要がある。宇宙やほかの星へと広がることで、地球での惨事が人類の終焉とならないように。自給自足できるコロニーを設立することは時間と努力を必要とするが、私達のテクノロジーが改良されるにつれ容易になるだろう」。
BBCのインタビューを受けて、ザ・カンバーセイションのオーストラリア版が、モナシュ大学クレイトン情報技術スクール准教授デイビッド・ダウ氏による寄稿文を12月4日に掲載した。
准教授によれば、すでに機械が人間の能力を上回っており、航空管制システムや誘導ミサイル、そして最新の自動運転車などを挙げた。問題は、それらが不具合を起こしダメージを与えた場合に、責任はいったい何に帰するのかということだ、と問いかける。
また、コンピューターのエラーについて指摘し、今後ますますコンピューターが高速化・最小化すれば、エラーの検知や修復、それどころかコンピューターを止めることすら難しくなるかもしれないと指摘する。
このような提案で、もっと人々がこの問題について議論することを彼は提案している。
人工知能が進化「人類滅ぼす」 ホーキング博士、開発に警告 - 産経ニュース
まさに、反乱を起こしたAIが人類を滅ぼそうとする米SF映画シリーズ「ターミネーター」や、AIとして生まれ変わった科学者が驚異的な進化を遂げる今年公開の米英中合作「トランセンデンス」の世界だ。
博士は5月にも英紙インディペンデントへの寄稿の中で、このトランセンデンスを例に挙げ、「SF映画と片付けることは人類にとって史上最悪の間違いだ」とし、「その危険性を回避する策を学ばなければならない」と警鐘を鳴らしていた。
マスク氏も「AIの進化でロボットが人間を殺し始める。AIの進化の速度は信じがたいほど早い。深刻な危機が5年以内にやってくる。私はデタラメを言っているのではない」と書き込んだが、名うてのIT起業家の発言は米国に波紋を広げ、マスク氏は数時間後に投稿を削除した。
http://d.hatena.ne.jp/d1021/20141202#1417517187
http://d.hatena.ne.jp/d1021/20141202#1417517189
http://d.hatena.ne.jp/d1021/20120801#1343829545