■

なぜ人工知能は哲学的に危険なのか｜いま世界の哲学者が考えていること｜ダイヤモンド・オンライン

人工知能の研究は、1950年代から始まり、過去2回のブームを経て、現在は第3段階に立っている、と言われています。過去2回のブームでは、あらかじめコンピュータに規則や推論、知識などを教え込み、そこから現実世界の具体的問題を解決しようと目ざしていました。

しかし、具体的な状況は、決して一律ではなく、例外もあれば、偶発的な出来事も生じます。日常生活での会話を考えてみれば分かりますが、現実はきわめて変化に富み、規則的に行われることがありません。とすれば、そもそも人間の知能に匹敵する人工知能を作製できるのか、と不審に思うでしょう。

しかし、今日、こうした状況が大きく変わろうとしています。

こうした最近の人工知能は、従来型とは違って、多様に変化する具体的な状況から出発し、いわば自律的に学習していくように見えます。そのため、「機械学習」とか「ディープラーニング」などと呼ばれていますが、これによって人工知能の能力が飛躍的に向上しました。

そして、こうした人工知能が自律的に学習するに当たって、情報として与えられたのが「ビッグデータ」に他なりません。インターネットによって集められた「ビッグデータ」を、人工知能は「ディープラーニング」するための素材とするのです。情報量が膨大ですので、人工知能は突然の変化や例外にも適切に対応できるわけです。

こうして、今、ビッグデータを背景にして、人工知能研究の爆発的な発展が、引き起こされようとしています。

スウェーデン出身のオックスフォード大学の哲学者ニック・ボストロムは、2014年に『スーパー・インテリジェンス 道行き、危険、戦略』を出版しています。ビル・ゲイツが「この本を強く推薦する」と述べたこともあって、ボストロムの書物は大きな波紋を惹き起こしました。その中で彼は、次のように語っています。

いつか私たちが、一般的知性において人間の脳を凌駕する機械の脳をつくるならば、その時にはこの新しいスーパー・インテリジェンス（超知性・超知能）はきわめて強大になるだろう。そして、ゴリラの運命が今、ゴリラ自身というよりも、私たち人間にいっそう依存しているように、私たち人間という種の運命も機械のスーパー・インテリジェンスのアクションに依存することになるだろう。

つまり、人間の知性（知能）を超える機械の「スーパー・インテリジェンス」が、「技術的な特異点」において出現するわけです。こうした予想は、荒唐無稽な妄想というべきでしょうか。しかし、人工知能の発達を顧みると、あながち間違っているとは言えません。

人工知能が脅威となるとき、根本にあるのは、それが人間から「自立化・自律化」することにあります。

#AI