• AI

人類滅亡を警告!ホーキング博士がAIの危険性を訴えたワケ


先日、イギリスの宇宙物理学者のスティーヴン・ホーキング博士が亡くなりました。‎筋萎縮性側索硬化症という難病と闘いながらブラックホールの研究などを行い、アルベルト・アインシュタイン以来最高の天才と称されたホーキング博士。博士は、今日台頭する人工知能(AI)の危険性について、早くから警鐘を鳴らしてきました。

AIの台頭を「人類史上最悪の出来事」としたホーキング博士は、AIの何に危険性を見出していたのでしょうか。

 

 

AIの不確実性というリスク

 

まず、ホーキング博士が危険視したのがAIの不確実性です。マシンラーニングなどでAIが進化すると、結果的に人間の能力を超える可能性があります。碁や将棋の世界では既にAIの能力が人間をはるかに上回っていますが、ホーキング博士は次のように主張します。

「人工知能の開発は、人間文明の歴史において最大のイベントです。もしかすると、最悪のイベントかも知れません。今のところ、そのどちらであるかはわかりません。しかし、AIの進化に対応し、想定されるリスクを回避出来ないと、AIの登場は人類史上最悪の出来事になります。強力な自動殺人兵器など、我々を脅かす存在になる可能性が大いにあります。経済的にも大きなダメージを与えるかも知れません」

人間がコントロールできる範囲を越えてAIが進化をすると、AIが人間に危害を加えるリスクが生じる。何をしでかすかわからないAIの危険性を、博士は訴えたかったのでしょう。

 

 

進化し続けるAI

 

ホーキング博士はまた、AIが進化し続ける事の危険性も指摘します。

「(進化を続けるAIは)やがて自発的に動き出し、自らを再設計し始めるでしょう。それもものすごいスピードで、です。一方で人間は、生物学的な進化の速さという点では限定的です。AIとは比べ物にならず、いずれ追い越されてしまうでしょう」

現在、人間が地球の支配者でいられる理由は、現存するすべての生物の中で人間の頭脳が最も優れているからです。人間が生物の進化の頂点にいて、他の生物から存在を脅かされないから人間は生存できるのです。

一方で、AIが人間を超え、この地球上で最も優れた頭脳を持つ存在になってしまったらどうなるでしょうか。これまでの地球の歴史を振り返るに、AIが人間を自らの支配下に置く可能性が高いでしょう。一般論としては、自分より能力が劣る種に永遠に支配され続ける種は少ないと考えられます。なお、ホーキング博士は、AIを「新たな生物の種」と断じています。

 

 

イーロン・マスクもAIの危険性を指摘

 

著名起業家のイーロン・マスク氏もAIの危険性を指摘しています。マスク氏は特に、AIが軍事目的で利用される事の危険性を指摘します。AIが搭載された殺人ロボットが自己完結的に進化を続け、人を殺すという目的を最大化するために動き出したら大変なことになります。映画「ターミネーター」で描かれた悪夢が、現実のものとなるのです。

自ら最先端のAI技術に接しているというマスク氏はまた、AIが暴走する危険性も訴えます。機械が一定の頻度で必ず故障するように、AIが暴走する可能性は必ずあります。進化を極めたAIが暴走した場合、人間に止められる術はあるでしょうか。

 

 

人類は歴史的転換点に

 

ホーキング博士は、AIはいずれ「自分の意思を持つ」と予言しています。自分の意思を持ったAIが、人間にとってどのような存在になるのか、神のみぞ知る世界なのかも知れません。

AIが果たして人間の善きパートナーとなるのか、あるいは脅威となるのかはわかりません。いずれにせよ、私たちは現在、人類の歴史における大きな転換点にいる事は間違いないでしょう。AIの普及が進む今こそ、私達一人ひとりが、AIが持つリスクを認識しておく必要があるでしょう。

 

 

株式会社キャパでは、アプリの企画・開発についてご相談を承っています。

アプリを作りたいので、具体的な提案が欲しい。頭の中にあるアイデアを本当に実現できるのか知りたい。予算内に収まるのか?
などのお客様のご相談に、親身に応じます。
アプリ開発:実績のご紹介

 


関連記事一覧

  1. Alexa skill
we love develop
アプリやシステムの開発を通じて、お客様のビジネスを成長させることが私たちのビジネスです。お気軽にお問い合わせください。
 お問い合せ

お電話でのお問い合わせはこちらから
TEL:03-5297-2871

メールマガジンの登録

キャパでは誰かに話したくなるようなIT小ネタを、週に一回メルマガで配信しています。
ぜひ購読してみませんか?
 購読する

記事カテゴリ記事カテゴリ

月別投稿記事

PAGE TOP