人類は人工知能のせいで滅びるのか？ホーキング博士の最後の論文にヒントがあるかもしれない

[[251536]]

「完全な人工知能の開発は人類の終焉を意味するかもしれない...人工知能は自ら進化し、ますます速いペースで自らを再設計するだろう」世界的に有名な物理学者スティーブン・ホーキング博士はインタビューで、生物進化の遅いペースに制限される人間は競争することができず、取って代わられるだろうと語った。

ホーキング博士（1942年1月～2018年3月）は、職業上は理論物理学者および宇宙学者であったが、地球温暖化、政治、哲学など、他の多くの問題についても自身の見解を表明していた。しかし、彼が過去に述べた物議を醸した発言のほとんどは、人類の未来に対するテクノロジーの危険性についてのものだった。人工知能が人類に及ぼす脅威はかつて彼が警告したものの一つだった。ホーキング博士の最後の論文は、家族や同僚との共同執筆で今年10月16日に発表された。ホーキング博士は最後のエッセイの中で、テクノロジーが人類にもたらすリスクなどについて論じた。

ホーキングの予言の背後にある真実

数え切れないほどの理論天体物理学者や宇宙学者にインスピレーションを与えてきたホーキング博士は、人工知能の脅威について常に警告してきた。彼の最後の著書『大きな疑問への簡潔な答え』（Hodder & Stoughton、2018年）では、人工知能からエイリアンまであらゆるテーマを取り上げています。

「スーパーマン」

しかし、彼が語った最大の話題の一つは、超人が平均的な人間に取って代わるということだった。彼が言う「超人」とは、人間を「遺伝子操作で作り直す」ことを意味している。彼は将来の人類の遺伝子編集と現在の人類の完全な滅亡について語った。遺伝子のレベルを変えるためのCHRISPR-Cas9はすでに存在します。彼は、人類が遺伝子工学の驚異を利用して知性や攻撃性といった難しいものを変える方法を見つけ出すだろうと考えており、それが実現するまでにそれほど時間はかからないだろう。また、病気に対する抵抗力を高め、寿命を延ばす効果もあると考えられます。また、心臓病を治療するために胚の遺伝子を改変する可能性を示す研究も行いました。

遺伝子工学のこうした進歩は、ホーキング博士に人類の将来を不安にさせており、最終的には普通の人間の世界にとって脅威となるだろうと考えている。彼はこう書いている。「そのような超人が現れると、未発達の人類は競争することができず、大きな政治的問題が生じるだろう。おそらく彼らは絶滅するか、重要ではなくなるだろう。その代わりに、自己設計する種族が現れ、ますます急速に発達していくだろう。」

人工知能が自然災害を引き起こす？

同氏の論文ではまた、将来人工知能が人間の意志と衝突する独自の意志を確立する可能性は、今後1000年以内に大規模な環境災害や核戦争が「地球を麻痺させる」ことを意味するとも述べている。今日、多くのコンピューター科学者は、人工知能から意識が生まれると信じています。

超知能

過去に、Google は AutoML と呼ばれるプロジェクトで AI システムを開発しました。このシステムは、作成者自身のパフォーマンスを上回る独自のサブ AI を作成しました。これには AI がその仕組みを理解する必要があり、それが可能性であるため、将来 AI 意識の出現に注目しておくとよいでしょう。

ホーキングは、人間の知能を再現するだけでなく、人間の知能を拡張することができる超人的な人工知能の出現を懸念している。同氏は、この技術は人間を超え、人間ができることをやるだけでなく、学習し、成長し、最終的には能力において人間を超えるだろうと述べた。彼は著書の中で、人工知能は今後100年以内に人間の知能を超えるだろうと述べた。しかし、人間は AI が人間と同じ目標を持っていることを確認する必要があります。

[[251537]]

映画「アイ，ロボット」では、ロボットに残された未来の世界が描かれています。この映画は、AI が世界を支配し、人類を奴隷化する可能性について否定的な見方をしています。

AIについて警告した人々

起業家のイーロン・マスク氏も、人工知能が人類に脅威をもたらすと考えている。同氏はロボットの台頭を阻止したいと願い、ホーキング博士との公開書簡に署名した。ローリングストーン誌によると、彼は自身の神経技術会社ニューラリンクの従業員に人工知能に関するドキュメンタリーを見せた後、「（AIを安全にできる）可能性はおそらく5～10％だ」と語った。

ワールド・ワイド・ウェブの発明者ティム・バーナーズ＝リー氏は、人工知能が自ら企業を設立し経営することで新たな「宇宙の支配者」になるという恐ろしいシナリオについて会議で語った。良い例は、アメリカのテレビ番組「ブラック・ミラー」の「メタルヘッド」というエピソードです。

ビル・ゲイツ氏はBBCとのインタビューで人工知能の潜在的な脅威についての考えを語った。 「数十年経った今、その情報は懸念すべきほど強力になっている。私はイーロン・マスク氏や他の人たちの意見に賛成だ。なぜ一部の人々がこの問題を気にしないのか理解できない」と彼は語った。

AIの未来

人類が歴史を通じて作り出してきたあらゆる技術は、良い影響か悪い影響のどちらかをもたらしてきました。それが脅威となるか、助けとなるかは私たち次第です。しかし、人工知能の世界はまったく別の世界です。ホーキング氏が提起する脅威は現実のものであり、文明として私たちは、自分たちが制御できなくなるほどに脅威が拡大しないように細心の注意を払う必要がある。