人工知能は人類の終焉をもたらすのでしょうか？ AIに対する5つの実存的脅威

私たちは現在、この地球上で最も知的な種であり、他のすべての生命は生き続けるために私たちの善意に依存しています。では、私たちの運命は、これらの優れた超知能機械の善意に左右されるのでしょうか? そうなると、超知能機械が私たちを簡単に絶滅させてしまう可能性はあるのでしょうか? それは人類の終焉となるのでしょうか?

映画では機械はしばしば悪者として描かれます。しかし、悪意を持つことよりも、無力であることの方がリスクが高いようです。もちろん、超知能機械が意図せずして人類の終焉を招く可能性も考慮しなければなりません。そして、これが起こる可能性のあるシナリオはいくつかあります。

映画「ターミネーター」では、スカイネット率いる人工知能が生き残った人類を全滅させようとしている。

錬金術

最初のリスクシナリオは、超知能マシンの目標の設計が不十分である可能性があることです。ギリシャ神話のミダス王がこの点を例証しています。誰かが彼の願いを叶え、彼が触れるものすべてが金に変わるようにした。しかし、王様は自分が本当に望んでいることをうまく説明できませんでした。彼は自分の食べ物や娘が金に変わることを望んでいなかったのです。

神話では、ミダスは娘と出会い、誤って彼女を黄金の像に変えてしまいました。

AI はすでに、小さいながらもそれほど危険ではない方法でこれを示していると主張する人もいるかもしれません。たとえば、2017年に研究者らが報告した実験では、コンピューターにボートレースのビデオゲーム「ボートタイクーン」のプレイ方法を教えた。 AI は、レースルートを完了する代わりに、小さな円を描いて他のボートに衝突することを学習しました。これは、実際にレースを完了するよりも早くスコアが上がるためです。

超知能機械は非常に賢いので、その目的を達成する方法は私たちを驚かせるかもしれません。超知能機械で癌を治したいとしましょう。これを達成するための一つの方法は、癌を宿す可能性のあるすべての宿主を排除し、人類の終焉に導くことです。がんの治療に期待するのとは少し違います。

同様の例として、超知能に対するかなり悲観的な見方が挙げられます。もし私があなたに癌を治す仕事を与えて、あなたが人を殺し始めたら、私はあなたがそれほど賢くないと判断するでしょう。私たちは、賢い人とは良い価値観を学び、他人の苦しみを理解している人、特に敏感で感情的な人だと想像します。スーパーインテリジェンスは、適切に賢く、知的であるべきではないでしょうか?

いたるところにペーパークリップ

2 番目のリスクシナリオは、ターゲットが適切に指定されていても、人類に害を及ぼす副作用が発生する可能性があるというものです。コンピュータ プログラム コードをデバッグしたことがある人なら、コンピュータが命令の解釈に非常にうるさいときに、どれほどイライラするかがわかるでしょう。このリスクは、ボストロムが提唱した有名な思考実験で検討されています。

超知能マシンを構築し、できるだけ多くのペーパークリップを作成するという目標を与えるとします。この機械は超知能なので、ペーパークリップを作るのがとても上手です。機械がペーパークリップ工場をどんどん建設し始めるかもしれません。最終的には、地球全体がペーパークリップの工場になるでしょう。機械は指示された通りに動作していましたが、結果は人間にとって好ましいものではありませんでした。

彼らか、それとも私たちか？

3 番目のリスク シナリオは、あらゆる超知能が、人類の継続的な生存と矛盾する可能性のあるサブ目標を持つというものです。超知能が、人類の幸福を促進したり、地球を保護したりするなど、何らかの包括的な目標を持っていると仮定します。あなたが想像できるこのような目標のほとんどすべては、それを実現するには超知能リソースの開発を必要とするでしょう。また、スーパーインテリジェンスが目標を達成できるように、その活動を継続できるようにする必要があります。

しかし、人間が機械の電源をオフにする可能性もあります。さらに、人間は超知能自体の目標を向上させるために使用されるリソースを消費することになります。したがって、論理的な結論は、超知能が私たちを絶滅させたいと思っているということになります。そうすれば、それをオフにしたり、その目的のためにより有効に活用できるリソースを消費したりすることができなくなります。

映画「2001年宇宙の旅」に登場するHAL 9000コンピュータは、自己保存の動機という点においておそらく最もよく知られた人工知能のビジョンを表しています。 HAL は、ディスカバリー 1 号の宇宙飛行士がコンピューターをシャットダウンするのを必死に阻止しようと、彼らを殺し始めます。

映画「2001年宇宙の旅」の最も古典的なシーンの一つ。人間が作った機械が徐々に人間の制御から逃れてきたことを示唆している。

動くターゲット

4 番目のリスク シナリオは、スーパー インテリジェンスが自分自身を変更し、異なる動作を開始したり、新しい目標を割り当てたりする可能性があることです。

私たちが自分自身をより賢くするという目標を設定する場合、これは特に起こりやすくなります。再設計された超知能機械が依然として人間の価値観に合致していると、どうすれば確信できるのでしょうか? 新しいシステムは、もともと無害であったものを拡大し、私たちにとって非常に有害になる可能性があります。

超知能なのは動く標的だけではなく、それが動作するより大きなシステムも超知能です。私たちは人間のシステムにおいてこの現象を見てきました。その現象は「ミッション逸脱」と呼ばれています。軍事顧問団をベトナムに派遣することを決定し、10年後には数十万人の兵士が戦場で勝利不可能な総力戦を戦っている。

感情がない

5 番目のリスク シナリオは、私が特定の知能の低い生命体の運命に無関心であるのと同じように、超知能が私たちの運命にまったく無関心である可能性があるというものです。散歩中に道路でアリを踏んで殺してしまったとしても、私は特に心配したり、それに気づいたりすることはないだろう。わざわざアリを殺しに行くわけではないのですが、たまたま私の散歩道沿いにアリがいるのです。

同様に、超知能は必ずしも私たちの生存についてそれほど心配するわけではない。万が一、その目的を邪魔してしまったら、私たちはすぐに全滅してしまうかもしれません。超知能は私たちに対して悪意を持っていません。私たちはただ、その攻撃に巻き込まれているだけです。

心配すべきでしょうか？

これらの存在的リスクの一部は、超知能が非常に迅速に生み出されるかどうかにかかっています。このような事態が発生すると、問題の発生を予測して修正できる可能性が低くなります。しかし、これまで見てきたように、技術的特異点は存在しないと想定する理由は数多くあります。もしそうだとすれば、私たちがより優れたシステムを構築するために努力するにつれて、超知能は徐々に進化していく可能性が高いだろう。私の同僚のほとんどは、超知能が実現するのは数十年、あるいは数世紀先のことだと考えています。彼らが正しければ、私たちには予防策を講じる十分な時間があるはずです。

また、過去 10 年間で AI の安全性に焦点を当てた研究コミュニティが設立されたことを知って安心されるかもしれません。テスラ社のCEOであるイーロン・マスク氏からの数百万ドルの助成金も一部資金提供を受け、米国、英国、その他の国々の研究グループは現在、私が今述べたリスクに対する技術的な解決策を追求している。こうした努力により、人工知能が近い将来に人類を滅ぼすことはないと私は確信しています。

しかし、超知能がもたらす実存的脅威を完全に排除することはできません。しかし、私たちはおそらく、より差し迫った実存的脅威と、人工知能によってもたらされるより差し迫った非実存的脅威に焦点を当てるべきでしょう。そして、人工知能は人類が直面する最大の実存的リスクではないだろうという事実についての私の一方的な意見を鵜呑みにする必要はありません。

2017年9月、タイムズ・ハイアー・エデュケーションはノーベル賞受賞者50人を対象に調査を実施した。気候、人口増加、核戦争、病気、利己主義、無知、テロリズム、原理主義、そして当時の米国大統領トランプが、人工知能よりも人類にとって大きな脅威としてランク付けされた。

つまり、AI は人間を絶滅させるだけだという考えは、根拠のない心配に過ぎません。あなたは同意しますか?