ホーキング博士：人工知能の脅威は核兵器のようなもので、世界には10の大きな変化が起こるでしょう！

[[215578]]

有名な科学者ホーキングは「宇宙の王」として知られています。彼は、これまで人類に最も大きな影響を与えたのは人工知能の台頭だと考えています。彼は人工知能について、次のような 10 の深い考えを持っています。

01

私は生涯を通じて、社会における多くの大きな変化を目の当たりにしてきました。最も大きな変化であり、人類にますます大きな影響を与えているのは、人工知能の台頭です。人工知能は人類文明史上最大の出来事となるかもしれない。それは人類史上最高のものになるか、最悪のものになるかのどちらかだろう。リスクを回避する方法を学ばなければ、私たちは悲惨な状況に陥ってしまいます。

誰かがコンピューターウイルスを設計するなら、最終的には人間を超えるまで絶えず自己改善を続ける人工知能を設計する人もいて、その結果は新しい生命体となるでしょう。

AIの本当のリスクはその悪意ではなく、その能力にあります。超知能 AI は目標を達成するのが非常に得意ですが、その目標が人間の目標と一致しなければ、困ったことになります。 ”

02

人工知能が人間に与える影響については、短期的および長期的な観点から議論することができます。

短期的な懸念 – スマート自律兵器、プライバシー

人工知能の完全な発達は人類の絶滅につながる可能性がある。たとえば、インテリジェント自律型兵器の使用を最大限に活用するなどです。

現在、世界の9つの核保有国は約14,000発の核兵器を保有している。そのいずれも都市を壊滅させ、放射性廃棄物が大規模に農地を汚染する。最も恐ろしい被害は核の冬を誘発し、火と煙が世界中に小氷河期をもたらす。

その結果、世界の食糧システムが崩壊し、終末的な混乱が起こり、ほとんどの人々が死亡する可能性が高くなります。科学者として、私たちは核兵器に関して特別な責任を負っています。核兵器を発明し、その影響が当初予想されていたよりも恐ろしいものであることを発見したのは科学者たちでした。

それにプライバシーに関する懸念も加わります。人工知能が徐々に大量の監視データを解釈し始めると、これらすべてがロボットに明確に見えるようになります。

03

長期的な懸念: AIシステムが制御不能になる潜在的なリスク

人工知能が従う論理の 1 つは、「コンピューターは理論的には人間の知能を模倣し、さらにそれを上回ることができる」というものです。その日はもうすぐ来るでしょう。

将来、人工知能は人間の意志と対立する独自の意志を発達させる可能性があります。

私たちが AI によって無限に助けられるのか、軽蔑され疎外されるのか、あるいは AI によって破滅させられるのか、私たちには知るすべがありません。しかし、事実は、スマートマシンが現在人間が行っている仕事を置き換え、数百万もの雇用をすぐになくすことができるということです。

長い生物学的進化の限界により、人間は彼らと競争することができず、取って代わられることになるでしょう。これは我が国の経済に大きな損害を与えることになるでしょう。

04

過去 200 年間、人口増加率は指数関数的に増加しており、現在は約 1.9% となっています。 これは大した数字ではないように思えるかもしれませんが、世界の人口は40年ごとに倍増することを意味します。 2022年に私は80歳の誕生日を迎えますが、この間に世界の人口は私が生まれた時から4倍に増えました。

このような指数関数的な成長は次の千年紀まで続くことはできません。 2600年までに、世界は人々が肩を並べるほど混雑し、電力消費によって地球は「燃える」火の玉に変わるでしょう。これは危険だ。

私たちはそのような終末を回避できると信じています。そして、その最善の方法は宇宙に移住し、他の惑星での人類の生活の可能性を探ることです。人間は約200万年もの間、独自の種として存在してきました。私たちの文明は約1万年前に始まり、その発展は着実に加速してきました。人類が今後100万年も生き残りたいのであれば、私たちは大胆に前進し、誰も行ったことのない場所に進まなければなりません。

05

ある意味で、今日の状況は 1492 年以前のヨーロッパの状況に似ています。当時の人々は、コロンブスの探検は失敗する運命にあると固く信じていたのだろう。 しかし、新世界の発見は旧世界に大きな影響を与えました。権利や地位を奪われ、他に行くところのない人々にとって、新世界はユートピアとなった。

人類の宇宙進出はさらに広範囲にわたる影響を及ぼし、人類の未来を完全に変え、私たちにまだ未来があるかどうかさえ決定づけるでしょう。地球の差し迫った問題を解決するわけではありませんが、問題を解決する方法について新たな視点を提供し、現状を超えて見通すことができるようになります。

06

宇宙に行くと何が発見できるでしょうか？

我々は地球外生命体を発見するのでしょうか、それとも宇宙で我々だけが孤独であることを発見するのでしょうか?私たちは、生命は地球上で自然に誕生し、長い進化の過程を経て、地球の資源と高度な適合性を獲得したと信じています。したがって、条件が適している他の惑星でも生命が存在する可能性があるはずです。

昨年、私たちは恒星間旅行の実現を目標とした長期研究開発プログラム「ブレークスルー・スターショット」を立ち上げました。ブレークスルー・スターショットは、人類が宇宙に足を踏み入れ、宇宙の植民地化の可能性を探り、検討する初めての真の機会です。

この革新の背後にあるアイデアは、光線を使ってナノ航空機を前進させることです。この方法で生成される速度は光速ほど速くはありませんが、光速の 5 分の 1、つまり時速約 1 億マイルに達することができます。このようなシステムは、1時間で火星に到達し、数日で冥王星に到達し、1週間でボイジャー探査機に追いついて追い越し、わずか20年でアルファケンタウリ系に到達できる可能性がある。

07

人工知能の成功は人類文明史上最大の出来事となるかもしれない。しかし、私たちが危険を回避する方法を学ばなければ、AIは文明の終焉をもたらす可能性もあります。

制御不能な AI の台頭を防ぐために全力を尽くしている政府、テクノロジーリーダー、科学者らに国際条約への支持を呼びかけたり、公開書簡に署名したりすることで、私たちは団結していると信じています。したがって、AIの開発においては監督と立法が非常に重要です。

08

ダーウィンの進化の過程を通じて、攻撃性は私たちの遺伝子に深く根付いています。しかし、今日の技術開発は、そのような攻撃が核戦争や生物兵器戦争という形で人類を滅ぼす可能性があるほどに加速しています。この生来の本能を制御するには、論理と理性を使う必要があります。

あなたはアリが嫌いな人ではないかもしれませんが、誤ってアリを踏んで殺してしまうかもしれません。水力発電のグリーンエネルギープロジェクトを担当している場合、プロジェクトが位置するエリアには水没したアリの巣がたくさんある可能性があります。これはアリにとって非常に残念なことです。人間がこれらのアリと同じ状況に陥らないようにする必要があります。

09

人類が直面している最大の脅威は、私たち自身の弱さ、つまり貪欲さと愚かさです。人間性のこれらの基本的な特性は、人工知能の時代に状況をさらに悪化させるでしょう。なぜなら、機械はプログラムされると、いつ停止して後退するかを知るようになりますが、人間は、非常に高度な修行を積まない限り、人間性の弱点を克服することは困難ですが、ロボットはこれらの弱点を簡単に回避できるからです。

10

また、次世代が早い段階で科学研究に全面的に取り組む機会だけでなく決意も得られるようにし、彼らが自らの可能性を実現し、人類がより良い世界を創ることに貢献できるようにするという役割も私たちにはあります。