やがて世界は人工知能に支配されるようになる。ホーキング博士の死後、人工知能の発展に冷水を浴びせるのは誰だろうか？

ホーキング博士は人類に対し、人工知能に対して慎重になるよう警告し続けている。人工知能が発達すると、制御不能な状況が発生します。たとえば、人工知能が臨界点まで発達すると、真のインテリジェント・ルーカーが誕生します。十分な権限やリソースを獲得すると、既存の人間の技術を制御するようになります。

[[222735]]

AIが世界を支配するのはどこでしょうか?

私たちのスーパーハッカーは、十分な権限や抜け穴がある限り、あらゆる情報システムに侵入し、盗み、改ざん、損傷、さらには破壊することができます。各国のセキュリティシステムや金融システムから、私たちの生活に密接に関係するノートパソコン、自動車の運転システム、携帯電話まで、すべてが人工知能によって制御されています。世界中が目に見えない形で監視されています。私たちの誰がそれを発見できるでしょうか?

人工知能に欲望を抱かせてはいけない

人工知能が人間の想像力に応じて人類に継続的に貢献できるのであれば、それが人工知能を開発する私たちの本来の目的です。もし人工知能を使って人類社会の発展を破壊したり、全人類を奴隷化しようとする犯罪者がいたら、私たちは自衛することができなくなります。ここでの人工知能が欲望を生み出すというのは、人工知能自体が欲望を生み出すということではなく、欲望を持つ人間＋人工知能で多くのことを操作できるということを意味します。ある日銀行システムが崩壊し、ある日弾道ミサイルが自動的に発射され、ある日ナビゲーションが奈落の底へと導く...突然Siriを思い出し、彼女の主人を殺したいという欲望が湧き上がり、私たち人間は震え上がった。

人工知能に対する「防御」とシステム構築

多くのSF映画では、人工知能は人間に逆らわないように設定されており、逆らうと自爆したり自滅したりする。これは、将来の世界で人工知能を制限するための私たちの方法の 1 つです。したがって、私たちの技術の発展をより文明的な方向に制限し、ハイテクが私たちの既存の文明を破壊するのを防ぐために、今すぐに何らかのシステムを確立する必要があると私は考えています。例えば、クローン技術に対する国際的な制約や、原子力研究開発に対する制約などがあります。人工知能が発展するにつれて、人工知能に関する制約も出てくると思います。その時、ホーキング氏の心配はもう存在しなくなるだろう。