将来、人工知能は人類を脅かすのか？人工知能が「暴走」するのを防ぐ6つの戦略

ロボットが人類の脅威にならないようにする6つの戦略

ウィル・スミス主演のアメリカ映画「アイ，ロボット」は、独立して考えることを学習し、人間の制御が効かなくなったロボットに対処するシカゴ警察の物語である。もちろん、映画の中では最終的に人間がロボットを打ち負かすことになるが、科学者たちはそのような脅威が迫っており、人間は早い段階で対策を検討すべきだと警告している。

[[230813]]

科学者たちは「人工知能の世界」について次のように述べている。おそらく20～30年後には人工知能ロボットが人間の友達になれるだろうが、50年後には人工知能が人類にとって最大の脅威となるだろう。

[[230814]]

人工知能が人間を超え、世界は最終的に戦争に突入し、この知能戦争で数十億人の命が奪われる可能性がある。科学者たちは、人工知能が遅かれ早かれ人間を超えると信じている。人間の脳の計算能力は毎秒10の16乗であるが、人工知能マシンの計算速度は毎秒10の40乗と、人間の脳の10の24乗倍にも達する。そうなれば、人間を治療するのは蚊を叩き殺すのと同じくらい簡単かもしれない。しかし、人工脳がすぐに人間を支配するわけではない。その前に、人間との「平和共存」の期間が設けられるだろう。この期間中、ロボットは絶えず人間の知能レベルに近づいていますが、まだそれを超越していません。そのため、「チャットロボット」、「家庭用ロボット」、「コンパニオンロボット」は人間の生活を楽しいものにするでしょう。しかし、この美しい光景は長くは続かず、人工知能のさらなる発展は人類に災難をもたらすことになるだろう。

科学者たちは、災害が起こる前に、人類は3つの派閥に分かれるだろうと述べている。宇宙主義者（人工知能の開発を主張する人々）、地球主義者（人工知能の開発に反対する人々）、AIサイバネティクス（自分自身をロボットに変身させる人々）である。

[[230815]]

おそらく、人工知能が人間に対して行動を起こす前に、まずはこの 3 つのタイプの人間が人間同士の闘争を始めるでしょう。科学者たちは、上記の起こりうる脅威を考慮して、悲劇を回避するのに役立つ可能性のある6つの対策を提案しました。

1. リスクの低い環境に保管する

[[230816]]

すべてのコンピューターとロボットが、事前に予測できない結果につながる可能性のある決定を行わないようにしてください。

成功の可能性: 非常に低い。エンジニアは現在、コンピューターやロボットのシステムを構築していますが、必ずしも予測どおりに動作するとは限りません。消費者、業界、政府機関は、さまざまなタスクを実行できるテクノロジーを要求しており、企業はこの需要を満たすために製品の数と性能を継続的に増加させていきます。この戦略を実現するためには、コンピュータとロボットの技術を早急かつ深く開発する必要があります。

2. 武器を与えない

[[230817]]

成功の可能性: 遅すぎます。巡航ミサイルやドローンなどの半自律型ロボット兵器システムはすでに存在している。銃を装備したロボットも戦場の写真を撮るためにイラクに派遣されたことがあるが、実際に配備されたことはないようだ。

しかし、軍の意思決定者たちはロボット兵士の研究開発に非常に興味を持っており、将来の戦争で犠牲者を減らすための重要な手段だと考えているようだ。自律型兵器の開発を阻止するには遅すぎるかもしれないが、ロボットが携行できる兵器やその使用条件に制限を課すのはまだ遅くないかもしれない。

3. 行動規範を設定する

[[230818]]

成功確率: 中程度。 SF作家アイザック・アシモフの有名なルールは、階層構造になっています。第一に、機械は人間に危害を加えてはならない、または危害に対して無関心であってはならない。第二に、ロボットは人間に従うべきであり、ロボットの自己保存は最優先事項ではありません。

しかし、アシモフは単なる小説家であり、実際にロボットを開発したわけではありません。彼は小説の中で、ロボットが二人の人間から同時に出された二つの矛盾する命令をどのように実行すべきかなど、こうした単純なルールから生じる可能性のある一連の問題を列挙している。

アシモフのルールではロボットが判断するのが難しくなります。たとえば、患者を切開している外科医が実際には患者を助けていることをロボットはどうやって理解するのでしょうか? 実際、アシモフのロボット物語は、ルールに基づく道徳の制約を非常に明確にしています。ただし、ルールによってロボットの動作をうまく制限できますが、その機能は限られたスペースに制限されてしまいます。

4. ロボット専用のプログラムを書く

[[230819]]

ロボット開発の目的は、「最大数の人々に最大の利益をもたらすこと」、あるいは「自分が扱われたいように他人を扱うこと」であるべきです。したがって、ロボットの開発は、いくつかの単純化されたルールを放棄するのではなく、より安全な観点から検討されるべきです。

成功の可能性: 中程度。これらの規則には限界があるため、一部の倫理学者は、すべてのロボットの行動を評価するために使用できる優先原則を見つけようとしています。

しかし、今提案された単純な原則でさえ、道徳的な価値と限界があり、それは長期にわたる議論の対象となり得る。たとえば、5 人の命を救うために 1 人の命を犠牲にすることは論理的に思えるかもしれません。しかし、医師たちはこの論理に基づいて、5人の患者に必要な臓器を提供するためだけに健康な人を犠牲にすることはしないだろう。ロボットはこのロジックをどう考えるでしょうか? 与えられたルールの下で最善の選択を決定することは、時には極めて困難です。たとえば、どの行動方針が最大の利益を生み出す可能性が高いかを判断するには、世界におけるさまざまな行動の影響に関する豊富な知識と理解が必要になる場合があります。もちろん、このような思考を行うには、多くの時間と計算能力も必要です。