AIの現実世界での最悪の使用例

人工知能（AI）の最悪のシナリオは、ハリウッドの大ヒット映画でおなじみのものだ。人間のような知性と知覚を学習した機械が、必然的に人類を滅ぼそうとする邪悪な支配者になるというものだ。この物語技法は、テクノロジーに対する私たちの生来の恐怖心を利用し、新しいテクノロジーにしばしば伴う大きな変化を反映しています。

しかし、機械学習エンジニアであり、小説『量子の代償』（2019年）の著者でもあるマルコム・マードック氏はこう述べている。「AIが人間を殺すのに知覚力を持つ必要はありません。知覚力を持つAIが問題になる前に人間を殺すシナリオはたくさんあります。」

この出版物は、AI の専門家へのインタビューを通じて、映画で描かれているものよりはるかに穏やかではあるものの、それでもディストピアであることに変わりはない、現実世界における最悪の AI シナリオを 6 つ明らかにしています。これらのシナリオのほとんどは、悪意のある独裁者が実行する必要はありません。それどころか、何も対策を講じなければ、これらは簡単に暗黙のシナリオとなり、自然に展開してしまう可能性があります。こうした最悪のシナリオを防ぐためには、AI に関するポップカルチャー的な見方を捨て、AI の予期せぬ結果に注意する必要があります。

1. フィクションが現実を定義するとき

フィクションが現実を定義することを許すと、不必要な悲劇が起こる可能性があります。しかし、デジタルの世界では真実と偽りを区別することができないので、どうやって選択すればよいのでしょうか?

悲惨なシナリオでは、ディープフェイク（高度な機械学習ツールによって作成された偽造画像、動画、音声、テキスト）の急増により、国家安全保障上の意思決定者が誤った情報に基づいて現実世界で行動し、大きな危機や、さらに悪いことに戦争を引き起こす可能性があります。

「現在、AI を使用するシステムは [大規模に] 偽情報を生成する能力があります」と、ジョージタウン大学のセキュリティおよび新興技術センター (CSET) のシニア フェローであるアンドリュー ローン氏は言います。これらのシステムは、偽情報を大量かつ多種多様に生成することで、その性質をわかりにくくし、成功に向けて最適化し、時間の経過とともに意図した影響を増大させることができます。

重要な瞬間に、情報の信憑性が適時に確認できない場合、ディープフェイクの概念は、リーダーが行動を躊躇するのに十分な可能性があります。

「ディープフェイクは情報の流れに対する信頼を損なう」と、ドイツのハンブルク研究安全保障政策研究所の研究員マリーナ・ファヴァロ氏は指摘する。ディープフェイクに起因する行動と不作為は、どちらも世界に壊滅的な結果をもたらす可能性がある。

2. 利益をめぐる危険な競争

人工知能と国家安全保障に関しては、スピードが重要であり、また難しいものです。人工知能を活用したシステムは、ユーザーにさらなるスピードのメリットをもたらすことができ、軍事用途の開発をリードする国は戦略的優位性を獲得することになる。しかし、その過程で、どのような設計原則が犠牲になる可能性があるのでしょうか?

システムの小さな欠陥やハッカーによる悪用により、状況が崩壊する可能性があります。ジョージタウン大学セキュリティ・新興技術センターの戦略ディレクター、ヘレン・トナー氏は、危機は「すべての通信を遮断し、パニックと経済活動の停滞を引き起こす、無害な単一の障害点から始まる可能性がある」と述べた。「継続的な情報不足とその他の誤算が相まって、事態は制御不能に陥る可能性がある」

スウェーデンのストックホルム国際平和研究所（SIPRI）の上級研究員ヴィンセント・ブラニン氏は、大災害が発生すると「大国が競争で優位に立つために近道を取ろうとする」恐れがあると警告した。「ある国が安全や検知、人間による監視よりもスピードを優先すれば、危険な底辺への競争が生まれる」

たとえば、スピード面で優位に立つために、国家安全保障のリーダーたちは、指揮統制を委任し、私たちが完全に理解していない機械学習モデルに対する人間による監視を排除しようとするかもしれません。このシナリオでは、人間の許可なく起動できるミサイル防衛システムが、意図しないエスカレーションと核戦争につながる可能性があります。

3. プライバシーと自由意志の終焉

電子メール、テキスト、ダウンロード、購入、情報投稿、自撮り、GPS 位置情報など、あらゆるデジタルアクションによって新しいデータが生成されます。企業や政府にこのデータへの自由なアクセスを許可することは、監視と管理のツールを引き渡すことになる。

顔認識、生体認証、ゲノムデータ、人工知能を使った予測分析が加わり、ジョージタウン大学セキュリティ・新興技術センターのローエン氏は「データによる取り締まりや追跡が増加するにつれ、私たちは潜在的な影響がほとんどわからない未知の危険な領域に足を踏み入れつつある」と懸念している。

収集および分析されたデータの力は、検査や監視などの予測制御機能をはるかに超えています。今日では、人工知能を使用したシステムは、私たちが何を購入するか、どのようなエンターテインメントを視聴するか、どのリンクをクリックするかを予測できます。これらのプラットフォームが私たち自身よりも私たちのことをよく知っているとしたら、私たちの自由意志が徐々に奪われ、外部の力によって制御されていることに気づかないかもしれません。

4. 人間の行動実験

子供がすぐに満足感を得るのを遅らせ、2つ目のマシュマロを待つ能力は、かつては人生における成功を予測する重要な指標であると考えられていました。やがて、2つ目のマシュマロを手に入れた子供でさえ、刺激的なエンゲージメントアルゴリズムに屈した。

ソーシャルメディアのユーザーは、人間のスキナーの箱の中で暮らす実験台のラットとなり、スマートフォンの画面に釘付けになり、自分たちから利益を得るプラットフォームのために貴重な時間とエネルギーを犠牲にすることを余儀なくされている。

「アルゴリズムは、ユーザーをできるだけ長くプラットフォームにとどめておくために最適化されています」と、ジョージタウン大学セキュリティおよび新興技術センターのヘレン・トナー氏は述べた。マルコム・マードック氏は、「いいね！」やコメント、フォローなどの形で報酬を提供することで、「アルゴリズムは私たちの脳の働きを短絡させ、私たちが継続して関わりたくなるようにするのです」と説明した。

企業は最大限の広告利益を追求するために、私たちの仕事、家族や友人、責任、さらには趣味から私たちのエネルギーを奪っています。さらに恐ろしいのは、プラットフォーム上のコンテンツが私たちを以前よりも惨めで悪い気分にさせるということです。 「こうしたプラットフォームで過ごす時間が長くなればなるほど、活動的で豊かで有意義な生活を追求する時間が減る」とトナー氏は警告した。

5. AIデザインの暴政

私たちは日々、日常生活の多くの部分を人工知能を搭載した機械に委ねています。これは問題です。ホロウィッツ氏は次のように述べています。「私たちは AI における偏見の問題を十分に認識していません。最善の意図を持っていたとしても、AI を採用したシステムの設計 (トレーニング データや数学モデルを含む) は、設計者の偏った狭い経験と関心を反映しています。私たちはみな偏見を持っています。」

その結果、「AI を使用する多くのシステムは、さまざまな人々のさまざまな経験や特性を考慮できていない」と、フロリダ州クリアウォーターの IT セキュリティ企業 KnowBe4 の新興技術分析担当シニア バイスプレジデント、リディア コストポロス氏は言う。AI は、各個人の独自のニーズではなく、偏った意見やデータに基づいて問題を解決するため、このようなシステムは人間社会には存在しないレベルの一貫性を生み出す。

人工知能が台頭する以前から、私たちの日常生活でよく使われる物は、特定のタイプの人に合わせて設計されることが多かった。たとえば、研究によると、自動車、携帯電話などの手持ち工具、さらにはオフィス環境の温度設定までが平均体格の男性向けに設計されており、さまざまな体型や大きさの人々（女性を含む）に多くの不便をもたらし、時には彼らの命に大きな危険をもたらすことさえあることがわかっています。

偏った規範から外れた個人が無視され、疎外され、排除されると、AI はカフカ的な「門番」となり、これらの人々が顧客サービスを受けたり、仕事を得たり、医療にアクセスしたりすることを妨げます。 AI 設計における決定は、人々を日常の問題から解放するのではなく、むしろ制約する可能性があります。さらに、こうした選択は、最悪の人間的偏見を人種差別や性差別、危険な慣行、そして重大な欠陥と偏見のある判決結果へと変換する可能性がある。

6. AIへの恐怖はもはや人類にとって有益ではない

AI の機能は、コンピューティング能力と AI が実行されるハードウェアの高度化に伴って向上することが見込まれており、AI に対する社会の恐怖は時間とともに高まるばかりと思われます。 「人工ニューラルネットワークは本当にクレイジーなことができる」とマードック氏は言う。「リスクには注意する必要がある」。しかし、人々が AI を恐れるあまり、政府が AI に厳しい規制を課し、人類が AI の恩恵を受けられなくなったらどうなるだろうか。たとえば、ディープマインドの AlphaFold プログラムは、アミノ酸がどのように折り畳まれてタンパク質を形成するかを予測する画期的な進歩を遂げ、科学者がタンパク質の 98.5% の構造を解明することを可能にした。この画期的な出来事は、生命科学の急速な発展のための実りある基盤を築くことになるでしょう。たとえば、人工知能は、さまざまな人間の言語の組み合わせを流暢に翻訳することで異文化間のコミュニケーションと理解を促進することを可能にします。また、人工知能を使用するシステムは、新しい病気の治療法やケア方法などを特定することができます。 AI の最悪の結果を防ぐために政府が反射的に行う規制措置も裏目に出て、予期せぬ悪影響を及ぼし、この強力なテクノロジーの力を恐れ、世界に真に役立つようにそれを使用することを躊躇するようになる可能性もあります。