英国メディアが人工知能の軍事応用とそのリスクを分析

[[440377]]

はじめに

12月7日、英国のドローン戦争ウェブサイトは、人工知能が各国の軍事部門に好まれ、軍事分野で広く使用されているとする報告書を発表した。しかし、軍事用人工知能システムにも一定の潜在的なリスクが存在します。英国が直面している安全保障上の課題は他の主要国とは異なるため、人工知能に関連するリスクを回避し、国家安全保障を維持するための代替手段を見つける必要がある。

1. 人工知能の基本状況

英国政府はAIを「視覚認識、音声認識、言語翻訳など、人間の知能を必要とするタスクを実行できる技術」と説明しています。人工知能システムには、新しい情報を学習したり、新しい情報に適応したりする能力があります。 AI システムはデータ セット内の統計的関係を識別することによって機能するため、タスクの自動化、複雑または大規模なデータ セットの処理、動作の予測、異常または関心のあるイベントのフラグ付け、データのラベル付けとエラー修正などの問題に対処するためによく使用されます。

人工知能の高速性、大規模で複雑なデータセットを処理する能力、反復的なタスクを正確に実行する能力により、軍隊におけるその役割が確立されています。軍が関心を持つ AI の属性には、迅速な分析とアクション、大規模で単純なタスクの自動化、ロボット工学と自律システム、将来の傾向を予測したり異常を検出したりするためのパターンの識別、ターゲットと信号の分類と識別、システムの最適化、意思決定の質の向上などがあります。

II. 人工知能の軍事応用

1. リモートワーク

ロボットや自動化システムは、人間に代わって「退屈で、汚く、危険な」軍事任務を遂行することができる。自律技術は、爆発物の検出と廃棄、海上または陸上での機雷掃海作業、敵対的な環境での偵察などのタスクを実行できます。

2. 情報収集、監視、偵察

情報収集では、テキスト文書、ビデオ、画像、電子傍受、インターネットからのオープンソース情報など、膨大な量のデータが集められます。人工知能はすでにこのデータの処理と分析に役割を果たしています。

3. プロセスの自動化

人工知能を適用することで、軍隊の人事、物流、財務、会計の日常業務プロセスを自動化し、作業効率を向上させながら、スタッフが他のより複雑な問題を処理できるようにすることができます。

4. サイバー戦争

AI システムは、疑わしいアクティビティを積極的に識別し、サイバー攻撃にリアルタイムで対応できます。 AI システムは、疑わしい行動パターンや潜在的に悪意のあるコードをスキャンすることで、新たなサイバー脅威を示す信号を検出できます。さらに、人工知能は、ネットワーク防御の弱点を特定したり、新しいマルウェアを設計したりするなど、攻撃的なサイバー作戦にも使用できます。

5. 電子戦

AIの支持者は、AIには新たな予期せぬ脅威に対応する能力があり、従来の技術に比べてスピードが速いため、電子戦のあらゆる要素においてAIが役割を果たすと主張している。

6. 指揮、統制、意思決定支援

指揮、統制、意思決定において、AI ツールのスピードとパワーは周辺タスクの処理に役立ち、指揮官は人間が得意とする問題に集中できるようになります。近い将来、AI はさまざまなセンサー データを統合して、指揮官が使用できる共通の作戦図を作成するために使用される可能性があります。

7. 自律走行車と軍用ロボット

自動運転車は、センサーと人工知能ソフトウェアを使用して、周囲の環境を認識し、障害物を識別し、センサーデータを統合し、ナビゲートし、他の車両と通信します。この技術は今や十分に成熟しており、主要な軍事大国は軍事目的での自律走行車の導入に向けて動いている。さらに、米空軍研究所のスカイボーグプロジェクトなど、自律飛行が可能なドローンも開発されている。

8. 蜂の群れ

人工知能により、自律システムが相互接続されたインテリジェントな群れとして動作することが可能になり、関連するソフトウェアが開発されています。昆虫の群れからヒントを得た群がる機械は、協力して敵を倒すことができます。群れは中央制御なしで自律的に動作し、個々のコンポーネントは周囲や群れの他のメンバーを感知し、他のメンバーと協力してタスクを完了することができます。

9. 自律型致死兵器システム（LAWS）

LAWS は、人間の介入なしにターゲットを識別、攻撃、破壊できる人工知能兵器システムです。これらは、周囲の環境を監視するセンサー システム、潜在的なターゲットを識別して攻撃を開始するかどうかを決定する人工知能システム、およびターゲットを破壊できる武器の組み合わせに基づいています。

10. 情報戦争

人工知能ベースのインターネット ボットは、偽のオンライン ID を作成することで、人間よりも速く情報を拡散できます。 AI アプリケーションは、ソーシャル メディアからデータをマイニングし、強制的な目的で政府関係者、政治家、軍人のデジタル「ライフ モデル」を作成するためにも使用できます。 AI技術は、ますますリアルな写真や動画（ディープフェイク）を生成できるようになり、最終的には誤解を招いたり操作したりすることを目的としたサイバー攻撃をサポートするために使用される可能性があります。

III. イギリス軍の人工知能の開発

英国は人工知能の開発を非常に重視している。戦略計画の面では、英国は2021年9月に国家人工知能戦略を発表し、「英国を世界的な人工知能大国にする」ための10年計画を提案した。英国は2021年3月に「統合評価報告書」を発表し、「技術大国となり、人工知能などの主要分野で主導的優位性を確立する」という目標を明記した。同月、英国国防省は「競争時代の防衛」と題する戦略文書を発表し、人工知能や自律システムなどの新興技術に重点を置き、今後4年間で防衛研究開発に66億ポンドを投資すると述べた。

部門の設定に関しては、 2018年5月に英国国防省は、防衛と安全保障の課題における人工知能技術の応用を強化・加速化するために、新しい人工知能研究所を設立すると発表しました。 2021年5月、メディアは、英国国防省装備支援局が英国陸軍と協力して自律システムを開発するための「遠征ロボット工学専門家センター」を設立し、政府、学界、産業界からロボット工学と自律システムの専門家を集めて「未開発でリスクが高いが急速に成熟している技術」を共同で評価すると報じた。

軍事面では、海軍はネルソンデジタルアクセラレーション研究所を設立し、自律型水上艦艇とドローンの開発に特化したNavyXと呼ばれる軍産アクセラレータを設立しました。英国陸軍は、半自律型無人システムなどの新技術とその統合を実験するため、全軍から構成され歩兵大隊を基盤とする運用実験部隊を編成している。空軍には迅速能力局があり、2017年から軽量で手頃な価格の新型戦闘機（LANCA）の選択肢を検討してきた。LANCAは有人機の横で「忠実な僚機」として高速飛行し、支援や保護を提供したり、単独で任務を遂行したりするように設計されている。

IV. 潜在的なリスク

軍事 AI システムに対する潜在的なリスクは、次の 3 つのカテゴリに分類されます。

1. 倫理的および法的側面

ロボットシステム（特に自律型兵器）は戦争法の関連規定にどのように準拠しているのでしょうか？人工知能システムが事故を起こした場合、責任を問うことは困難です。人工知能システムは、人権や個人のプライバシーに対する潜在的な脅威となります。人工知能の不適切な使用も、特定のリスクにつながります。

2. 運用レベル

破損したトレーニング データは人工システムのパフォーマンスに大きな影響を与える可能性があります。また、人間がシステムを誤用したり、その出力を誤解したり、オペレーターがシステムを信頼していない場合にバイアスが発生する可能性があります。さらに、AI システムは悪意のある行為者による干渉、欺瞞、侵入の影響を受けやすくなります。

3. 戦略レベル

軍事用人工知能システムは、戦争の敷居を下げ、状況のエスカレーションを加速させ、人工知能の軍拡競争を引き起こし、戦略的安定性を損なう可能性があります。

V. 要約

世界の主要国は、軍事用人工知能で主導的な地位を獲得するために、多くの技術的、法的、倫理的問題が解決される前に、この技術を導入し、広範囲に展開することを熱望しています。英国が直面している安全保障上の課題は他の国々が直面している課題とは大きく異なり、先進技術だけが安全保障上の問題を解決する手段ではないことを指摘しておく必要がある。英国は国民の安全と幸福の保護を安全保障政策の中心に据え、国家安全保障を維持するための他の可能な手段に目を向けるべきだ。