人工知能のジレンマ：人々の疑問を払拭できない

[[255964]]

人工知能（AI）の急速な進歩と発展により、その二重用途やセキュリティリスクについての憶測が巻き起こっています。自律型兵器システム (AWS) から顔認識技術、意思決定アルゴリズムまで、あらゆる新しい AI アプリケーションは、良い結果も悪い結果ももたらしています。 AI 技術の二面性は、政府、産業界、組織、学術界 (NGIOA) を含むさまざまな国の個人や団体に大きなセキュリティ リスクをもたらすだけでなく、人類の将来にも大きなリスクをもたらします。

現実には、あらゆる新しい AI イノベーションは、有益な目的にも有害な目的にも使用される可能性があります。重要な経済的応用を提供できる単一のアルゴリズムは、予測困難な前例のない大量破壊兵器の製造につながる可能性もあります。その結果、AI ベースの自動化に対する懸念が高まっています。

AI は機械学習、コンピューティング能力、国境を越えた投資、データの可用性の進歩により、幅広い分野で潜在的な応用が可能であり、それに伴うセキュリティ リスクも増大しています。さらに、AI の統合は人間が直接予測することはできないため、何かを認識できる能力はセキュリティ環境を根本的に変化させます。 AI の自動化と知能は希望をもたらしますが、破壊の可能性ももたらします。

コンピューティングパワーの民主化

コンピュータ技術の発展により、技術開発、知識、情報、知性が民主化されました。データ分析・処理技術の急速な発展により、サイバー、電子、量子、自律型兵器と兵器製造における核、生物、ナノテクノロジーが融合され、人類に壊滅的な被害をもたらす可能性があります。

接続されたコンピューター、ネットワーク、サイバースペースは、NGIOA 全体のすべてのデジタル プロセスの不可欠な部分になっています。コンピュータ コードとネットワーク化されたコンピュータによってサイバー空間が地理空間や宇宙空間に接続されたため、現在ではほぼすべてのものがネットワーク化され、制御可能になっています。

AI はサイバー空間、地理空間、宇宙 (CGS) のほぼすべての製品とサービスに統合され、インテリジェント化される可能性があるため、この進化する認知能力は人間の安全保障環境を根本的に変化させます。現在、テクノロジー、コンピューティング能力、プログラミング言語、コンピューター コード、暗号化、情報、ビッグ データ、アルゴリズム、投資などはすべて、軍事と民間の両面で利用されています。

誰もがデジタルデータにアクセスでき、自分自身で人工知能を作成するために必要な機械学習技術と計算能力を持つようになると、複雑なセキュリティ上の課題が生じ、管理が難しくなります。これは、潜在的な大量破壊兵器の数の増加を意味するだけでなく、無視できない攻撃対象範囲の拡大も意味します。人工知能の二重使用の脅威によってもたらされるセキュリティリスクは、ますます恐ろしくなっています。これは重要な疑問を提起します。人類の生存、安全、持続可能性は、人工知能の潜在的な二重用途について知っているかどうかにかかわらず、個人の知恵に委ねられるべきでしょうか? 今こそ人工知能のフレームワークを開発するときなのかもしれません。

データの民主化

ビッグデータの民主化により、サイバースペースのデータが争点となる公共財となり、まったく新しい世界秩序が生まれました。この新しい世界秩序は、誰もがどこにいてもデジタルデータにアクセスし、それを人類の善のためにも悪のためにも使用できるという新しい現実をもたらします。今日では、ビッグデータとデータサイエンスの機能にアクセスする意志と方法を知っている個人または団体であれば、教育、経歴、社会的地位、意図に関係なく、それを使用して、必要なインテリジェンス、自動化、監視、偵察を実現できます。

ビッグデータの民主化により、NGIOA 全体で普遍的なアクセスが可能になり、個人や団体に権限が与えられましたが、同時にいくつかの重要なセキュリティ リスクも生じました。正式な訓練の有無にかかわらず、誰でも、意図せず、あるいは意図的に、コミュニティ、人種、宗教、国家、人類に混乱、災害、存在の危機を引き起こす可能性があります。

ほとんどの AI システムの構築にはデータが必要なので、説明責任や責任もなく、データの民主化は抑制されないまま続くのでしょうか?

人工知能

人工知能、ロボット工学、ドローンなどの最近の発展は人類に多大な利益をもたらす可能性を秘めていますが、同時に、抑制されていない情報収集、監視、偵察、そして誰も備えていない偏った、あるいは致命的なアルゴリズムなど、大きなリスクももたらしています。

複雑な安全上のリスクは、AI の開発や導入に携わる意思決定者が通常「安全性」などの基本的な問題に焦点を当てていないため、これらの偏った致命的なアルゴリズムが複雑化していることから生じます。したがって、「AI の安全性」という持続可能な文化を構築するには、AI の研究者、投資家、ユーザー、規制当局、政策立案者に、AI 開発の二重使用の性質 (アルゴリズムの性質に関係なく) を認識させるだけでなく、AI 開発に関わる人々を教育することも必要です。

今日の国々で見られるように:

誰でも二重目的のアルゴリズムを作成できる

アルゴリズムを作成するために必要なデータ、ツール、テクノロジーは誰でも購入できる

リモート開発者は誰のためにもアルゴリズムを開発できる

アルゴリズムは個別に購入でき、あらゆる目的に使用できます

自律型ドローンが増加中

自律型兵器システムが現実に

自律型AIシステムが現実に

自動顔認識が現実に

AIアルゴリズムは脅威や操作に対して脆弱である

これは根本的な疑問を提起します。つまり、いかなる国のいかなる個人または団体も、いかなる目的や計画のためにも、説明責任や監視、結果なしに、AI を作成するための基礎となる科学を探求するために必要なデジタル データにアクセスできるのでしょうか。

AI のこの発展は、必要に応じて管理し、防止する必要があります。

今日の AI の発展と展望は、さまざまな意味で不確実性を生み出しています。 AI は軍隊が使用する兵器システムに組み込まれているソフトウェアであるだけでなく、NGIOA のあらゆる情報アプリケーションにも存在するため、あらゆる AI アプリケーションが二重用途になる可能性は無視できない現実です。

安全保障のジレンマ

人類の歴史の大部分において、安全保障に対する概念とアプローチは、主に武力の使用と地理的空間の領土保全を中心に展開してきました。 AIの世界ではセキュリティの定義と意味が根本的に問われ、変化しているため、地理的境界内または地理的境界を越えた各国に対する侵害を指す従来のセキュリティの概念は時代遅れとなり、評価と更新が必要です。

人工知能というまったく新しい世界の出現は、ほとんど誰も知らず、ほとんどが未知の、奇妙な領域のようなものです。これにより、恐怖、不確実性、競争、軍拡競争が引き起こされ、国境のない新たな戦場へと私たちは導かれます。そこには人間が関与するかどうかはわかりませんが、理解や制御も難しいかもしれません。

AI がもたらす脅威の進化と、宇宙、イデオロギー、政治にまたがるセキュリティ上の課題の複雑さに対処するには、国境を越えたすべての関係者間の建設的な協力が必要です。脅威を客観的に評価し、安全性を確保するには、集団的なブレーンストーミングが必要です。この現実を認識して、リスク グループはデュアル ユース テクノロジーのジレンマに関する議論を開始しました。

AI の構造、役割、二重使用に関する議論は今後も続くでしょうが、AI の安全性を再定義する試みは、AI の安全性に対する脅威の定義と性質を特定、理解、組み込み、拡張することから始める必要があります。この記事の焦点は AI ですが、他の多くのテクノロジーについても二重使用の可能性を評価する必要があります。今こそ、新興技術の二重利用について議論を始めるべき時です。