米宇宙軍、データセキュリティ上の懸念から生成AIツールを禁止

10月12日、新たに流出したメモの中で、米国宇宙軍は、データセキュリティなどの懸念を理由に、ウェブベースの生成型人工知能ツールといわゆる大規模言語モデルの使用を一時的に禁止することを決定した。

9月29日付のこのメモは、米宇宙軍内部の呼称「ガーディアン」に宛てられたものだった。メモの中で、米宇宙軍は、簡単な指示に基づいてテキスト、画像、その他の形式のコンテンツを作成できるウェブベースの生成型人工知能ツールで政府データを一切使用することをメンバーに禁止している。メモには、特別に承認されない限り、これらのツールは政府のシステムで使用することは「許可されていない」と記されていた。

OpenAI の ChatGPT のようなチャットボットは、大量のデータでトレーニングされた言語モデルを活用して新しいテキストを予測および生成し、人気が高まっています。このような大規模な言語モデルにより、大量の文書を検索し、重要な詳細を抽出し、さまざまな言語スタイルで一貫した方法で提示できる AI ツールが多数誕生しました。

米宇宙軍の最高技術革新責任者リサ・コスタ氏はメモの中で、生成型AIは「間違いなく我々の労働力に革命をもたらし、『ガーディアン』の運用能力を向上させるだろう」と述べた。しかしコスタ氏はサイバーセキュリティ、データ処理、調達要件に関する懸念も挙げ、AIと大規模言語モデルの導入は「責任ある」ものである必要があると述べた。

米宇宙軍はそれ以上の説明をしなかった。専門家は、場合によっては、大規模なモデルに入力された文書やプロンプト内の大量の非公開の可能性があるデータが公に漏洩したり、ハッキングされたりするリスクがあると指摘している。メモによると、コスタ氏は30日以内に新たな指針を発表する予定だという。

宇宙軍の広報担当者は、CNNが見たメモは本物であり、支援ミッションの統合方法とガーディアンの能力強化方法を決定するまでの間、宇宙軍の職員とデータを保護するため禁止令を出したと述べた。

宇宙軍の決定は、Ask Sage生成人工知能プラットフォームを使用する少なくとも500人に影響を与えると、同社の創設者ニコラス・シャイラン氏は述べた。 Shaylan 氏によると、Ask Sage は、Microsoft や Google のものを含むさまざまな大規模言語モデルと互換性のある、安全な生成 AI プラットフォームを提供することを目指しています。

かつて米空軍と宇宙軍の最高ソフトウェア責任者を務めていたシャイラン氏は、特に国防総省がAIの導入加速を求めている中、生成AIの使用を一時停止するという宇宙軍の決定を批判した。 8月に国防総省は、大規模言語モデルの使用事例と、国防総省全体でそれらを分析および統合する方法を具体的に研究するための生成AIワーキンググループを設立しました。 「それは非常に近視眼的な決断だった」とシャイラン氏は語った。

CIA はまた、諜報機関内で広く使用することを意図した生成 AI ツールも開発しました。シャイラン氏は、自社のプラットフォームはすでにデータを保護するためのセキュリティ要件を満たしていると述べた。

シャイラン氏は、米宇宙軍のユーザーに加え、空軍の6,500人を含む国防総省の他の部門の1万人以上のユーザーが依然として同社のソフトウェアを使用していると付け加えた。同氏によると、国防総省のユーザーの中には、月額30ドルの料金を自腹で支払う人もおり、それが報告書作成の負担を軽減するのに役立っているという。