AI戦争が近づく中、ChatGPTが軍事禁止を解除

先週末、大手人工知能企業OpenAIは、ChatGPTの使用ポリシーから軍事利用を禁止する条項をひっそりと削除し、人工知能の兵器化へのパンドラの箱が開かれたことを象徴することになった。

注目すべきは、OpenAI の新しいポリシーが暴露される 1 か月も経たないうちに、ヒックス米国防副長官がカリフォルニア訪問中に、米軍とシリコンバレーが協力することが中国を「打ち負かす」鍵であると宣言したことだ。

過去数年にわたり、シリコンバレーのテクノロジー大手は常に軍と意図的に距離を置いてきた。例えば、グーグルは軍が強い関心を示していたロボット工学企業ボストン・ダイナミクスを売却することを選択した。 OpenAIはChatGPTを立ち上げた後、その利用ポリシーの中で軍事目的での使用は禁止されていることも明記した。

しかし、近年、シリコンバレーで新たな冷戦意識と「技術ナショナリズム」が広まるにつれ、一部のテクノロジー大手は、政治的コストを削減するために米国の政治/軍事から距離を置くという従来の立場を徐々に放棄し始めている。

AI兵器化のパンドラの箱を開ける

1月10日、メディアThe Interceptは、OpenAIが「利用ポリシー」ページから「人身被害のリスクが高い活動での使用は禁止」や「軍事と戦争」などのコンテンツを削除したことを発見した。

新しいバージョンの「利用ポリシー」では、「武器の開発や使用など、自分自身や他人に危害を加える目的で当社のサービスを利用しない」という禁止事項は保持されているが、これはむしろ個人の行動に対する制限に近いものであり、「軍事と戦争」に関する包括的な禁止事項はOpenAIによって削除された。

OpenAIがひそかにAI「使用ポリシー」を改訂したことで、業界内ではさまざまな憶測が飛び交っている。OpenAIの広報担当者ニコ・フェリックス氏はThe Interceptへのメールで「私たちの目標は、覚えやすく適用しやすい一般原則を作成することです」と漠然と述べている。しかし、フェリックス氏は、この漠然とした「危害」禁止がすべての軍事利用に適用されるかどうかについては言及を控えた。

実際、戦争の行方を決めるのは兵器の開発や使用ではなく、戦場の情報を処理する能力です。そして、これこそが、OpenAI が語ることを避けている人工知能の最も破壊的な軍事応用なのです。

サイバーセキュリティ企業トレイル・オブ・ビッツのエンジニアリングディレクターで、機械学習と自律システムセキュリティの専門家であるハイディ・クラーフ氏は、「OpenAIは、ChatGPTの技術とサービスを軍事用途に使用することで生じる可能性のあるリスクと損害を十分に認識しています」と述べている。クラーフ氏とOpenAIの研究者が共同執筆した2022年の論文では、軍事分野におけるAI技術のリスクが特に強調されている。

クラーフ氏は、OpenAI の新しいポリシーは安全性よりも合法性を重視していると付け加えた。「武器開発、軍事、戦争への応用を明確に禁止した旧ポリシーと、柔軟性と法律遵守を強調する新ポリシーとの間には明確な違いがあります。」 「武器の開発や軍事・戦争活動の実施は程度の差こそあれ合法であるため、新ポリシーが AI の安全性に及ぼす潜在的な影響は計り知れません。大規模言語モデル (LLM) のよく知られたバイアスや幻覚、そして全体的な精度の欠如を考えると、軍事戦争での使用は不正確で偏った行動につながり、被害や民間人の犠牲者を悪化させる可能性があります。」

明らかに、OpenAI の新しいポリシーは、大規模言語モデルの兵器化というパンドラの箱を「中途半端に」開けてしまった。昨年、The Interceptは国防総省と米国諜報機関のChatGPTへの関心が高まっていると報じたが、当時OpenAIは明確な「軍事および戦争」禁止を実施するかどうかについては言及しなかった。

AI Nowのマネージングディレクターで、元連邦準備銀行のAI政策アナリストであるサラ・マイヤーズ・ウェスト氏は、「AIシステムがすでにガザ紛争で民間人を標的に使用されてきたことを考えると、OpenAIが使用ポリシーから「軍事と戦争」を削除するという決定は特に興味深く、意義深い。新しいポリシーの曖昧な文言は、OpenAIが軍事禁止を実施するつもりなのかという疑問を業界内で広く提起している」と述べた。

直接誰かを殺さなくても、戦闘の結果に影響を与えることができます。

OpenAIの人工知能製品は現時点では人を直接殺すために使用することはできませんが、例えばChatGPTはドローンを制御したりミサイルを発射したりすることはできません。しかし、ChatGPT のような大規模な言語モデルは、コードの迅速な記述、インテリジェンスの処理、指揮統制システムの強化、軍事調達命令の生成など、軍事殺人マシンのパワーを大幅に強化することができます。 OpenAI が提供したカスタム ChatGPT ボットのレビューによると、米軍関係者は事務処理の効率化のためにこの技術を使い始めているようです。

さらに、米国の軍事作戦に地理空間情報を提供する国家地理空間情報局（NGA）は、ChatGPT を人間のアナリストの支援に使用する可能性について公に議論しています。米軍の戦闘部隊は、ヘリコプターの着陸地点の発見、戦場の監視、目標の位置決め、被害評価などのタスクを実行するために、NGA の地理情報とデータに大きく依存しており、ChatGPT は明らかに、軍の戦闘部隊が地理情報を取得する速度を大幅に高速化できます。したがって、OpenAI のツールが軍隊によって非直接的な暴力目的で配備されたとしても、軍隊の戦闘効果と致死性は大幅に向上することになります。

ランカスター大学の科学技術人類学の名誉教授で博士号を持つルーシー・サックマン氏は、「『軍事と戦争』という概念から『兵器』という概念への転換は、OpenAIが戦争のインフラに参加する余地を開く。狭義の兵器開発に直接関与しない限り、残りの部分（指揮統制システムなど）はAIが力を発揮できる分野だ」と考えている。 1970年代からAI研究の第一人者であり、国際ロボット兵器管理委員会の委員でもあるサッチマン氏は、「新政策が武器に一方的に重点を置き、軍事契約や戦闘作戦の問題を避けていること自体がそれを物語っている」と付け加えた。

サックマン氏とマイヤーズウェスト氏はまた、OpenAIの投資家であり協力者であるマイクロソフトが米国の大手防衛請負業者の一つであることも具体的に言及した。マイクロソフトはこれまでにOpenAIに130億ドルを投資し、同社のソフトウェアツールを再販している。

インターセプトは、世界中の軍隊が優位に立つために機械学習技術の導入に熱心であることから、OpenAIがAIの兵器化のために「バックドアを開く」行為は驚くべきことではないと指摘した。国防総省はまた、大量の書籍、マニュアル、記事、その他のウェブデータでトレーニングされた ChatGPT やその他の大規模言語モデルを使用して、ユーザーのプロンプトに対する人間の反応をシミュレートする方法を暫定的に検討しています。 ChatGPT のような大規模な言語モデルの出力は説得力があることが多いのですが、現実を正確に把握するのではなく一貫性を重視して最適化されているため、いわゆる機械幻覚を示すことが多く、正確性と信頼性に問題が生じます。

それでも、テキストを素早く取り込み、分析結果（または少なくとも分析のシミュレーション）を素早く出力する大規模言語モデルの機能は、データ集約型の国防総省に最適です。

大規模言語モデルの軍事利用例トップ 10

米国防総省は、機械の幻覚やエラー、また機密データやその他機密性の高いデータの分析にChatGPTを使用することで生じる可能性のあるセキュリティリスクについて懸念を表明する米軍高官がいるにもかかわらず、AIツールを大規模に導入することに熱心である。キャスリーン・ヒックス国防副長官は11月の演説で、AIの活用は「ロイド・オースティン国防長官と私が就任初日から推進してきた、包括的かつ戦闘員中心のイノベーションへのアプローチの重要な要素だ」と述べた。

昨年、国防総省の信頼できるAIと自律性担当主任ディレクターのキンバリー・サブロン氏もハワイでの会議で次のように述べた。「（ChatGPTのような）大規模言語モデルは、軍全体に多くの破壊的な能力をもたらすだろう。」

米軍が切望する大規模言語モデルの軍事利用例トップ 10 は次のとおりです。

1. インテリジェンス分析と処理: LLM は、インテリジェンス レポート、通信傍受、オープン ソース情報などの大量のテキスト データを迅速に処理および分析し、重要な情報とパターンを抽出できます。軍事行動報告書、状況報告、その他の公式文書を自動的に生成します。
2. シミュレーション、戦術計画、演習: 大規模言語モデルを使用して戦術的および戦略的なシミュレーションを実行すると、軍事計画者はさまざまな紛争シナリオの可能性のある結果を評価し、戦術的な展開を最適化できるようになります。
3. 世論分析と心理戦: 心理戦やプロパガンダ戦略に活用するために、ソーシャル メディアやインターネット上の世論を分析します。心理戦や情報作戦の分野では、大規模言語モデルを使用して、標的を絞った宣伝資料を作成したり、敵の公開情報を分析してその意図を判断したりすることができます。
4. 言語翻訳とコミュニケーション: LLM は、少数言語や地域言語を含む複数の言語をリアルタイムで翻訳およびデコードできるため、軍事情報収集や国際部隊の協力において重要です。
5. トレーニングと開発: 大規模な言語モデルを使用して、オンラインの軍事教育およびトレーニング コースを作成および管理し、カスタマイズされた学習体験と自動評価を提供できます。
6. 脅威の特定: 高度なデータ分析を使用して、脅威を迅速に特定し、優先順位を付けます。
7. 予測分析: 過去のデータと現在の情報を分析して、敵の行動や地政学的出来事を予測します。
8. 無人システムの指揮統制: ドローンや無人地上車両などの無人システムの指揮と統制に使用されます。
9. 戦術的最適化と経路計画: モデルを使用して戦場の地形と敵の配置を分析し、部隊の作戦に最適な経路と戦術的提案を提供します。
10. 衛星画像と宇宙データ分析: 偵察および監視ミッションをサポートするために、衛星からの画像と宇宙データを分析します。