OpenAIはChatGPTを軍事目的で使用する予定か？国防総省との協力禁止が解除、元グーグルCEO「AIは核爆弾になる」

AIの兵器化？

大規模言語モデルの誕生以来、人々はその潜在的な影響について議論し続けています。しかし、一般人の視点からこの問題について考え、LLM が人々の日常の仕事や生活にどのような変化をもたらすことができるかを考える人が増えています。

しかし、もう少しマクロな視点で見ると、LLMとAIは社会全体、さらには国全体に何らかの変化をもたらす可能性があることがわかります。

具体的な内容については、権力を握っている大物たちが権力をどう使うかによって決まり、一般の人々にはあまり関係がありません。

つい最近、世界のLLMの先駆者でありChatGPTの本拠地であるOpenAIが、AIの兵器化に関するポリシーの文言をひっそりと改訂しました。

少し単語が違うだけ？

この問題について議論する前に、まずこの問題に関する OpenAI の最近の姿勢の変化を見てみましょう。

以前の OpenAI の文言は、その大規模言語モデルを軍事または戦争関連のアプリケーションに使用することを禁止するというものでした。

大規模言語モデルを軍事または戦争関連のアプリケーションに使用することを禁止します。

現在の声明は、OpenAI 製品は、武器開発を含め、「自分自身や他人に危害を加える」ために使用できないというものです。

つまり、OpenAI の製品は、武器の開発を含め、自分自身や他人に危害を加えるために使用することはできません。

注意深い読者なら微妙な違いに気付くはずだ。前者は軍事および戦争での使用の禁止に焦点を当てているのに対し、後者は危害に焦点を当てているのだ。

つまり、危害を加えない限り、いわゆる軍事利用は認められるのです。

実際、この政策変更はほとんどの人には気づかれていませんが、重要性の点から言えば、この変更は無視できません。

これは、OpenAI のモデル開発者が利益の大きい防衛技術市場に参入できるようになり、軍隊もそのモデルを独自に使用できることを意味します。

そしてここで創造力を発揮することができます。

軍隊が模型を使って何ができるかは、私たちのような一般人が十分に想像できるものではありません。おそらく、アナリストがパラメータ データを解釈したり、関連するソフトウェア コードを作成したりする際に役立つでしょう。もちろん、私たちが思いつかないような使い方もたくさんあります。

米国国防総省は昨年 8 月 10 日に、生成型人工知能のさまざまな使用事例について具体的に議論するための特別作業部会を設立したことを知っておく必要があります。そして、このテクノロジーを他のテクノロジーとどのように組み合わせるかです。

タスクフォース・リマと呼ばれるこのタスクフォースは、国防総省のデジタル・人工知能担当参謀長室を通じてキャスリーン・ヒックス国防副長官によって設立された。

タスクフォースの使命は、「国防総省全体で生成 AI 機能の実装を開発、評価、推奨、監視し、国防総省が生成 AI 技術を採用して適切な保護を提供できるように準備すること」です。

複雑に聞こえないかもしれませんが、米国は常に生成 AI の最前線に立ってきました。

リマ特別部隊の司令官、海軍大佐マヌエル・ザビエル・ルーゴ氏はインタビューで、国防総省は数十年にわたってAIシステムの研究と開発を行ってきたと語った。生成 AI は、ますます人気が高まり、急速に世界を席巻しているという点で、従来の AI システムとは異なります。

昨年の時点で、Lima ワーキンググループは生成 AI のユースケースを 160 件以上受け取っており、これは非常に効率的であると報告されています。

しかし、観察者としては、OpenAI の「害を与えない」という新しい声明に従っても、依然としてかなりのリスクがあるかもしれないと懸念しています。

最初に影響を受けるのは、2023年の今年のホットワードの一つである「幻覚」です。

戦争に関わるハイリスクな用途でAIが「幻覚」を起こしたらどうなるか想像してみてください。その結果に耐えられる人は誰もいません。直接的な被害がなくても、間接的にさまざまな損失が発生することは間違いありません。

プロジェクト ヘイブン

実際、テクノロジー企業が軍隊とどのように協力すべきかについては、指導者の間で常に多くの議論が行われてきました。

2018年にはすでに、4,000人を超えるGoogle従業員が、Project Mavenと呼ばれるプロジェクトへの同社の参加に抗議する抗議書簡に署名していた。

簡単に言えば、これは人工知能を使ってドローンのビデオや画像を処理し、潜在的な標的を検出する軍事プロジェクトです。

当時、プロジェクト内容を知った社員らは集団退職を選択し、インタビューでは「グーグルに来ることを誰にも勧めない」と発言していた。

「当社の技術に対する倫理的責任を第三者に委託することはできない」と嘆願書に署名した従業員らは書簡に記した。

この請願はロボット兵器管理国際委員会（ICRAC）からも支持されている。

さらに、人々は抗議のため辞職し、請願書に署名した従業員たちに敬意を表した。

当時は「ありがとう、グーグル。AI兵器の危険性はまったく予測できない」とツイートする人も多かった。

その後、Google は自社の AI 技術を武器製造や監視アプリケーションで使用することを禁止しました。ただし、ネットワーク セキュリティや捜索救助関連の軍事用途には依然として使用できます。

Google の事業が国防技術分野に参入し始めたのもこのためです。たとえば、Google はかつて、航空機のメンテナンスとパイロットの訓練のために米国空軍にクラウド コンピューティング サービスを提供していました。

Google は、AI を使用して船舶の腐食を検出する関連サービスを米海軍にも提供している。

Google の経験を前例とすれば、OpenAI は両者の妥協点を見つけ、バランスをとることができるかもしれない。最新のテクノロジーを適用するだけでなく、直接的または間接的な危害が発生しないことも保証します。

オープンAIは火曜日、サイバーセキュリティ関連を含むソフトウェアプロジェクトで国防総省と協力していると発表した。ご存知のとおり、これは OpenAI がこれまで軍隊への人工知能技術の提供を禁止してきた慣行とは大きく異なります。

同社の国際問題担当副社長アンナ・マカンジュ氏は世界経済フォーラムで、チャットGPTの開発者らは退役軍人の自殺を減らすツールの開発についても米国政府と協議中であると語ったが、同社は武器を開発しないよう差し止め命令を維持すると付け加えた。

シリコンバレーのテクノロジー大手と米軍との関係は、これまで常に不明瞭だった。 OpenAIの表現の変更は、テクノロジー大手各社が姿勢を軟化させつつある可能性を示唆している。

前述のAIの軍事利用に反対するGoogle社員による共同声明は、テクノロジー企業による政府への抵抗の頂点となるかもしれない。その後、グーグルは軍との協力により少なくとも5億ドルの利益を得た。

AI=核爆弾？

グーグルの元CEOで、現在は防衛産業の著名人であるエリック・シュミット氏は、非常に大胆な例え話をした。彼は人工知能の登場を核兵器の出現に例えたのだ。

「AI主導の自律性と分散型分散システムは非常に強力で、核兵器と同じ効果を持つ可能性があると思う」と彼は語った。

もちろん、彼は幻覚の問題についても言及しました。

OpenAI の新しい文言は依然、代替手段の余地を大きく残しており、AI を兵器開発に利用する可能性を排除しているが、データの分析やコードの作成などの用途がどうなるかは不明だ。

おそらく、データの分析や活用においては、防衛レベルでの戦争に関係するものと、そうでないものとの間に明確な区別はないのかもしれない。

結局のところ、安全は常に最優先事項であるべきです。