グーグルの従業員は米国の人工知能プロジェクトへの参加に反対する公開書簡を発表した。「私たちは違う」

[[225697]]

最近、テクノロジーの世界で、米国防総省をも巻き込み、大きな騒動を引き起こす出来事が起こりました。

現状はこうだ。Google の従業員が米国防総省の人工知能プロジェクトへの参加に反対する公開書簡を発表し、3,100 人以上が署名した。この公開書簡の訴えは、Google は戦争に関与すべきではない、また Google とそのサプライ チェーン エコシステムは決して戦争技術を開発すべきではない、というものです。同社に対し、米国国防総省のプロジェクト「Project Maven」からの撤退を要請した。

外国メディアはこの事件について急いで報道した。

1. 国防総省は、ドローン映像の分析に Google の TensorFlow API を使用しています。

2. グーグル・ホールディングスの親会社の取締役会メンバーであり、同社の元会長でもあるエリック・シュミット氏は、国防イノベーション委員会の委員も務めている。

3. 米国国土安全保障省は、空港のセキュリティスキャナーで検出された物体を識別するための新しいアルゴリズムを見つけるために、Googleとそのクラウドソーシング競争プラットフォームKaggleと協力し、150万ドルを費やしました。

事件が起きるとすぐに、社外の反対派は、会社は従業員の意見に耳を傾けるべきだとしても、経営組織として民主的な方法で意思決定を行うべきではないことを従業員も明確に認識すべきだと主張した。このことから、反対派の意見は Google の文化に対する彼の無知を反映しているにすぎないことがわかります。「透明性」は Google の中核となる文化的概念の 1 つです。

透明な企業文化とは何でしょうか?簡単に言えば、文化的雰囲気は、従業員と上級管理職の間のあらゆる形態のオープンなコミュニケーションをサポートします。多くの企業が同様の形式を採用しているとしても、企業文化がそれをサポートしておらず、従業員は経営陣と面談しても何も言えないのです。実際、透明性は、企業の従業員の間で広まる憶測や疑惑の文化ではなく、誠実さ、説明責任、オープンさの文化を育みます。これにより、チーム内に不安と不信が生じます。

優れた企業文化は、人々の間に互いに必要とされるつながりを確立し、そのつながりが人々に強さと活力を与えます。しかし、一部のアナリストは、書簡の内容を知るグーグル社員数名が匿名を条件に話したとメディアで指摘しており、彼らは後に捕まり処罰されることをまだ心配している可能性があると示唆している。しかし、公開書簡が出された後、3,100人以上が署名し、従業員が矛盾や対立について非常に高いレベルの認識を持ち、参加して議論する意欲があることが証明されました。

Google の従業員があえて同社の経営陣に公然と反論する主な理由は、「自分たちは違う」と感じているからだ。グーグルの広報担当者は公開書簡を受け取った後、ニューヨーク・タイムズ紙に声明を発表し、同社が従業員と会社との間のオープンなコミュニケーションの形を初めて認識したと述べた。それを「非常に重要かつ有益」と評価します。しかし、彼はプロジェクトにブレーキをかける計画については何も言及しなかった。声明ではまた、国防総省が使用する技術は「Google Cloud のあらゆる顧客」が使用でき、「非攻撃目的」にのみ使用されることも強調した。

グーグルの広報担当者は次のように語った。「当社は政府機関と協力してテクノロジーソリューションを提供してきた長い歴史を持っています。この特定のプロジェクトは、国防総省がオープンソースの TensorFlow API を提供するためのパイロット プロジェクトです。この技術は画像にフラグを立てることができ、非攻撃的な目的にのみ使用されます。軍事分野における機械学習の応用は当然注目を集めます。当社では、機械学習技術の開発と使用に関するポリシーと保護策の開発を継続する中で、この重要なトピックについて社内および他の関係者と積極的に議論しています。

Google 社員からの公開書簡を通じて、Google 社内で議論を引き起こした原因を具体的に見てみましょう。

米国の防衛はシリコンバレーのテクノロジー企業を早急に受け入れる必要がある

まず、米国国防総省のプロジェクトである Project Maven の背景を見てみましょう。

対テロ戦争中、テロ組織はテロ攻撃を実行するために必要な技術を購入しました。米国国防総省は、特に米国の防衛システムの情報技術が比較的遅れていることと比較すると、高度な技術の使用について反省しました。 2000年から2008年にかけて、科学技術とインターネットの急速な発展は、米国の防衛情報技術の老朽化と対照的でした。米国国防総省は官僚組織として知られ、官僚主義文化が根強く残っています。イノベーションに対する抵抗や困難さは想像に難くありません。 「我々はリスクを冒す動機がない」このような発言は、国防総省のあらゆるレベルの職員の間で長い間一致した見解であった。

このような背景から、硬直した官僚主義や保守的な文化を打破することを目指したさまざまなプロジェクトが登場しました。Project Maven もその 1 つです。前述のグーグル・ホールディングスの親会社の取締役は国防イノベーション委員会のメンバーも務めており、これは米国防総省が専門的な技術委員会の役割を吸収するという重要な動きとも言える。

米国防総省のプロジェクト・メイヴンがシリコンバレーのテクノロジー大手グーグルを発見したのはなぜか？主に最先端技術の獲得のため、国防上のニーズを解決するために商業技術の革新が必要です。実際、米国防総省の考え方は非常にシンプルです。必要なものは何でも買うだけです。買って、買って、買って。お金に不足することはありません。

人工知能の戦争アルゴリズムが矢面に立つ

現在、米空軍は人工知能を作戦に取り入れる措置を講じており、米国国防総省はすでに人工知能技術が軍事情報のさまざまなニーズを満たすことを発見している。彼らの最初のプロジェクトは Project Maven で、人工知能と機械学習を使用してドローン映像を素早くふるいにかけ、有用な情報を収集します。 2017年4月には、米国防副長官がプロジェクト・メイヴンを立ち上げる覚書に署名し、ドローンによる動画処理、発見、配信の自律性レベルを向上させるドローンフルモーション動画用の人工知能アルゴリズムプロジェクトを開始した。

このプロジェクトは、人工知能アルゴリズムを使用して、ドローンの戦場から取得した膨大なデータを機械学習で分析およびマイニングし、貴重な作戦情報と軍事的洞察に変換します。これは、人工知能の軍事応用の先例を開き、米国国防総省の戦場での人工知能技術の応用における重要なマイルストーンです。

Project Maven チートシート

現在、アナリストが価値のあるコンテンツを見つけるために、多くの時間を費やしてビデオを視聴する必要があることが悩みの種となっています。このプロジェクトがうまく実行されれば、軍事情報担当者の時間コストが削減されるだろう。

実際、米国国防総省は人工知能に精通している。

• 2017年4月、空軍は自立飛行が可能な実験的なF-16戦闘機を披露した。

• 2017年5月、米海兵隊は遠隔操作の機関銃ロボットの試験を開始し、自動化への意欲を表明した。これらすべては、進行中の人工知能軍拡競争において米国がライバルに先んじることを望んでいることを意味する。

• Project Maven は、パスファインダー プロジェクト、または「パイロット プロジェクト」としても知られています。

米国国防総省は、人工知能を全面的に受け入れるという姿勢を明確に表明している。 Google の従業員は Project Maven への参加に明確かつ公然と反対しました。

アマゾン、グーグル、マイクロソフトが政府受注を競う

クラウドサービスに関しては、米国国防総省もグーグルを含むシリコンバレーのテクノロジー企業との協力を模索している。さらに、アマゾンは画像認識の研究成果を米国防総省に売り込む努力を惜しんでおらず、マイクロソフトはこれまでにも軍や防衛機関の機密情報を処理するために米国政府とクラウドサービスの契約を結んでいる。現在、グーグルの従業員は超大口顧客である米国防総省からの注文は受けないと公言しているが、一方でマイクロソフトとアマゾンは米国防総省からの注文に非常に熱心であり、両者の状況は対照的となっている。

クラウド サービスに関しては、米国国防総省は、テクノロジー企業からクラウド サービスを購入するための特別計画「Joint Enterprise Defense Infrastructure Cloud」も制定しました。米国国防総省は将来の戦争におけるクラウド サービスの根本的な重要性を確実に認識しており、その技術を所有する業界大手から購入することが間違いなく最善の選択肢です。問題は、どれを 1 つだけ購入するか、それとも複数をまとめて購入するかということです。

この特別プログラムは、クラウド インフラストラクチャを使用して標準化とセキュリティの向上を実現し、防衛部門の情報共有とコンピューティング機能を向上させ、最小の戦闘部隊から指揮官まで誰もがその結果を使用して戦争中のリアルタイムの情報を取得し、より適切な戦闘決定を下せるようにすることを目的としています。注目すべきは、米国防総省がこの特別計画を推進した際に「戦闘による死傷者の削減」などに言及していたことである。しかし、国防総省がそれを死の機械を作る以外の目的には使わないことは誰もが知っている。今回、国防総省の最高管理責任者（国防副長官に次ぐ国防総省第3位の役人）のジョン・ギブソン氏は、メディアの質問に答えて、今回の協力の理由の一部は「殺傷力と戦闘即応性の向上」にあると率直に述べた。

また、グーグルは米国防総省からの巨額の注文をめぐってアマゾンやマイクロソフトと競争するだろうという主張もある。現時点ではこの発言が真実かどうかは確認できませんが、これまで Google は軍事プロジェクトを引き受けることに常に慎重であり、軍事産業の一部となることを避けようと懸命に努力してきたことは確かです。この概念は社内で暗黙の合意にさえなっています。一例を挙げると、2013年にGoogleは軍事研究機関と関係のあるロボット企業を買収した後、国防高等研究計画局（DARPA）からの資金提供を断った。

業界関係者の中には、企業と提携した国防インフラストラクチャ クラウド サービス プログラムは、国防総省の非機密、秘密、極秘の要件をサポートするクラウド サービス ソリューションを提供するように設計されていると言う人もいます。米国国防総省が発行したクラウドサービスの注文総額は20億ドルに達する可能性がある。こんな光景が想像できるでしょう。アメリカのテクノロジー企業が、自社の公式サイトに「米国防総省のクラウド サービスの唯一のパートナー企業」という宣伝ページを掲載しました。恐ろしく見えませんか?テクノロジー企業が戦争に関与することは、良い評判となるのか、それとも悪い評判となるのか?

米空軍は人工知能技術を諜報活動に導入したいと考えている

中国の人工知能投資家が注意する必要があるもう一つの点があります。国防情報局の作戦支援局長はロイター通信に対し、シリコンバレーのテクノロジー企業が同様の画像認識技術を開発し、軍事上の敵対勢力が使用していることに気付いたと語った。そこで調査機関（CB Insights）は2012年から、中国が投資し米国で開発された人工知能技術企業の追跡を開始し、その数は29社に達した。同幹部はまた、中国が先端技術を開発する新興企業に投資する場合、中国（投資家）がその企業と米国防総省との協力を禁止する可能性があるため、米国が機会費用を負担することになると考えている。

要約する

この公開書簡が Google 社内にどれほどの影響を与えるかはまだ分からないが、Google と政府の間の微妙な駆け引きは今後も続くだろう。しかし鍵となるのは、グーグルがテクノロジー企業の人工知能技術と現代の国防や軍事との境界がどこにあるのか、そしてその境界をどうコントロールするのかを探ることができるかどうかだ。 「テクノロジーに国境はない」とよく言われますが、軍隊の存在は、実は国境の存在そのものであり、人類とテクノロジーの未来に関わる大きな課題となるでしょう。