AIがFBIに加わったとき、KGBはそれを専門家と呼んだ

「市の東にある家で爆弾が爆発しようとしています！」

「爆弾はネズミ捕り、ＡＣデルコ社の単三電池、亜鉛メッキパイプの破片で作られており、爆弾犯と関係があると思われる。」

「テロリストからの電話です。5つ目の爆弾がFedExのベルトコンベアにあります！」

もし上記の筋書きがハリウッド映画で起こったとしたら、間違いなく FBI の分析官のグループが戦略を立て、手がかりに基づいて時間との競争を開始し、さまざまな種類のデータを使用して謎を解き明かし、予測を立て、そして悲劇を防ぐために最前線の捜査官と緊密に協力するでしょう。

これは、チェスをしたり、記事を書いたり、ゲームをしたり、他の人のためにパトロールしたり、組み立てラインで働いたりするよりも、ずっとクールだと思いませんか?

最近、米国の情報高等研究計画活動（IARPA）は、地政学的出来事を予測し、テロリスト、ハッカー、または米国の敵と見なされる人物を特定するために人工知能を使用することを提案しました。そこで、この機会に、AIを情報分析に使用することが信頼できるかどうかについてお話ししたいと思います。

科学的占い：米国の諜報機関に新しい職員が到着

IARPA の独立プロジェクトの中には、量子コンピューティング、極低温コンピューティング、顔認識、ユニバーサル言語翻訳など、技術的な観点からはよく知られた名前のものもあります。これらの一見無害なプロジェクトは、BAT などの大企業の研究室と何ら変わりないようです。

しかし、スパイと博士号を持つエリートで構成された組織であるため、すべてがそれほど単純ではないことは明らかです。IARPA は、将来起こりうる地政学的出来事について意思決定者に伝える必要があるため、米国政府の最もリスクが高く、最も広範囲にわたる秘密プロジェクトであると言えます。

彼らの懸念のほとんどは、G7加盟国がシリアに対して（特定の日に）軍事攻撃を開始するかどうか、ベネズエラは1か月にどれだけの石油を生産できるかなど、核心的な問題に関するものだ。

では、AI はここでどのような役割を果たすのでしょうか。たとえば、IARPA が資金提供している SAGE というプロジェクトでは、機械学習を使用して共同予測を行い、多数の非専門家の予測者を協力して集め、「一人の専門家よりも正確で高速」な予測を実現しています。

このハイブリッド モデルを通じて、SAGE は、機械がチャートから取得した情報、傾向の視覚化、AI による具体的な予測を人間に提供できます。

南カリフォルニア大学ビタビ情報科学研究所（ISI）のプロジェクトリーダー兼人工知能部門ディレクターのアラム・ガルスティアン氏は最近、SAGEが北朝鮮のミサイル発射実験の時期を正確に予測したと語った。面白そうじゃないですか？

古代では、未来を予測する能力を持つ AI は、間違いなく部族で最も強力な魔法使いになるでしょう。しかし、孔子はランダムな力や神について語っていません。誰もがこの不思議な能力がどこから来たのか知りたいと思います。

目と耳、スカウト、アドバイザー: アナリストの職場の規範とは? AI はどのようなトリックを学習したか?

AIは天気さえ正確に予測できないのに、どうして突然国家的な出来事を予測できるのでしょうか?

南カリフォルニア大学のコンピューター科学者フレッド・モースタッター氏は、「AI が機能するのは、人間がコインの片面を持ち、機械がコインのもう片面を持っているからだ」と語っています。AI は、時事問題を批判したり戦略を立てたりするのではなく、人間が従来の分析ツールよりも正確に未来を予測できるようにすることで機能します。平易な言葉で話すということは、「正しく推測する」可能性と効率を高めることを意味します。

ダブルイレブンの買い物を例に挙げてみましょう。eコマースのウェブサイトにある「Guess You Like」アイテムがあなたの好みに合う可能性はますます高くなっていますが、これは分析モデルと予測モデルのおかげです。

国家の政治もこの法則に従っており、さまざまな犯罪が発生する前に、異常なスパイ活動、ソーシャルネットワークの動向、消費記録などを通じて、ターゲットの行動や活動を分析・研究し、潜在的な被害を未然に防いでいます。したがって、政治予測における AI の役割は、指示された場所を攻撃できるスーパーエージェントというよりも、諜報分析官の役割に近いと言えます。

諜報アナリストはどのような能力を持つべきでしょうか? 簡単に言えば、目と耳、偵察兵、アドバイザーの 3 つです。AI はどの段階に到達しているのでしょうか?

1. ユビキタスなデジタル「目と耳」。

予測の前提は、データ収集段階でアナリストに十分な規模の正確かつ効果的なデータを提供できることです。

古代の偉大な魔法使いたちは、亀の甲羅を燃やしたり星を観察したりして未来を予言しました。 IARPA の運用モデルは、人工知能を通じてデータ収集を自動化することです。ピッツバーグ・ポスト・ガゼット紙によると、このシステムは「世界中のすべての人の生活を 24 時間 365 日記録できる」とのことです。

これには、すべての Facebook の投稿、ツイート、YouTube 動画、すべての料金所のタグ番号、すべての GPS ダウンロード、Web 検索、ニュース フィード、すべての街頭カメラの動画、さらにはすべてのテイクアウトの注文やレストランの予約が含まれます。

IARPA のシステムにより、プログラムは昼夜を問わずこのデータにアクセスして取得し、それを上流に送信して意思決定をサポートすることができます。

2. 先見の明がある模範的な「先駆者」。

データに対する感度や活用能力は人それぞれです。さまざまな情報や知能の変化に敏感でない人は、当然、未来に対する洞察や判断、予測ができません。つまり、状況認識能力（SA）が欠如しているということですが、これはAIでも同様です。

大量の情報とインテリジェンスを理解し、それを複雑な国内外の政治、経済、技術、文化環境などと組み合わせてパターンを見つけるには、複雑で高性能なモデルが必要です。

モデルは予測の基本的な方法論であり、メディアが米国の選挙結果を予測するために常に「義烏指数」を使用するのと同じです（旗などの候補者の応援小道具のほとんどは義烏で生産されています）。効果的な予測モデルは鋭いナイフのようなもので、複雑なビッグデータを分析するのに役立ちます。

この部分は、科学技術コンテストの核心的な秘密と言えます。IARPAがどのようなアルゴリズムイノベーションを採用したかはわかりませんが、一般的に言えば、よく使用されるものには、決定木、回帰技術、クラスタリングアルゴリズム、ディープニューラルネットワークなどがあり、NLP自然言語処理と組み合わせてネットワーク情報を理解し、イベントの方向と結果を総合的に判断します。

これはテクノロジー企業にとって大きな訓練の場でもあります。例えば、2015年のブラジルワールドカップでは、Google、Microsoft、Baidu、ゴールドマンサックスなどの大手企業が全64試合の結果と優勝チーム、ダークホースを予測しました。どの予測が的中率が高いかは、自分で検索して確かめてみてください。

3. 言われなくても信頼される意思決定の「アドバイザー」。

モデルだけだったら、人間の役割はないですよね？「最後にAIに奪われる職業」を選ぶとしたら、間違いなくインテリジェンスアナリストがトップにくるでしょう。理由は簡単です。分析の目的は行動を促すことです。

特に IARPA のような諜報機関にとって、最終的な目標は、さまざまな突然の政治的出来事、公共の危機、テロ活動などに対応して、的を絞った国家戦略上の決定を迅速に下すことです。

これには 2 つの前提条件、つまり 1 つ目はイノベーションが必要です。アナリストは暗黙知に基づいた処理と分析を重視し、これに基づいて独自の結論と提案を提示します。将来の不確実性に関しては、個人の既存の知識と経験が極めて重要です。インテリジェンスプロセスチェーンを例にとると、データ収集とモデル分析はおそらく前半であり、物事の方向性を変えることができる後半は専門家の知恵から生まれます。

特に、対面でのコミュニケーションを通じてしか表情や言葉、行動に反映されない主観的な情報については、依然として人間の分析者による対応が必要であり、バックエンドでのAIの効率化が優先されます。また、国家の主要政策に関する報告書など、インターネット上にデータがまったく残っていない可能性のある隠れた情報もあり、AIではその役割を果たせない場合があります。 AIが小学生並みに作文すら書けない時代、人間のアナリストの仕事は当然安定している。

IARPA は、3 ～ 5 年ごとにプロジェクト マネージャーのグループを交代します。これらのメンバーは、言語学、航空宇宙、原子物理学、人工知能、生体認証、神経科学など、さまざまな分野から来ていることが多いです。

2番目は影響力です。

アナリストが発見した「政策コード」は、密室で作成することはできず、最終的には現実にテストされなければならない。実施の厳しさは、彼らの勧告がどの程度認められるかによって決まる。 AI が活用された場合、繰り返し指示しなくても実行者が従うことを保証できるでしょうか。チームメイトが誤判断を心配することなく前進できるようにすることはできるでしょうか。予測エラーによって行動が失敗した場合の責任はどのように分担されるのでしょうか。

言い換えれば、アナリストは不確実な「アイデア商品」を販売しており、そのためには他者と関わり、認識を得て、他者にもっと行動を起こすよう動機付ける能力が必要です。

アナリストの能力システムでは、テクノロジーと影響力は相互に依存しています。後者がなければ、AI は現時点では「ツール」としてしか機能できません。

これを読んだ後では、おそらく私たちは IARPA の AI 活動についてあまり心配しなくなるでしょう。しかし、我が国の一部指導者は以前から「科学技術の法則に基づいて世界の科学技術の発展動向を先取りし、コンサルティングアドバイスを提供し、科学的評価を行い、予測や見通しを立て、国家のマクロ意思決定に建設的な役割を果たすべきだ」という意見を表明している。

AI インテリジェンスの専門家を育成する IARPA の経験から何を学ぶことができるでしょうか?

変化の前に：AI知能の隠れた危険性を解決せよ

両国の国情は異なるものの、米国政府機関が諜報活動にAIを導入する行動とそれが引き起こした国民の反応は、多くの不要なトラブルを回避するのに役立つだろう。

現在、IARPA の AI 実践については議論する価値のある点がいくつかあります。

まず、AIの予測結果は狭い範囲でしか有効ではなく、それ以上の事例は明らかにされていません。これは、テクノロジー自体の理由に加えて、多くの場所でデータ カバレッジが普遍的ではないという事実とも直接関係しています。データは予測の前提条件です。データが不十分であれば当然歪みが生じます。

また、ルールが明確ではなく、緊急事態や予期せぬ影響が満ち溢れている分野もあります。例えば、農業、林業、畜産、漁業などの伝統的な産業と比べると、ビジネスの世界は人的要因の影響を受けることが多く、常にリアルタイムで修正する必要があります。

したがって、情報や知識を獲得し、処理する AI の優れた能力は注目に値しますが、過度に神経質になる必要はありません。

さらに、IARPAはAIインテリジェンス分析を過度に重視し、国民の情報境界を侵害し始めています。以前、メディアは、IARPAが国家安全保障局が収集した数百万件の海外のプライベート通信のデータマイニングを実施していたことを明らかにした。その目的はテロ活動の防止だが、悪用やプライバシー権の侵害の可能性が多くの観察者の警戒を引き起こしている。

米国ではこうした事件は珍しくない。フェイスブックは2017年に世界各国の政府から7万8890件の情報開示要請を受け、そのうち41％は米国からのもので、85％が承認された。同様の要請はグーグルやアップルなどの企業にも行われた。

米国土安全保障省の投稿では、同省が「パスワード保護されたインフルエンサーの個人ソーシャルメディアに24時間365日アクセスし、コンテンツ、感情、量などの観点から分析できる」システムの構築を試みていることも明らかにされた。

国民のプライバシーと安全を国家の利益とどのようにバランスさせるかは、政府のデジタル技術とインテリジェント技術の管理レベルを試すものとなる。

そして、納得のいく合意解決策が提示されるまでは、ほとんどの人はこの日がもっと後に来ることを望んでいると思います。