軍事用AIは普及するだろうか？公共の安全を重視すべきか、住民のプライバシーを重視すべきか？

ここ数カ月、軍事用AIと能動攻撃兵器の問題が話題になっており、多くのAI研究者がこの技術の軍事化に共同で反対している。

しかし、残念なことに、AI の多くの機能は、非常に複雑な環境と組み合わせることができるのです。同様の技術は民間市場での足掛かりを見つけるのが難しいため、軍事用 AI が自然と技術進歩の方向になりました。しかし、別の視点から考えてみましょう。軍事用 AI が広範囲にわたるパニックを引き起こす可能性があるのであれば、警察での使用に切り替えたほうがずっと良いのではないでしょうか。

AI を活用して公共の安全を強化し、警察の効率を改善するのは良いアイデアだと思いますか?

もちろん、映画『ロボコップ』に描かれた世界からはまだ遠い。しかし、私たちがあまり注目しない警察技術の世界では、AIが存在しないことは一度もありません。実際、多くの技術は非常に最先端でSF的な雰囲気があり、実際の戦闘に投入されています。

多くの AI 応用分野と同様に、論争と不安も AI + 公共安全の道のりにおいて重要なトピックです。今日は、警察AIの開発の方向性、レベル、そしてその背後にある論争について見ていきましょう。

多くの警察映画やギャング映画では、潜入捜査官と警察を区別できないことがよくあります。もしかしたら将来、法執行が本物の警察によるものか、AI 警察によるものか区別がつかなくなる日が来るかもしれません。考えてみるとなかなか面白いですね。

ツールを最大限に活用する：警察装備から始まるAIの進化

ローマは一日にして成らず、AI警察がすぐに人間に取って代わることは不可能だ。現実世界では、AI の主な役割は、警察官がそれほど苦労しなくても済むように警察官の装備をアップグレードすることです。

アメリカ映画では、警察が電気を帯びたダーツを発射するテーザー銃を使って容疑者（時には主人公）を制圧するシーンが人々の心に深く刻まれている。テーザー銃の製造元であるAxonは現在、包括的なAI変革を開始している。たとえば、法執行機関の記録装置に AI 技術が使用されました。

米国の多くの地域の警察が設置しているAI法執行レコーダーは、カメラの背後にあるアルゴリズム認識と分類機能を通じて、法執行情報を自動的に編集し、アーカイブすることができます。この機能の原理は携帯電話の画像認識と同等ですが、警察情報用の大規模なデータベースと強化された機械学習に基づいています。この機能により、法執行官は撮影した映像の編集やアーカイブ化に多くの時間を費やす必要がなくなり、作業時間を節約できます。

警察装備に重点を置いた企業としてスタートしたAxonは、現在では企業目標をAIに完全に定めています。彼らは、AIがもたらす認識、判断、積極的な分析機能を通じて、警察の事務作業やデータ編集作業をすべて置き換えることを望んでいます。

事務作業を単純に置き換えるだけでは効果が不十分だと思われるなら、もっと効果的な方法が確かにあります。たとえば、尋問を支援するために AI を使用するなどです。

日立とMITは協力し、撮影対象者の心拍や脈拍などのデータを正確に識別できるAIカメラソリューションを発売した。この技術の応用シナリオの 1 つは、尋問中に容疑者の生理的状態や顔の変化を監視し、容疑者が嘘をついている可能性があるか、非常に緊張している可能性があるという結論を導き出すことです。実際、これは AI 嘘発見器と同等です。

この技術の価値は、容疑者に関する情報を過剰に収集するのではなく、尋問官の言葉や表情を観察する能力を AI に統合して尋問を支援する点にあります。もちろん、この種の技術はまだ登場し始めたばかりです。

もう一つの大きな市場はパトカーです。少し前、米国メディアはフォードが自動運転パトカーの新たな特許を申請したと報じた。関連情報によると、フォードの新型パトカーは自動運転ができるだけでなく、車載カメラやセンサーを通じて路上の他の車両の違反行為を検知できる。同時に、公共のカメラなどの設備に接続して、3次元の車両自動法執行システムを形成することもできる。

特許情報によると、このタイプのパトカーは人間の介入なしに自動で切符を発行することができ、状況に応じて疑わしい車両を積極的に追跡したり、尾行したりすることもできるという。

交通違反切符は、実はパトカーから発行されたものです。これはすごいことではないでしょうか。しかし、フォードは自動運転パトカーの分野では多くのプレーヤーの1社にすぎません。自動運転産業の発展に伴い、パトカー市場は新旧の自動車メーカーの激戦区となるでしょう。

私は街の目と耳です。カメラの後ろにいるスーパーAI警察です

上で述べた AI は、明らかに警察映画やギャング映画では脇役です。しかし、誰もが主導的な役割を演じたいと思っており、AIもおそらく例外ではありません。

もし AI が人間の警察にはできないことを私たちに代わって実行できるのであれば、当然 AI は目立つ存在になるでしょう。例えば、街中の無数のカメラのデータを同時に閲覧することができます。都市のカメラネットワークと公共の安全をめぐるドラマの中で、AI が「スーパー警官」としてデビューする準備が整っています。

街のカメラの背後にいる AI の最初の仕事は、もちろん、群衆の中にいる逃亡者を見つけることです。周克華が逮捕されたとき、警察は大量の警官を派遣して昼夜を問わず監視していたことを思い出します。AIがこの任務を迅速に完了できれば、それは間違いなく大きな善行となるでしょう。

今日の顔認識技術の高度さを考えると、近距離から逃亡者を特定することは難しくありません。難しいのは、街中のカメラが捉えた大勢の人々の中から、人物の顔データを正確に識別することです。たとえば、Indect と呼ばれるヨーロッパのカメラと顔の位置特定プロジェクトは、サッカースタジアムの観客席にいる容疑者を見つけることができると主張しています。カメラと顔認識技術を使って逃亡者を捕まえる技術も中国で急速に発展しており、多くのマシンビジョン企業が同様のアルゴリズムソリューションを提供しています。

カメラの背後にあるもう 1 つの AI セキュリティ アプリケーションは、群衆の密度を予測し、群衆の避難を誘導するためのリアルタイムの警告を提供することです。我が国のような人口の多い国では、群衆が集まった際に起こる群衆事故は、社会保障上の重大なリスクです。 AIを使用して群衆の混雑を識別することは効果的な解決策です。現在、中国の多くの一級都市、二級都市では、市街カメラの背後にあるAI早期警報装置の運用が開始されている。

歩行者の流れの制御と同様に、車両の流れの制御も都市安全 AI の主要な焦点です。たとえば、カメラを使用して自動車事故が発生したかどうかを判断してすぐに警察を呼ぶことができます。また、異常な車両の走行軌跡を使用して飲酒運転や疲労運転を判断することもできます。これらはすでに中国のいくつかの都市で導入されています。

さらに興味深いのは、都市の治安を担う警察のAIは「見る」だけでなく「聞く」こともできるという点だ。

シリコンバレーの新興企業が、マイクとAIを使って複雑な都市の騒音の中から銃声を識別する都市警察システム「ShotSpotter」を開発した。銃声が聞こえると、システムが自動的に警察に通報し、銃撃現場を正確に特定します。

もちろん、見たり聞いたりするだけでなく、考えることができたら最高です。心配しないでください。この AI でもできます。 2016年に富士通と電気通信大学が協力プロジェクトを発表した。その内容は、街中のカメラで犯罪事件を監視後、AIシステムが自動的に警察の対応計画や警察力の配置計画を立案するというものだ。そのアルゴリズムには、近くに警察部隊を配置し、容疑者の逃走ルートを予測し、道路を封鎖して検問所を設置する計画を立案するという原則が含まれている。現在、このシステムは人口密度が高く地形が複雑な東京で、5分以内に警察の配備計画を提示できる。

カメラの後ろに隠れた AI 警察が世界中で活動を開始し、街のあらゆる動きを監視しています。これが十分強力ではないと思われるなら、犯罪を予測するのはどうでしょうか?

「マイノリティ・リポート」をご覧になりましたか？ 大きな予測技術が到来

今日「マイノリティ・リポート」について話すことで私の年齢がバレてしまうかどうかは分かりませんが、犯罪を予測するAIといえば、私は今でもその映画に出てくる「預言者」を思い出します。

犯罪予測といえば、警察テクノロジー業界でよく知られている企業である PredPol を挙げなければなりません。 IBMやモトローラなどの企業が犯罪防止システム市場に参入しているが、2012年に設立されたばかりのPredPolは、米国全土の数百の地域の警察署をカバーし、犯罪率の削減に関する非常に強力なデータフィードバックを提供してきた。

PredPol のビジネスは、聞こえるほど謎めいたものではありません。その基本的なロジックは、過去の犯罪率の曲線と、犯罪事件の絶えず変化する時間と場所のデータに基づくビッグデータ分析アルゴリズムを使用して、どの地域の犯罪率が高いか、どの通りで強盗が多いか、どの期間に都市がより危険であるかなどの結論を導き出すことです。これらの結論は、警察がパトロールのルートや時間を調整し、犯罪発生率が高い時間帯や場所に警察の人員を多く投入するための指針として活用される。

これは大したことではないように聞こえるかもしれないし、どの警察官も集中パトロールの問題について間違いなく知っているだろう。しかし、以前は主要なパトロールは個人の経験に頼っており、警察全体の調整が困難でした。 PredPolの利用率は6年間で数十倍に拡大しており、こうした「犯罪予測」が有効であることがある程度実証された。

同様のプログラムが米国から他の国々にも広がり始めています。例えば、数日前、日本の神奈川県警察は、2020年の東京オリンピックに向けて予測型セキュリティシステムを確立したいと考えて、財務部に研究資金を申請しました。ビッグデータ システムと AI 分析機能を組み合わせて、より厳格なセキュリティ保護メカニズムを構築します。

すでに使用されているシステムが十分に強力ではないと思われる場合は、さらに最先端の研究に目を向けるべきです。 PredPol はもともと警察技術のスタートアップ プロジェクトではなく、2 人の科学者の研究成果でした。 PredPol の立役者の一人は、カリフォルニア大学ロサンゼルス校のジェフ・ブランティンガム教授で、彼は今日の「犯罪予測」の分野における先駆者であり代表的人物です。

少し前、ジェフ・ブランティンガムのチームは、「ギャング犯罪分類のための部分生成ニューラルネットワーク」と題した論文で、ディープラーニングネットワークを使用してギャング犯罪の特徴を識別し、群衆の中からギャングのメンバーを識別するという概念を提案しました。

この時点で、物事はおそらく少し「SF」風味を持っているでしょう。

ブランティンガム氏のチームの研究では、ロサンゼルス警察から2014年から2016年までのギャング犯罪に関するすべてのデータを収集し、それをディープラーニングニューラルネットワークに入力したところ、アルゴリズムがギャング犯罪の特徴的な理解と行動の枠組みを自動的に生成した。多くの場合、AI は不足している証拠を自動的に補完するために使用されます。長い訓練期間を経て、AI はギャング犯罪とギャングに対する独自の理解を習得し始めました。現実に戻ると、警察が新たな容疑者の情報をAIシステムに入力すると、AIはその人がギャング組織やギャング犯罪に関与しているかどうかを判定できます。

研究者らは、この研究の将来的な目標は、大量のデータがない場合でも容疑者がギャングのメンバーであるかどうかを判断できるようにすることだと述べている。これは非常に革新的な技術と言えるだろう。

この技術は科学者が遊んでいるだけのものだと思ってはいけません。この技術は、時空間ゲーム理論と機械学習技術で過激主義と戦うことを目的として、米国国防総省から資金提供を受けています。ギャング犯罪の予測後、ブランティンガム氏のチームは、特定の犯罪タイプの予測とリアルタイムの犯罪予測をさらに研究する予定です。

好むと好まざるとにかかわらず、AI による犯罪の「優れた予測」が現実に近づいているのは明らかです。そして、彼の道のりにはプライバシー、差別、信頼性のなさに関する論争がつきまとう。

安全かプライバシーか：警察AIの原罪ゲーム

グーグルは昨年、顔データを使って犯罪者を予測するという中国の大学の研究が極めて信頼性に欠けると指摘する長い記事を発表した。その理由は、この研究は犯罪者のデータベースを分析し、「特定の顔の特徴を持つ人は犯罪を犯す可能性が高い」という結論を出したためであり、明らかに無関係な2つの情報を無理やり組み合わせたものだ。

「顔読み」に似たこの AI 茶番劇は、私たちに可能性を教えてくれています。私たちは未来を知りたがりすぎて、データの帰属をあまりにも望んでいるのです。これら 2 つの問題のある考え方によって、一見魔法のような結果が数多く生み出されてきた可能性があります。

例えば、批評家たちは前述のAIによるギャング犯罪予測を非難している。なぜなら、そのデータソースはすべて、ロサンゼルス警察から提供された事件情報と警察が導き出した結論から得られているからです。 AIが正確な判断を下したいのであれば、ロサンゼルス市警の判断がすべて正しいという事実に基づかなければなりませんが、これはギャング犯罪では明らかに不可能です。

データ間の不自然な関係により、多くの予測型警察 AI は当初から疑問視されていました。ディープラーニングのプロセスのブラックボックス的な性質も、観察者や一般の人々からの批判の的となっている。研究者はAIがどのように犯罪を予測するのかさえ理解していないのに、そこに何か問題があると敢えて言うのだろうか？

さらに苛立たしいのは、技術的な問題が警察の AI テクノロジーが直面している最初の困難にすぎないということだ。さらにレベルが上がると、私たちは差別やプライバシーといった非常に難しい問題に直面することになり、テクノロジーは倫理的なジレンマに対してさらに無力になるでしょう。

例えば、先ほど述べたAIが予測した重点巡回エリア。この事件が日本で起こる前から、メディアはすでに、この事件によって特定の地域で警察のパトロールが強化され、その地域の住民や商店に不満が生じる可能性があるという懸念を表明していた。

米国では、この不満は長い間表明されてきました。 2016年、アメリカ自由人権協会と10以上の人権団体が共同で声明を発表し、警察が巡回、尋問、逮捕のツールとしてAIを使用するのは不適切であると主張した。この背後には、警察制度が特定のコミュニティ、さらには特定の民族グループに対して深刻な偏見を持っていることが背景にある。

一部のメディアは、より陰謀論的に、カリフォルニア州の多くの都市の警察が犯罪を予測するためにAI技術を利用することに熱心すぎると信じている。おそらく、証拠がない場合や証拠がない場合でも法律を執行したいと考えているのだろう。

プライバシーをめぐる議論はさらに深刻だ。逃亡犯を追跡するための街頭カメラは比較的「優しい」技術のはずだが、路上にいる全員を認識できるこの技術を住民のプライバシー侵害だと批判する声は依然として多い。 「認識されないこと」もプライバシー権の一つであり、言うまでもなく住民は自分のデータがどのように使用されるかを制御できない。

警察の持つ識別ツールがより強力になるにつれ、犯罪者が活動できる空間は当然ながらますます狭まるだろうが、一般住民が感じるプライバシーの抑圧感も増大するだろう。 AIの認識能力が爆発的に発達している現代において、これは十分に説明できない矛盾なのかもしれない。

警察のAI技術の分野では、公共の安全を重視するか住民のプライバシーを重視するか、技術の適切さを優先するか、その適用の効率性を優先するかという、終わりのない駆け引きが繰り広げられている。

AI は常に諸刃の剣であり、これはセキュリティ分野で特に顕著です。