AI脳を搭載したドローン：群衆の中の暴力的な人々を正確に識別できる

もしある日私を殴りたくなったら、ただ殴って終わりにできると思いますか?

今はそんなに簡単ではありません。今、私を殴りたいなら、私の両親に同意するかどうかを尋ねるだけでなく、AIに同意するかどうかも尋ねなければなりません。行動を起こす前に、私のAIに妨害される可能性があります。

そうです、今「暴力検知」が話題になっています。群衆の中の「暴力行為」をリアルタイムで検知することが現実のものとなった。喧嘩をしたいなら、まずはAIが同意するかどうか確認したほうが良いだろう。

暴力を検知するAI

「暴力行為」を検知できるこのAIシステムは、英国ケンブリッジ大学、インド国立工科大学、インド科学研究所の研究者らによって開発された。このタイプのAI技術は、ホバリングするクワッドコプターに搭載されたカメラを使用して、各人の体の動きを検知する。そして、システムが殴る、蹴る、刺す、撃つ、首を絞めるなどの攻撃的な行動を識別すると、85%の精度で警報を鳴らします。

顔を認識するわけではなく、単に人同士が暴力を振るう可能性を監視するだけだ。

このシステムは、国境を不法に越える人々を自動的に識別したり、公共の場での誘拐を発見したり、暴力行為を検知したときに警報を鳴らしたりするように拡張される可能性がある。つまり、ある意味では、この自律型スパイドローンは、警察が犯罪を抑制するのに役立つかもしれないし、兵士が罪のない人々の中から敵を見つけ出すのに役立つかもしれない。

AIが暴力行為を検知すると、主に絞殺、殴打、蹴り、射撃、刺殺の5種類に分類します。システムはまずFPN（Feature Pyramid Network）を使用して、存在するすべての人間を検出し、頭部、上肢、下肢の重要な14箇所をマークして、人間の骨格を描画します。 SHDL ネットワークは、手足の向きなどのデータを分析して、それらの人々が暴力を振るっているかどうかを判断できます。

もちろん、AI による暴力検出の有効性は、データを処理する人の数とも密接に関係しています。一般的に言えば、システムが処理しなければならない人数が少ないほど、精度は高くなります。処理する必要がある人が 1 人だけの場合、システムの精度は 94.1% に達します。人数が 10 人を超えると、精度は 79.8% に低下します。同様に、絞殺、殴打、蹴り、射撃、刺殺の 5 種類の暴力行為を検出する場合も精度に違いがあります。

一方、ドローンの応用には使用条件に関して一定の制限もあります。実際の応用シナリオでは、ドローンは戦闘中の群衆に直接近づくことはできず、高高度での検出しか行えないため、視認性と検出精度がある程度低下します。

AIによる暴力検出には依然として多くの問題がある

AI 検出は人工知能の分野では何も新しいものではありません。 Dextro が機械学習を使用してビデオの音声と画像情報を解釈する場合でも、Google がカクテル パーティー問題を解決し、新世代の Google アシスタントを成功裏にリリースする場合でも、AI 検出は常にさまざまな分野で重要な応用方法となっています。

クラウドで推論を実行すると、人々のビデオがサードパーティのコンピューティング システムに送信されるため、潜在的なセキュリティとプライバシーのリスクが生じます。 AIが日常生活の監視プロセスに浸透するにつれて、智能相対理論（aixdlun）のアナリストであるKe Ming氏は、まだ「解決すべき」問題がいくつかあると考えています。

1. ユーザー情報の漏洩が蔓延

2017年はデータ侵害が横行した年でした。ジェムアルトが最近発表したレポート「2017 年、国際セキュリティ慣行の不備が大きな打撃を与える」によると、2017 年上半期だけで盗まれたデータの量は、2016 年全体で盗まれたデータの総量を上回った。

2017年1月から6月まで、毎日平均1,050万件の記録が盗まれました。データ漏洩の多くは外部のハッカー攻撃によって引き起こされますが、記録の盗難や紛失はわずか 13% を占めています。対照的に、内部の悪意のある漏洩、従業員の過失、意図しない漏洩は、盗まれた 19 億件のデータのうち 86% を占めています。

ケンブリッジ・アナリティカのスキャンダルにより、8,700万人の個人情報が漏洩し、ドナルド・トランプ氏の2016年米国大統領選挙の結果に影響を与えた。 Facebook のデータ漏洩事件は、情報漏洩の危険性を改めて人々に示しました。「強制行為」や「誘導行為」は、ユーザー情報を使用して多くのデータ企業が行う悪質な行為となっています。

AI暴力監視システムが悪意を持って利用された場合、それがもたらすリスクはさらに深刻になると考えられます。 Amazon の Rekognition サービスのようなこのような顔認識技術は、すでに米国の警察で使用されています。こうしたシステムは誤報率が高く、あるいは単純に不正確であることが多いため、このような技術がドローンに統合されるまでにはしばらく時間がかかるだろう。

2. 「ビッグデータが馴染みのある顧客を殺している」

現在の多くの AI アプリケーションのパフォーマンスから判断すると、プライバシー データの漏洩によって引き起こされる「ビッグデータによる既存顧客殺し」は無視できない問題です。

情報漏洩は、一般ユーザーのオンライン アカウントのセキュリティを脅かすだけでなく、実生活のあらゆる側面に直接影響を及ぼします。フェイスブックのユーザーデータ漏洩をめぐる最近の騒動により、世界中のユーザーが不安を感じており、多くの著名人が自身のプライバシーデータのセキュリティを守ることを誓い、フェイスブックからの脱退を発表している。

少し前に、Didi がビッグデータを使ってユーザーをターゲットにしていたことが暴露され、世論の激しい反発を招いた。明らかに、特に価格が上がる場合、差別的な扱いを受けるのを誰もが好むわけではない。滴滴出行はその後すぐに事実を明らかにしたが、ビッグデータを活用して既存顧客をターゲットにするこの手法は、すでに世間に知られていた。

では、ビッグデータによる価格差別とは何でしょうか？一般的に言えば、この行為はビッグデータを利用してユーザーの消費潜在力を判断することを指します。ユーザーが高額消費者であると判断されると、そのユーザーは異なる扱いを受け、消費価格が引き上げられ、同じ商品やサービスを楽しむために他のユーザーよりも多くのお金を使うことになります。

インターネット上で古い顧客を利用する行為は、何も新しいものではありません。インターネットの誕生以来存在してきました。 2000年に、旧知の人物を殺害する事件が発生し、注目を集めた。あるアマゾンのユーザーは、ブラウザのクッキーを削除したところ、以前閲覧していた DVD 製品の価格が 26.24 ドルから 22.74 ドルに下がったと報告した。

このニュースが報道されるやいなや、世論から大きな圧力を受けたアマゾンは、この機能は顧客ごとに異なる価格を表示するための単なる実験であり、顧客データとは全く関係がないと釈明せざるを得なかった。結局、この信頼の危機を乗り越えるために私たちにできることは、広報活動に全力を尽くすことだけでした。今日のインターネット企業の中には、どうやらアマゾンに何が起こったのかを忘れてしまい、同じ過ちを繰り返そうとしているところもあるようだ。

3. AIによる監視は対象者の「知る権利」を侵害する可能性がある

AI 監視のプロセスにおいて、「情報に基づく」ことは確かに倫理的議論の焦点となっています。 「どのように監視するか」と「それを認識すべきかどうか」をめぐっては常に論争が続いています。実際、行動認識技術の継続的な発展により、多くの認識技術は「制御されていない」性質を実現できるようになりました。つまり、被験者の協力がなくても正確な認識を実現できます。

これは間違いなく AI 倫理を新たなレベルに引き上げるものです。情報がもはや私のものではないという事実は本当に恐ろしいです。そのため、公安や犯罪捜査の分野では、AI監視は依然として説得力がありますが、他の民間分野、さらには商業分野では、「情報の取得」と視聴者の基本的な知る権利の保護と満足とのバランスをどのように取るかが、重要かつ難しいポイントになるでしょう。

明らかに、多くの大企業は「情報の取得」と「プライバシーの保護」のバランスを積極的に模索しています。フェイスブックの最高執行責任者シェリル・サンドバーグ氏は、5月に施行される欧州連合の新しいプライバシー規制に対応して、フェイスブックの20億人のユーザーが個人データをより簡単に管理できるようにすると発表した。

欧州連合では、今年5月に施行される一般データ保護規則（GDPR）が、インターネット誕生以来最大の個人情報プライバシーデータ規制の改正となる。この規制は、EU加盟国の居住者に自身の情報を管理する権限をさらに与えることを目的としており、企業がユーザーデータをどのように使用するかを規定している。

一般的に、暴力を監視する AI の出現は、セキュリティや犯罪捜査の分野に便利な方法を提供します。しかし、非常にデリケートな分野であるため、正確性の問題を無視することはできません。結局のところ、善良な人を誤って非難するのは決して良いことではありません。