「スカイアイ」が母親殺害事件の容疑者を発見する前に、私たちはいくら支払ったのでしょうか?

少し前、あるニュースが大きな衝撃を与えた。3年前の母親殺害事件の容疑者、呉謝宇が重慶江北空港で逮捕されたのだ。警察は呉謝宇が空港に入ってから10分も経たないうちに彼を発見したと誰かが明かした。容疑者を逮捕し、真実を明らかにするのが「スカイアイシステム」です。

中国は現在、人工知能技術を搭載したカメラ2000万台を設置しており、世界最大の監視システム「スカイアイシステム」を形成している。このシステムを使って高精度に顔を照合し、ひき逃げの運転手を特定し、コンサートを観ていた指名手配犯を捕まえ、呉謝宇を逮捕した。

このシステムでは、顔認識が重要な技術基盤となります。顔認識技術は現在、公共の安全や公共交通機関だけでなく、ますます多くの場面で応用されています。しかし、テクノロジーがもたらす利便性を享受する一方で、多くのリスクや懸念も存在します。

急速に発展する顔認識技術

未来産業研究所のデータによると、世界の顔認識市場規模は2020年までに75億9,500万米ドルに達すると予想されています。急速に発展しているこの技術において、顔認識は私たちの生活を真に大きく変えつつあります。消費者の支払いであれ、セキュリティチェックや人物検索であれ、この「顔スキャン」革命はゆっくりと私たちの生活に浸透しつつあります。

2015年、中国招商銀行は「ATM顔スキャン引き出し」サービスの開始を発表した。3年後、中国工商銀行は215支店で顔認識技術を導入した。

2017年にはiPhone XのFace IDロック解除機能が開始され、2017年までに世界の顔認識機能付きスマートフォンの数は14億6200万台に達した。

北京首都国際空港は2017年に顔認証搭乗システムを備えたスマート空港を建設した。このシステムは1分以内にセキュリティ識別と処理を完了でき、通過効率は以前のものより66％向上し、1時間あたり266人以上の処理が可能になった。

2017年にアリペイは顔認証決済の商用利用を発表し、2018年には顔認証決済製品「Dragonfly」を発売し、顔認証決済のアクセスコストを直接80%削減しました。

2017年、北京のすべての公営賃貸住宅で「顔認証」による入退室管理が導入された。

2018年、ジャッキー・チュンは顔認識技術を使って4つのコンサートで逃亡者5人を逮捕した。

2018年には、関連する警察識別とインテリジェントビジネスアプリケーションがますます普及しました。

実際、顔認識の研究は 1960 年代に始まりました。 50年以上の発展を経て、顔認識技術は大きな進歩を遂げ、多くの古典的なアルゴリズムと顔ライブラリが登場しました。現在、顔認識システムの精度は99.5％に達しますが、同じ条件での人間の目の精度は97.52％に過ぎません。現在の顔認識の精度は、肉眼よりも正確なレベルに達しています。

国内の開発スピードも劣っていません。 2018年の世界顔認識アルゴリズムテスト（FRVT）では、中国の人工知能企業がトップ10のうち5社を占めた。

2018年11月16日に発表された報告書によると、グローバル顔認識アルゴリズムは誤報率を1000万分の1に抑え、誤報率を1%未満に低減できることが示されました。つまり、誤報率1000万分の1での認識精度は99%を超えたということです。昨年の同時期と比較すると、世界の顔認識性能は80％向上しました。

開発の背後に潜むリスク

しかし、急速な発展の裏には、依然として多くの懸念すべき問題が残っています。

データソースは議論の余地がある

1 つ目はトレーニングに使用されるデータセットです。顔認識技術の急速な発展の背後には、大量のデータトレーニングという重要な基盤があります。

人工知能が高速で走る高級スポーツカーだとすれば、データは強力なパワーを提供する「燃料」です。 「燃料」の品質を確保するために、データのクリーニングに対する要件はますます厳しくなっていますが、より重要なのは、トレーニングに使用できるデータの量です。現在、研究者が使用するデータは主に「オープンソースのデータセット」から取得されています。

写真を撮るために専門的にボランティアを雇った初期の実験チームを除いて、データのほとんどはインターネットと公開データから得られます。たとえば、Yahoo が所有する写真共有 Web サイトである Flicker は、「クリエイティブ コモンズ」ポリシーを通じて、ユーザーがアップロードした写真やその他の情報を多くのオープン ソース データ セットに統合しています。Yahoo は 2014 年にはすでに、Flicker データに基づいて 9,930 枚の写真と 70 万本のビデオ URL および関連メタデータを含む 1 億枚の写真とビデオを公開していました。

映画、テレビシリーズ、スポーツの試合などから大量の公開画像を収集するオープンソースのデータ セットも多数あります。多くの公開監視データは、政府や関連企業によってセキュリティの研究やトレーニングにも使用されています。

このことは多くの論争と懸念を引き起こしました。一方で、人々は自分の顔情報がトレーニングに利用されることに懸念を抱いています。また、企業や政府によって、これに対する見解や立場は異なります。

2018年4月、Facebookは生体認証データを使用してユーザーの写真の顔認識を違法に実行し、ユーザーの同意なしに関連情報を保存しました。アマゾンは今年4月、顔認識ツール「Rekognition」を警察に提供し、人々のプライバシーを侵害しているとして物議を醸した。当時、15万人以上のアマゾンの従業員、ユーザー、非政府組織が共同で抗議活動を行った。チューリング賞受賞者はまた、法執行機関への販売の一時停止も求めた。

データの収集と使用に関しては、マイクロソフトは人権上の配慮に基づき、警察への顔認識技術の提供を拒否している。

情報漏洩リスク

2019年2月、海外ブロガーのビクター・ゲバース氏は自身のSNSツイッターで、国内の人工知能セキュリティ企業「センスネット」で大規模なデータベース漏洩が発生し、250万件以上の個人情報がアクセス可能となり、680万件の記録が漏洩したと明かした。

この情報漏洩は大きな衝撃を与えた。この会社は顔認識技術や群衆分析にディープラーニングを主に利用しており、簡単にマッチングできるよう外部にデータインターフェースを公開している。記録されている場所には警察署、ホテル、観光地、公園、インターネットカフェなども含まれている。つまり、道を歩いているときに、顔情報が抽出され、分析され、さらには漏洩される可能性が非常に高いのです。

情報漏洩のリスクの背後には、顔と他のデータラベルとの関連性に関する懸念があります。現時点では顔スキャン決済の普及率は比較的低く、顔に関連付けられたデータタグも非常に少ないです。しかし、顔認識技術が将来ますます広く利用されるようになると、この相関関係は必ず増加するでしょう。この相関関係の強化によりビジネスチャンスが生まれます。たとえば、顔情報やその他のソーシャル プラットフォームの情報を分析し、顔と関連する興味タグをパッケージ化してショッピング モールに販売します。おそらく、次にショッピングモールに足を踏み入れるときには、完全にインテリジェントなショッピングが実現され、さまざまな正確なプッシュ通知がこれに基づいて提供されるでしょう。

現在、多くの企業が意図的または無意識的にこの相関関係を高める取り組みを行っています。 Blippar アプリは、AR 技術に基づいた探索および発見アプリケーションです。このアプリで興味のあるオブジェクトをスキャンすると、関連する製品情報を確認したり、街の通りについて学んだりできるだけでなく、ソーシャル情報を直接取得することもできます。

チャンスを待つ黒人生産

単純な情報漏洩や関連性の欠如によって引き起こされる被害は、それほど直接的なものではないようです。しかし、この情報が闇業界にも利用されれば、その損失は計り知れないものとなる。

これは本質的には依然としてライバル間の対立です。

マイクロソフトのようなテクノロジー大手が顔認識のリーダーであるのは、主に、街を歩きながら毎日自撮り写真をアップロードするあなたのような人々の顔の大規模なデータベースにアクセスできるからです。テクノロジーの発展には学習のための膨大な量のデータの「提供」が必要ですが、このデータがブラック業界でもトレーニングに利用される可能性はあるのでしょうか?

これが起こっている。今年のCCTV315では、顔認識の現状のリスクが指摘されました。 2016年末には、湖北省警察は、国民の動態認証ビデオ（見上げる、見下ろす、まばたきする、文章を読む）の販売を専門とする犯罪組織も摘発した。押収された1,800GBの情報には、前面と背面だけでなく、手持ちの自撮り、横からのショット、新聞と一緒に撮ったショットなどが含まれていたが、さらに驚くべきことに、見上げる、うなずく、左を向く、右を向く、文字を読むなどの動画もあった。これらすべてが、ブラック業界が 3D モデルを形成し、生体検出を回避する方法を訓練するのに役立っています。

[[264825]]

何を心配しているのでしょうか?

実際、顔認識技術の発展を目の当たりにすると、私たちの感情は複雑になります。今回も重慶江北空港は「天眼」を通じて容疑者の呉雪宇を逮捕し、正確かつ迅速に安全を確保し、国民が恩恵を受けた。しかし一方で、顔データの不当な収集、情報漏洩のリスク、さらには個人情報盗難の可能性を見ると、少し怖くなります。

私たちは何を恐れているのでしょうか?

まず、気づかないうちにカードを紛失してしまうのではないかと不安になります。

顔はユーザーの積極的な協力なしに収集できる生体認証情報だからです。指紋、掌紋、虹彩、静脈、網膜などの他の生体認証特徴の収集プロセスと比較すると、これらはすべてユーザーの積極的な協力を必要とします。つまり、ユーザーが収集を拒否した場合、高品質の特徴情報を取得することはできません。同時に、人間の顔は自然に露出しており、隠したり変装したりすることが難しいため、顔はアイデンティティを識別するための自然な特徴になります。

つまり、眠らない「サウロンの目」を前に、情報収集中は気づかず、解析中も全く気づかず、漏洩して暴露されるまで、我々は全く無力で対抗できなかったのだ。

第二に、私たちは不可逆性を恐れています。

違法行為を防止するために、顔認識技術は認識精度のトレーニングを強化するでしょう。一方、利益を上げるために、違法行為者は生きている顔を偽装することにさらに力を入れるでしょう。では、一般ユーザーはどうでしょうか?顔は一つしかありません。もしそれが暴露されたり、漏洩されたり、なりすましに使われたりしたら、私たちは「顔」を変えることができるのでしょうか？

できません。

情報の関連付けの問題もあります。トレーニング用にソーシャル写真から抽出された情報は、現時点では非常に独立しているように見えますが、実際にアプリケーション シナリオに適用すると、「顔による支払い」であれ、推奨システムの作成であれ、より多くの個人情報が生成され、関連付けられることになります。特性情報が漏洩すると、その背後にあるリスクを予測することは困難です。

したがって、この問題に関して最も恐ろしいのは、いつ「顔」が引き渡されるかを制御できず、リスクを予測できず、結果に耐えられない可能性さえあるということです。

もちろん、私たちも矛盾しています。

現在、顔認識データの収集と使用をめぐって国際的に論争が起きている。自分の写真が許可なく訓練に利用されているという事実に多くの人が恐怖を感じているが、一方で、データが「供給」されなければ顔認識技術が成長する土壌がなくなってしまうため、私たちはもっと寛容になって、技術の発展にもっと時間を与えるべきだと考える人もいる。

論争にもかかわらず、私たちはここで止まらず、関連する収集ポリシーも徐々に改善されつつあります。 2015年以降、同国は「セキュリティビデオ監視顔認識システムの技術要件」や「情報セキュリティ技術ネットワーク顔認識および認証システムの技術要件」などの法律や規制を集中的に導入し、金融、セキュリティ、医療などの分野で顔認識の普及に強固な基盤を築き、政策上の障壁を取り除いた。

海外でも同様だ。例えばサンフランシスコは「秘密監視を阻止」条例を導入し、顔認識を禁止する都市となった。

サンフランシスコは「秘密監視を阻止」条例を提案

マイクロソフトも企業として、プライバシーを可能な限り確保しようと努めている。同社は人工知能の応用を研究するために「エーテル評議会」と呼ばれる社内諮問グループを設立し、人工知能技術の開発に関する一連の倫理原則を発表した。

いずれにせよ、現時点では私たちは無力ではありませんし、大切なものを無駄にすることもできません。懸念や疑問を提起するのは、改善のためです。技術の発展とプライバシー倫理のバランスをどうとるか、そして完全な収集の仕組みをどう構築するかについては、今後長く考え、取り組んでいく必要があるでしょう。