顔認識の背後にあるもの：怖いのは技術ではない

[[312730]]

以前、AI顔変換ソフトウェアZAOが一夜にして人気を博したことで、サーバーが「満杯になって崩壊」する危機に陥っただけでなく、ユーザーの安全とプライバシーがさまざまな危険な領域にさらされました。

海外でも同様の状況は珍しくありません。

今年7月、「顔を変える」ソフトウェアが多くの（アメリカの）携帯電話ユーザーをパニックに陥れた。 FaceAppと呼ばれるこの写真編集ソフトウェアは、撮影した顔にリアルな年齢感を与える機能により大きな支持を集め、以来オンラインでバイラル現象となっている。

そして、主要なソーシャル プラットフォームや写真共有 Web サイトを見てみると、それらはすべてその結果です。

当初、FaceApp の突然の人気は特に問題がないように見えたが、懐疑的なインターネット調査員らが、このソフトウェアの提供元がロシアの会社であることを発見した。

国民はたちまち騒然となり、ソーシャル プラットフォームやオンライン フォーラムは人々の不安でいっぱいになった。「このロシア人は誰なのか? なぜ私たちの顔写真を欲しがっているのか? 収集したデータをどのように使うのか?」一部のニュース メディアの司会者は一般の人々にこのことを思い出させ、民主党員は (関係部門に) これについて調査するよう求めた。国中の誰もが抱いている疑問は、ロシアの諜報機関が自らの顔認識プログラムを改善するために国民の顔情報を違法に利用しているかどうかだ。

FaceAppのサプライヤーとロシア政府とのつながりは誇張されており、事実無根だったことが判明した。ワシントンポスト紙の調査報道によると、同社は国際諜報機関とは一切関係がなく、違法な監視組織に情報資源を提供することはなく、現在、保存された写真を使用して顔認識システムをアップグレードしたり改造したりもしていない。全体的には、データについて大騒ぎしているだけです。

しかし、この騒動は予想外のものではなかった。 FaceApp の苦境は、一見楽しく、便利で、役に立つオンライン サービスに関する一連の懸念の最新の例にすぎません。人々は、Facebook の写真に自動的にタグを付ける技術によって、企業が個人情報を入手し、追跡できるようになるのではないかと疑問を抱いている。レジのない Amazon 店舗に顧客が入店すると、小売業者は収集した監視カメラ映像を顧客に対する不利な情報として利用するのだろうか。

人々はこのことに気づいていないことが多いのですが、それが問題なのです。そこで疑問になるのが、AI プログラムは人間の顔で一体何をしているのか、という点です。恐怖感は、事実ではなく噂に基づいている部分がどれくらいあるのでしょうか。テクノロジーの力によって、懸念がさらに高まっているのでしょうか。

この問題について一緒に考えてみましょう。

出典:dy.163.com

顔認識とは一体何でしょうか?

顔認識のリスクについて詳しく説明する前に、顔認識の仕組みを理解しておくことが重要です。

顔認識技術 (FRT) の機能は、主に顔のノード測定値の識別とモデリングに依存しています。これには、鼻の幅、顎の長さ、目の間の距離などが含まれますが、これらに限定されません。これらの測定値は最終的に特定のコードを持つテンプレートに転記され、これにより画像をデータベース内の既存の画像と比較し、一致させることが可能となります。

たとえば、カジノではこの技術を使用して、入店するプレイヤーを内部の問題ギャンブラーのプロファイルと比較するかもしれません。他の捜査官は、運転免許証のデータベース、警察が保管している容疑者の写真、あるいはFacebookなどのソーシャルプラットフォームを通じて、必要なリソースを入手できるかもしれない。ただし、写真ライブラリをどの程度使用できるかは、これらの人々が画像リソースにどの程度アクセスできるかによって決まります。これについては、次に説明する検索の精度について説明します。

出典: detail.zol.com.cn

顔認識で何ができるのか（できないのか）？

視聴者が追うすべてのスパイドラマとは異なり、FRT は複雑な環境であっても、正確な情報を即座に返すことはめったにありません。政府が路上の不鮮明な監視カメラ映像を通じて数秒で標的を見つけられるというのは誇張だ。

しかし、顔認識による監視は確かに可能です。唯一の問題は、精度の低さとさまざまな環境要因です。カメラの品質、アルゴリズム、時間、距離、データベースのサイズ、さらには人種や性別などの人口統計も、FRT 検索の最終的な有効性に影響を与える可能性があります。

2018年にアメリカ自由人権協会（ACLU）がテストを実施し、その結果、アマゾンの顔認識システム「Rekognition」が、警察が保管する容疑者の写真と28人の国会議員を誤って照合したことが判明したことを私はよく覚えている。

MITメディアラボが実施した別の調査では、アマゾンの認識システムは依然として性別の認識に苦戦しており、女性を男性と間違える確率は19％、肌の色が濃い女性を男性と間違える確率は3分の1以上であることがわかった。 Amazon は、すべてのエラーの原因を不適切な調整にあると主張している。

Amazon の発言は誇張ではなく、少なくとも一理あります。結局のところ、研究者たちは、Facebook の認識システムは FBI のシステムよりも正確であることを発見した。これは、ソーシャル プラットフォーム上に参照用の写真がかなり多く存在し、アルゴリズムを改善するためにユーザーに写真の確認を積極的に求めるからである。これにより、Rekognition に関する誤解が生じ、当然のことながら、すべての FRT ソフトウェアは懐疑的になります。これらのソフトウェアが達成できる範囲は、ソフトウェアが持つ写真参照の数によって決まります。

出典:dy.163.com

アマゾンの広報担当者はThe Vergeに対し、「ホットドッグ、椅子、動物、その他のソーシャルメディアの画像の写真であれば80％の信頼度は許容されるが、顔の特徴がある人物の場合は許容されない」と語った。

このレビューは非常に客観的ですが、少し恥ずかしいようにも思えます。同社は Rekognition を削除して法執行機関と ICE に引き渡しましたが、法定 FRT 信頼レベルをまだ確立していません。身元確認の不正確さが繰り返され、FRT の前進に多くの障害が生じています。たとえば、テクノロジーだけでは容疑者逮捕の根拠として利用することはできず、捜査の補助としてしか利用できません。

誤解のないように言っておくと、米国の現在の FRT 機能は、暗い道路上の粗い監視映像内のターゲットをロックオンすることはできないが、そのような機能が獲得されるのは時間の問題である。中国は国民生活の監視でよく知られており、最近ではFRTを通じてBBCの記者をわずか7分で追跡したことがニュースで話題になった。これは、米国が将来この技術をどのように使用するかについての前例となる。

しかし、一つはっきりしているのは、米国の顔認識技術は常に正確であるわけではないが、国内企業はそれを改善し、活用しようと取り組んでいるということだ。今のところ、2つの大きな問題がある。1つ目は、信頼性の低い技術によって人々が誤って告発される可能性があること、2つ目は、技術がより正確になり、普及するにつれて、監視の傾向が中国に近づくことである。

FaceApp ユーザーはどのような状況に陥っているのでしょうか?

FRT の発展は避けられない流れです。現時点では完全な精度や合理的な使用は実現できないかもしれませんが、将来的には可能になるでしょう。同時に、人々はこの技術をどのように、いつ、どの程度使用すべきかを考え始め、FRT が規制を超える前に厳しい制限を設ける必要があります。ワシントンポスト紙の記者はこう書いている。「今日では、顔認識のおかげで野球の試合に楽しく行けるかもしれないが、システムがプログラムした視覚的な想定に基づいて、暴力犯罪者として特定される可能性もあり、それはあまり気持ちの良いことではないかもしれない。」

したがって、ユーザーが置かれている状況は、哲学的な意味合いが強いと言えます。自分の写真にリアルなシワを加える面白いプログラムは楽しいかもしれないが、それが収集するデータはいつか人々に対して悪用される可能性がある。もちろん、これらの写真はロシアの供給業者によってどこかに保管されており、触れることはできないかもしれないし、人々を監視するより効率的で正確な FRT システムを導入するための参考資料として使われるかもしれない。この事件は、デジタル世界の安全性のなさという根本的な問題を指摘し、人々に「私たちが長い間信頼してきた一見無害なデータが私たち自身に危害を加える可能性があるのか​​？」という疑問を抱かせている。

出典: Pexels

何か分かりましたか？

次に写真フィルター、オンライン ゲーム、デジタル トレンドが流行したときは、シートベルトを締めて、参加することを検討してください。

たとえ自分の自撮り写真がシベリアのサーバー上にデジタル形式またはテキスト形式で隠されていると思っていても、誰かがそれを使用する可能性は考慮する必要があります。

中国でZAOが突然出現し、地下のグレー産業が徐々に出現したように、ウイルスによるパニックが発生するまで、人々は問題がいかに深刻であるかを決して理解しないだろう。 。

危機感がなく、ポルノ映画を見ているときに偶然自分の顔を見たときにだけパニックや危険を感じるかもしれません。