諸刃の剣、顔認識技術はどのように発展すべきか？

[[265710]]

長らく技術革命の中心地となってきたサンフランシスコは、現地時間の火曜日に「秘密監視禁止法」を可決し、警察やその他の政府機関による顔認識技術の使用を禁止する世界初の都市となった。サンフランシスコ警察は現在、顔認識技術を使用していないと報告されている。

今回、サンフランシスコの議員たちは、現在の顔認識技術のエラー率の高さ、人種差別や性差別、プライバシー侵害、法的責任について懸念を抱いている。昨年7月、アマゾンの顔認識システムは28人の国会議員を犯罪者として識別したが、有色人種の場合、その誤り率はさらに顕著だった。

顔認識技術がさまざまな人種や性別の顔をどの程度正確に識別できるかを測定した研究によると、肌の色が濃いほど認識率が低くなることが分かった。肌の色が濃い女性の識別に関しては、エラー率が約35パーセントでした。他の研究報告によると、広く使用されている顔認識データセットでは、画像の75%以上が男性で、80%以上が白人であることが明らかになっています。つまり、顔認識への投資と導入が拡大するにつれて、その公平性と説明責任が保証されなくなるのです。

最悪なのは、顔認識技術には、その背後にある「道徳理論」に加えて、致命的な欠点も隠されており、これらの致命的な欠点によって実際に人命が失われる可能性があることです。

「片刃はナイフ、両刃は剣」世の中のあらゆるものは両刃であり、顔認識技術も例外ではない。しかし、この技術の欠点を認識しながらも、その利点を簡単に無視すべきではありません。わが国では、まず熱狂的な歌の神ジャッキー・チュンが全国ツアーを行い、顔認識AIが逃亡犯5人を連続で逮捕するという快挙を成し遂げました。その後、北京大学女子生徒殺害事件の容疑者は、逃亡から3年後、重慶空港に新たに設置された顔認識システムによって照合に成功しました。

「秘密監視阻止法案」に反対票を投じた監視委員会の唯一のメンバー、キャサリン・ステファニ氏は、政府が全面的に顔認識の使用を禁止されれば、警察は将来このツールを使って悪人を捕まえることができなくなるだろうと述べた。結局のところ、サンフランシスコは、人々が夜にドアに鍵をかけずに出かけたり、路上で物を拾ったりしない場所ではない。多くの地元住民が、自分の身と財産の安全を心配し始めている。

社会の発展に伴い、陶淵明が描いた桃源郷にはまだまだ遠いが、顔認識技術は現代のセキュリティに応用できる可能性を秘めている。顔認識技術を搭載したビデオ監視システムの登場により、従来の顔認識の煩雑なプロセスが大幅に解決され、従来のセキュリティの精度と有効性も向上しました。

顔認識技術は、セキュリティ監視の業界チェーン全体に完全に浸透した後、安全都市、スノーブライトプロジェクト、スマートパークなどのさまざまな業界シナリオにもデータ価値を統合し、セキュリティ監視の「存在」から「非存在」への変革を促しました。市内各所に設置されたカメラに顔認識技術が搭載されると、すぐに街を守る「空の目警護隊」となり、公共の安全とセキュリティ業界に破壊的な革命をもたらした。

社会の発展の過程で、顔認識は必然的に人々の否定や承認に直面することになるが、技術の発展と関連法規制の継続的な改善により、顔認識技術の欠点は軽減されるはずだ。

日々新しい技術が生まれ、個人情報が簡単に収集されるこの時代において、私たちの顔を監視し、国民のプライバシーを守るには、個人がより警戒し、予防を意識するだけでなく、企業がより技術的な安全策を講じ、監督が適時にフォローアップする必要があります。