人種問題で顔認識技術はどうなるのか？

米国では、白人警官による黒人市民に対する過剰な法執行が日常茶飯事である。最近、白人警官が黒人男性を膝で押さえつけ、首を絞めて殺害した事件を受けて、米国では人種差別に対する前例のない抗議運動が巻き起こっている。

行動開始後、米国各地で次々と反応が起こり、一時は抗議活動参加者が状況を利用し、黒人以外の人種が経営する店舗を「殴打、破壊、略奪」する事態にまで発展した。国内の友人の間では「海外の高級品を安く購入し、請求書も無く、注文後すぐに黒人の兄弟に連絡して商品を受け取る」というジョークもある。

抗議活動が激化する中、米国のハイテク大手が声を上げる

月曜日、IBMのCEO、アルビンド・クリシュナ氏は、人種平等を推進し、制度的人種差別と闘うための改革を制定するよう米国議会に求めた。 同時に、IBMが顔認識事業から正式に撤退すると発表した。

IBMの顔認識技術は多くの企業で導入され使用されているが、そのアルゴリズムは人種や性別によって正確ではないため、IBMが人種差別や性差別に関与していると考える人もいる。

[[329889]]

人種差別という大きな問題の下で、顔認識はどうなるのでしょうか?

株価から判断すると、8日と9日の下落がIBMの顔認証の放棄と直接関係しているという証拠はないものの、これまでの原因を考えると、人々がさらにそれについて考えるのは避けられない。

ちょうど今日、IBMに続いて、Amazonも今後1年間、警察による顔認識技術の使用を中止すると発表した（人身売買との戦いを除く）。 AmazonはIBMとは違います。IBM自身の広報は顔認識技術に重点を置いておらず、事業シェアも高くありません。ある意味、会社への影響は大きくありません。しかし、米国で顔認識の「プロ」であるアマゾンにとって、今回の一連の「停止」は、すでに海外で「諸刃の剣」となっている顔認識の推進をさらに困難にする可能性がある。

不完全なアルゴリズムが「人種差別」に遭遇したとき

早くも2018年には、ニューヨークタイムズの英語版ウェブサイトで、現在非常に人気の高いAIアプリケーションである顔認識の精度は人種によって大きく異なることを指摘する記事が掲載されました。そのうち、黒人女性の誤り率は21%～35%と高いのに対し、白人男性の誤り率は1%未満です。

一方、フランスの企業Idemiaは多くの国で顔認識サービスを提供しているが、アルゴリズムが標準的かどうかをテストするため、同一の写真2枚を使ったテストを行った。その結果、白人女性と不一致になる確率は1万分の1、黒人女性と不一致になる確率は1000分の1と、実に10倍もの差があった。これは、56の民族が一つの家族のように親密な我が国の状況とは異なることを知っておく必要があります。人が無意識に行った小さなことが人種差別とみなされ、学業や仕事を失ったり、法的制裁を受けたりする可能性があります。

このため、顔認識技術は、世界中の専門家がその技術に関して当初の合意に達することができなかった珍しい技術です。私の国では、顔認識などの AI 技術の自然な実験場として、セキュリティ業界はここ数年非常に活発になっています。さまざまな技術が絡み合う時代において、監視設備はターミナル商業着陸シナリオであるだけでなく、データ駆動型ソースの1つでもあり、その地位は並外れています。このような状況の中で、このトラックは、HikvisionやDahuaなどの伝統的なセキュリティ企業だけでなく、PATH（Ping An、Alibaba、Tencent、Huawei）などの無数の大小の企業からも注目を集めています。

海の向こう側では、この技術の進歩はこれまで妨げられてきた。人権やプライバシーの問題に加え、アルゴリズムの不完全さから、顔認識技術には人種差別というレッテルも貼られつつある。

顔認識の発展が妨げられる。誰が苦しむのか？

MarketsandMarkets のレポートでは、顔認識技術の発展の主な推進力として、政府主導のユーザーおよびデータ セキュリティ イニシアチブの増加、モバイル デバイスの使用の増加、強力な詐欺検出および防止システムに対する世界的な需要の高まりなどが指摘されています。

このことから、アルゴリズムの問​​題を人種差別の原因として技術開発が停滞すると、被害を受けるのは一般の人々であるという結論を導き出すのは難しくありません。

政府の観点から見ると、米国の多くの地域では、過去にはプライバシー保護を考慮して制定された法律ではあるものの、顔認識の使用を禁止する関連法が制定されている。 IBMのアルビンド・クリシュナCEOが議会に宛てた書簡では、「人種プロファイリング」が「人権と自由」と並んで挙げられることはほとんどなかった。これは、将来、米国が顔認識技術を再開しようとしたときに、「人種差別」の足かせが明らかになる可能性が非常に高い。

個人的な観点から、昔ながらのセキュリティ上の利点は脇に置いて、この流行期における顔認識技術の追加の利点について話しましょう。疫病流行下では、かつては単純だった「非接触」の需要が一瞬にして無限に拡大し、コミュニティの疫病予防の過程で、顔認識+赤外線温度測定入退出制御ソリューションの出現は、多くの人的資源と物的資源を解放し、同時に疫病予防作業のための「空間」と「時間」を獲得しました。

一方、アメリカでは、本日時点で新型コロナウイルスの新規感染者が200万人を超え、ピーク時の数十倍に上る。各州がほぼ自力で戦う中、最も効果的な地域防疫手段の一つが人種差別とレッテルを貼られ廃止され、本来であれば感染しないはずの人たちへの感染の可能性が高まっている。

結論

画一的なアプローチは最も愚かな方法だが、ある意味では、短期的には効果を発揮できる唯一の方法として米国が採用できる。

「石を触って川を渡れ」ということわざがある。米国の例に倣って、私たちも石を触って川を渡るべきだろう。米国から学ぶことによってのみ、得失を理解することができるのだ。

これまでのところ、わが国における顔認識の発展には、認証能力の不均一、申請プロセスの不十分さ、法的効果の未確認、データ保護の不十分さなど、客観的な欠陥がまだ残っています。しかし、この分野の監督が法律や規制に基づいて行われるよう、数え切れないほどの人々が懸命に取り組んできました。