IBMは顔認識技術の開発を中止し、議会に書簡を送った。

IBMは、顔認識技術の影響に対する人々の懸念が高まる中、今後は顔認識関連の技術や機能を開発しないことを発表した。

IBM CEO のアルヴィンド・クリシュナ氏は議会に宛てた書簡の中で次のように書いている。

「IBMは、信頼と透明性という価値観と原則に基づき、他のベンダーが提供するものも含め、いかなる[顔認識]技術も、大量監視、人種プロファイリング、基本的人権と自由の侵害、あるいは当社の目的と矛盾するいかなる目的にも使用することに断固反対し、容認しません。」

我々は、顔認識技術が国内の法執行機関によって使用されるべきかどうか、またどのように使用されるべきかについて、全国的な議論を始めるべき時が来たと考えています。 ”

現在、顔認識技術には人種的偏見があることが判明しています。 NISTとテキサス大学ダラス校の研究者による2010年の研究では、東アジアで設計・テストされたアルゴリズムは東アジア人を識別するのに優れていたが、西洋諸国で設計されたアルゴリズムは白人を見つけるのに正確だったことが判明した。

ACLUの調査によると、アマゾンの顔認識ツールを使って下院議員と上院議員全員の写真を2万5000人の逮捕時の写真と比較したところ、一致の結果は黒人議員連盟のメンバーに不釣り合いなほど影響していたことが判明した。

先月、アメリカ自由人権協会（ACLU）は、物議を醸している顔認識企業Clearview AIをプライバシーの「悪夢」と呼んで訴訟を起こした。極右と広範なつながりを持つ同社は、インターネットから何十億枚もの写真を収集する行為で繰り返し非難されている。

英国では、平等人権委員会（EHRC）が、試験が惨めに失敗した後、顔認識の公共利用の停止を求めた。ロンドン警視庁は2016年にノッティングヒル・カーニバルで予備捜査を行ったが、結局誰も発見されなかった。翌年行われたその後の試験では、合法的な一致は得られず、35件の誤検出が出た。

ピーター・ファッシー教授とダラグ・マレー博士は昨年、ロンドン警視庁の顔認識技術の試験に関する独立した報告書を発表し、報告書が検証可能だったのはわずか19％のケースだったと結論付けた。

IBMは、自動化された人種プロファイリングにつながる可能性がある重大な精度の問題が依然として存在する中、大規模監視に使用できる可能性のある技術の開発には一切関与していないことを明確にしている。クリシュナ氏は、警察活動、テクノロジーの責任ある利用、技能と教育機会の拡大など、より広範な政策改革を求めた。