配達員らがウーバーの顔認識技術を訴え、人種偏見が組み込まれているため仕事を失う危険があると主張している

[[385470]]

ビッグデータダイジェスト制作

出典: Wired

編纂者：周熙

Uber EatsやUberで働くBAME（黒人・中流階級）の配達員たちは、同社の欠陥のある認識技術のせいで生計が脅かされていると主張している。

ウーバーイーツの配達員らは、同社の「人種差別的な」顔認識ソフトウェアが自分たちの顔を認識できなかったために解雇されたと主張している。 Uber 社は、このシステムを「写真照合」ツールと呼んでおり、配達員や運転手に自分の写真を撮影させ、それを同社のデータベースにある写真と比較させるというものだ。

Uber Eatsの配達員14人がWIREDに対し、同技術が自分たちの顔を認識できなかったことを示す証拠を提供した。彼らが撮影した自撮り写真が同社の「リアルタイム本人確認」に合格しなかったため、彼らは解雇されるか、アカウントが凍結されるか、永久に解雇されるかの脅迫を受けた。別の従業員は、自撮り機能が動作しなかったために解雇された。組合によると、この問題は全国の無数のウーバーイーツ配達員やハイヤー運転手に影響を与えているという。

これまで何千回もの配達を行い、満足度100％を誇る配達員たちは、自分たちが突然プラットフォームから削除されたと話している。配達員たちは、このプロセスは異議申し立ての権利もなく自動化されていたと主張している。同社に宛てたメッセージでは、多くの人が職場復帰を嘆願した。両名とも、解雇は「恒久的かつ最終的なもの」であり、ウーバーは「この決定の理由を理解して欲しい」という同じ返答を受けた。

ウィリアムさんは、2020年10月に自撮り写真のチェックを受けてアカウントへのアクセスをブロックされるまで、シェフィールドでウーバーイーツの食事配達員として週6～7日、1日平均16時間働いていた。 「私は一日中彼らにメッセージを送ろうとしているが、彼らは毎回同じコピーした返事を返すだけだ」と彼は言った。

「私はウーバーイーツでしかお金を稼げません。そのお金で家賃や自動車保険、食費、電話代などあらゆる支払いをしています」と彼は語った。彼はその月の支払いのために1,000ポンドを借りざるを得なかったと語った。同社がソフトウェアに関する判決を撤回したのは、同氏が英国独立労働組合（IWGB）に連絡し、IWGBがウーバーに対し、その行為を公表すると脅す書簡を送った後のことだった。

ウーバーは、配達員はライブセルフィーを提出する際にAIと人間による検証のどちらかを選択できると述べたが、配達員は後者を選択した場合、ソフトウェアが起こしたかもしれない間違いを覆す人はいないと述べた。デイビッドさんはアプリにログインすると、インタビューに備えてひげを剃った。デイビッドさんが自撮り写真を提出すると、アプリは写真が自分のものではないと伝え、代わりの配達員に関する情報を提供するのに24時間かかると告げ、さもなければ解雇される恐れがあると警告した。

「正式なルートで問い合わせてみたが、代替品を提供するための情報オプションしか表示されず、問題があることを知らせる手段がなかった」とデイビッドさんは言う。ウーバーの広報チームに電話することで彼のアカウントが永久に閉鎖されることはなかったが、他の多くの人はそう幸運ではなかった。

ウィリアムとデビッドは、影響を受けた他の配達員と同様に、シフトを違法に他人に下請けしたとして告発されている。ウーバーイーツの配達員は独立請負業者であるため、仕事を下請けに出すことはできるが、身元調査を受けていない人や合法的に働けない人に仕事を与えることには懸念がある。こうした事態を防ぐため、Uber は昨年 4 月にユーザーがアプリを開いたときに情報確認の手順を追加しました。配達員やドライバーは、現在ログインしているユーザーであることを証明するために自撮り写真を撮る必要があります。

配達員が顔写真を提出すると、Uber は Microsoft の顔照合ソフトウェアを使用して本人確認を行う。しかし、こうしたソフトウェアは肌の色が濃い人を識別できないという歴史がある。 2018年、ウーバーが使用した同様のバージョンのソフトウェアは、肌の色が濃い女性の顔では20.8％の確率で失敗することが判明した。肌の色が濃い男性の顔については、Uber Eats のドライバーの大多数は男性であり、その多くは BAME で 6% を占めています。白人男性の場合、その数字は0%です。

189 種類の顔認識システムを調査した結果、白人以外の顔を識別する性能は、すべてのシステムで大幅に劣っており、場合によっては 10 倍、さらには 100 倍も劣ることが判明しました。また、研究室で機能するものが、現実世界では必ずしも期待どおりに機能するとは限りません。 Uber の運転手が撮影する自撮り写真は、画質が悪く、古い携帯電話で撮影され、照明条件が悪い場合が多い。こうした条件は、これらのプログラムが訓練されているプロのスタジオで撮影された画像とはかけ離れている。

「人種を問わず同じように機能する顔認識ソフトウェアは存在しない。そのような技術は存在しない」と、顔認識ソフトウェアを専門とするエセックス大学の社会学者ピーター・ファッシー教授は説明する。 「すでに不平等な環境にこの技術を導入すれば、不平等はさらに悪化し、人種間の不平等が拡大するだけだ」

ウーバーの広報担当者は、同社が「潜在的な詐欺」を防ぐために検証チェックを必要としていることを強調した。広報担当者は、プラットフォームからパートナーを削除する決定には「常に手動によるレビューが伴う」とし、「削除された人は誰でも当社に連絡して決定に異議を申し立てることができる」と述べた。広報担当者は、ウーバーが認証システムの正確性を調査するために監査を実施したことがあるかどうかについてはコメントしなかった。マイクロソフトは、自社の技術故障率についてのコメント要請には応じなかった。

英国独立労働組合（IWGB）のアレックス・マーシャル会長は「これは労働者にとって仕事に行くことに関する最大の懸念であり、明らかにBAMEコミュニティの不均衡な数に影響が出ている。これは完全に間接的な人種差別だ」と語った。同氏は、アプリで労働権を失ったドライバーたちは家賃や請求書の支払いができないため、フードバンクやシェルターに頼っていると語った。ある運転手は「墓地にテントを張らなければならなかった」とも語った。

IWGBは、ギグエコノミー（長期雇用よりも短期契約やフリーランサーが主流の市場）で働く配達員に対する法的枠組みが欠如しているため、裁判所が訴訟を起こすことは難しいが、ケースバイケースで却下を覆し、議会への早期動議の提出を推進することを目指していると述べた。

Uberは顔認識技術の使用をめぐって訴訟を起こされている。 2019年、米国のある黒人ドライバーが、自撮りソフトが「真っ暗」な環境で自分を認識できず、すべての写真の明るさを手動で上げざるを得なかったために解雇されたとして訴訟を起こした。

WIREDが話を聞いたUber Eatsのドライバー全員が、自分たちも知り合いも、自分たちの代わりに誰かを雇ったことはなく、収入が少なすぎるので雇う意味がないと語った。 「保険から解雇された組合員のほとんどは週60時間働いていたが、それでも生活が苦しかった」とマーシャル氏は語った。 「なぜ彼らは自分のアカウントを他人に貸すのでしょうか？」

規制強化により違法な下請けがこのような問題の根本的な原因となっている。ロンドン交通局（TfL）は、ロンドンで営業する個人タクシーのウーバーの免許を回復する契約の一環として、無免許運転手から人々を守るため、違法な下請けを取り締まるよう同社に圧力をかけた。

Uberの顔認識システムはUberの従業員だけでなく、子会社のUber Eatsでも使用されている。 TfLの広報担当者は、2018年後半から2019年初めにかけて、43人の無許可のウーバー運転手がロンドンで1万4000回の乗車を行ったと強調し、詐欺に関する懸念は保安官長によって支持されていると強調した。この決定を批判する人々は、43人の運転手は当時ロンドンで営業していた4万5000人の認可を受けたUber運転手のうちのほんの一部に過ぎないと指摘した。

この分野に進出しているのは Uber だけではない。 12月には、配車サービス企業ボルトが新たな資金調達ラウンドで1億5000万ユーロを調達し、ウーバーが使用しているものと同様の人工知能と顔認識によるドライバーチェックを導入した。

関連レポート: https://www.wired.co.uk/article/uber-eats-couriers-facial-recognition

[この記事は51CTOコラムBig Data Digest、WeChatパブリックアカウント「Big Data Digest（id: BigDataDigest）」のオリジナル翻訳です]

この著者の他の記事を読むにはここをクリックしてください