顔認識禁止が迫る：テクノロジー企業はどこへ向かうべきか？

この記事は公開アカウント「Reading Core Technique」（ID: AI_Discovery）から転載したものです。

昨年、オレゴン州ポートランド市は、政府や民間企業による顔認識技術の使用を完全に禁止する新たな顔認識禁止法案を可決する準備を進めており、顔認識技術を販売・使用する地元企業を脅かしていた。

[[329703]]

アマゾンは法案を阻止するために政府にロビー活動を行うために1万2000ドルを費やした。 「アマゾンはこの禁止措置を止めたいと願っているが、それはできない」と、この法案の支持者であるポートランド市議会議員のジョー・アン・ハーデスティ氏はワンゼロに語った。

ポートランドの公文書館によると、アマゾンが同市内でロビー活動を行うのは今回が初めてだという。同社は法案の文言を少なくとも和らげたいと望んでいる。法案が可決されれば、米国における顔認識技術の最も厳しい規制を意味することになる。

この新たな法案は、政府および法レベルでの顔認識技術の使用を禁止するだけでなく、民間企業による商業的な使用も禁止する。さらに、地方機関は、無料で一般に公開されているシステムを含め、顔認識技術を評価することが許可されていません。

「法案を阻止できないのであれば、彼らはもっと余裕が持てるように法案のトーンを下げたいのだ」とハーデスティ氏は語った。 「しかし、彼らは成功できないのです。」

規制案では、政府による顔認識技術の使用に対するいくつかの例外が明確にされている。例えば、草案では、顔認識技術は携帯電話のロックを解除したり、ソーシャルメディアで人物にタグを付けたり、写真や動画の顔をぼかしたりするために使用できると規定されている。しかし、この法案が民間企業にどのように適用されるかは不明だ。

ポートランド市は当初、4月までにこの法案に投票する予定だったが、流行中の完全なロックダウンのため、投票は少なくとも6月まで開始されない。市政府職員は、現在ポートランド市では、ポートランド警察を含め、顔認識や生体認証技術を使用している部署や機関はないと述べた。この条例が可決されれば、各市町村機関は遵守を確実にするために技術的な評価を受けることが義務付けられることになる。

顔認識法はアマゾンに大きな影響を与えます。同社の顔認識システム「Rekognition」は、ディープラーニング技術を使用して顔を分析し、物体を識別し、画像やビデオ内の顔を区別します。

アマゾンのウェブサイトによると、Rekognitionの顧客には全米フットボールリーグ（NFL）やCBSなどがあり、このシステムは顧客によって本人確認や、コンテンツのタグ付けのための動画内の顔認識など、さまざまな目的で使用されている。

ワシントン郡保安官事務所も現在、Rekognition テクノロジーを使用しています。ワシントン郡はポートランドのマルトノマ郡の西に位置しています。アマゾンは、地方および連邦レベルで顔認識技術に影響を与えたいと考えている。アマゾンのジェフ・ベゾス社長は9月、同社の公共政策チームが顔認識に関する連邦立法提案を提出する準備をしていることを明らかにした。

「失礼ながら、彼らは利益を非常に気にしている」とポートランド市議会議員のハーデスティ氏は最近のインタビューで語った。彼女は市議会事務局がアマゾンと会談したことを認め、「データ収集用の機器を販売できなければ、すぐに業績の低下に直面することになるだろう」と述べた。

ポートランド市の監査記録によると、アマゾンのロビイストらは11月に市長室の職員と市議会議員4人に連絡を取り、12月には議員3人と会って顔認識の提案について話し合った。

市議会のスタッフは、アマゾンは「顔認識」という用語を否定する方法を含め、草案の文言を変更したいと考えていると述べた。アマゾンとオクスリー・アンド・アソシエイツのロビイストらは、詳しい情報の要請には応じなかった。

侵入的な監視と技術的な不安に対する懸念から、ますます多くのアメリカの都市が政府や警察による顔認識技術の使用を禁止し始め、またはその使用に何らかの制限を加えることを検討し始めている。

サンフランシスコとオークランドに加え、マサチューセッツ州のブルックリン、ケンブリッジ、ノーサンプトン、サマービル、スプリングフィールドの各市も地方自治体による顔認識技術の使用を禁止しており、ボストンとニューヨークも同様の政策の制定を検討している。

アマゾンの株主のほとんどは、この技術の販売を継続したいと考えている。昨年、これらの株主は、政府による顔認識技術の販売を制限し、それが公民権とプライバシーに与える影響を評価するという提案を拒否した。

公民権の観点から見ると、顔認識技術の広範な使用は、コミュニティにおける監視によって引き起こされるプライバシー侵害についての懸念を引き起こす可能性もあります。昨年10月、アメリカ自由人権協会（ACLU）はアマゾンを訴訟で名指しした。

ACLUは、顔認識技術や生体認証技術が他人の追跡、識別、監視に利用される可能性があるため、連邦議員らが顔認識技術や生体認証技術を対象とした規制を制定することを望んでいる。

一部の顔認識システムでは、肌の色が濃い人の顔を誤って認識するなど、多くの予測不可能な深刻な結果につながる可能性のある技術的な欠陥が明らかになった。アメリカ国立標準技術研究所は12月に、多くの顔認識アルゴリズムが黒人や東アジア人を識別する際のエラー率が白人よりも10～100倍高いという研究結果を発表した。

ACLUは2018年の調査で、Rekognitionが28人の国会議員の顔を逮捕された犯罪者の顔と誤って照合していたことを発見した。アマゾンは、この調査では自社のシステムが適切に評価されていないと述べた。

ポートランド市には人種差別の長い歴史があり、顔認識技術は有色人種にとって非常に不親切であるため、この技術の禁止も非常に重要です。

この法律は、テクノロジーとデータの平等な利用に関する政策を制定するというポートランドの取り組みと一致しています。 2018 年、ポートランドは、最も疎外され脆弱なコミュニティによるテクノロジーの使用を優先するフレームワークを作成しました。

これらの政策の実施を監督する市の諮問機関であるスマートシティPDXは、平等や差別禁止などのテーマを含むデータプライバシーに関する決議案の起草に昨年協力した。同社は顔認識禁止の監督も担当している。

市議会議員４人のうち３人がこの禁止令に賛成を表明した。 1月に公民権団体、議会、業界団体の代表者が出席した顔認識シンポジウムで、ポートランド市長のテッド・ウィーラー氏は、「最前線にいるコミュニティが考慮される場合にのみ」ポートランドはこの技術を使用する用意があると述べた。

ポートランド市議会初のアフリカ系アメリカ人議員であるハーデスティ氏は、もっと率直にこう語った。「今日では、白人でない限り、（顔認識）技術を信頼することはできない。」

ポートランドの顔認識禁止案は初めて民間企業を巻き込む可能性が高く、大手テクノロジー企業に仕えるロビイストの中にはこれに不満を表明している者もいる。

州内の大手新聞社の一つであるオレゴニアン紙の2020年1月の論説で、情報技術イノベーション財団（ITIF）は次のように述べている。「『まず禁止し、後で問題について話し合う』というアプローチではなく、ポートランドはまず小規模な試験運用を実施し、さまざまな状況でこの技術がプライバシーに及ぼす潜在的な影響を評価すべきだ」

ITIFはワシントンDCに拠点を置くシンクタンクで、その理事らはアマゾン、アップル、マイクロソフトなどの企業のためにロビー活動を行っている。アマゾンの公共政策担当副社長、シャノン・ケロッグ氏もITIFの理事を務めている。

顔認識の私的利用の禁止に関する今後の法案についてはあまり詳細が明らかにされておらず、関連する草案も公表されていない。企業が法律を遵守しているかどうかを監視するのは難しい問題です。ハーデスティ氏は、市は従わない企業に罰金を科すべきだと提案した。

ポートランドでは顔認識技術が長年使われてきました。たとえば、顧客は仕事が終わった後、市内の 3 つのジャクソンズ フード ストアに買い物に行きます。モールに入る前に、すべての顧客はまず顔認識システムを通過する必要があります。

ショッピングモールのドアを開ける前に、システムは待っている客に「入口のカメラを見てください」と告げる。客の顔がショッピングモールのデータベースのブラックリストに一致した場合、ドアは閉められる。

ジャクソンズフード社も、顔認識システムを開発したブルーライン・ソフトウェア社も、ポートランドの提案に対してロビー活動を行わなかった。しかし、地元企業は私的使用禁止に反対を表明している。一部の企業は、顔認識はセキュリティ目的や店舗での顧客識別に役立つ可能性があると示唆している。

1月の会議で、ポートランドビジネスアライアンスの代表者は、顔認識に対する厳格な管理は、ポートランドがテクノロジー企業の発展に適した土地ではないというシグナルを送ることになる可能性があると示唆した。

これに対し、ウィーラー市長は「ポートランドは技術開発に反対しているわけではない」と述べた。その代わりに、ポートランドは「連邦基準がないまま地元コミュニティに技術を押し付けている」「大手テクノロジー企業」への対応の一環として、社会的に疎外された住民を潜在的な危害から守るための措置を講じていると彼は述べた。

「パンデミックが収束し、復興が始まるにつれ、市政府は断固たる行動を開始すべきだ」とハーデスティ氏は語った。「少なくとも、私たちの日常生活のデータが意図的に収集され、販売されるかもしれないという懸念には対処できるが、それに対して私たちには何もできない」