AI顔認識の問題点

今日の AI 顔認識アルゴリズムは完璧ではありません。あなたの会社がこのテクノロジーの導入を検討している場合、知っておくべきことは次のとおりです。

棚に設置されたカメラには、買い物客の年齢、性別、人種を識別できる人工知能の顔認識ソフトウェアが搭載されており、1月にニューヨークで開催された全米小売業協会の大規模な見本市で小売企業に紹介された新しいシステムの一つである。

そのアイデアは、実店舗に人口統計情報を提供して、個々の顧客にどのようにマーケティングを行うかの指針を提供することです。これは、顧客データを活用してきた Amazon などのオンライン小売業者にとって競争上の優位性となります。

しかし、顧客が気付かないような方法でカメラで写真を撮るのは、あまりに侵害的ではないでしょうか? 他にも問題があります。ソフトウェアが誤って男性を女性と認識し、女性用衛生用品の割引を提供した場合、どうなるでしょうか? どのような結果になるでしょうか?

[[258713]]

小売業の現場では、その結果はそれほど重大ではないかもしれませんが、顧客は不快感を覚え、ソーシャル メディアでその件について話し、二度とその店で買い物をしなくなる可能性があります。しかし、マシンビジョンや AI 駆動の顔認識ソフトウェアの他のアプリケーションでは、その結果はさらに深刻になる可能性があるのでしょうか?

実は、Microsoft、IBM、Amazon など、多くの大手ベンダーから市販されている AI 顔認識ソフトウェアには大きな関心が集まっているようです。

最近の研究では、一部の商用アルゴリズムは肌の色が薄い男性を識別するのに比べて肌の色が濃い人や女性を識別するのがそれほど正確ではないという事実に焦点が当てられました。これは以前にも議論された話題です。たとえば、2018年7月、アメリカ自由人権協会（ACLU）は、米国議会議員の写真にアマゾンのアルゴリズムを適用し、そのうち28人が犯罪で逮捕された人物であると判断しました。

最近の MIT メディアラボの調査では、これらの商用アルゴリズムの公開監査が、ベンダーによるアルゴリズムの精度向上への注力に影響を与えるかどうかが問われました。

この研究は、MITの大学院生であり、アルゴリズムの偏見の解決に取り組んでいると自称する団体「アルゴリズム・ジャスティス・リーグ」の創設者でもあるジョイ・ブオラムウィニ氏と共同執筆された。研究では、アルゴリズムは肌の色が薄い男性を識別するのに最も優れていることが示された。女性や肌の色が濃い人を識別するのはあまり得意ではありません。調査では、これらの問題が指摘された後、一部のベンダーがアルゴリズムを改善したことも指摘されている。この調査に対するアマゾンの反応はニューヨーク・タイムズの記事に掲載され、ブオラムウィニ氏はこの問題に関する声明と反応、およびサプライヤーのメディアへの反応を発表した。

機械学習では、使用されるトレーニング データの量と種類に応じて、結果が偏ったり不正確になったりする可能性があります。たとえば、Amazon は機械学習を使用して求職者の履歴書を審査し、最終的に男性の応募者が大多数を占める結果となりました。これは、アルゴリズムのトレーニングに使用された履歴データ プールに、女性よりも男性が多く含まれているためと考えられます。

ベンダーは、アルゴリズムのトレーニングに使用されるデータ プールにさらに多くのデータまたはデータ ソースを追加することで、AI 顔認識システムの精度を向上させることができます。

ただし、ベンダーはこれらのアルゴリズムの欠陥を防ぐための安全弁も提供しています。これらのシステムにより、組織のクライアントはしきい値または信頼レベルを設定できます。これは、組織が結果に対して計画しているアクションの種類に基づいて設定できます。

全米小売業協会の展示会で展示された小売システムは、その仕組みを紹介しています。たとえば、性別に関して言えば、これらのシステムでは、ある人物が男性であると判断するかもしれませんが、基本的に、その人物が男性である確率が 67% (または他のパーセンテージ) であることを示す信頼度スコアも提供します。小売業者は、受け入れ可能な信頼レベルを設定しています。したがって、信頼度スコアが 67% で男性であると推定され、小売業者がしきい値レベルを 60% に設定している場合、顧客には男性向けにカスタマイズされたオファーが表示されます。小売業者がしきい値スコアを 70% に設定した場合、顧客のスコア 67% はそのしきい値を満たさないため、顧客には男性または女性を問わずどの顧客にも提供できる一般的なオファーが表示されます。

たとえば、法執行機関のアプリケーションのように、誰かの人生の軌跡を変える可能性があるような重大なリスクがある場合、組織はしきい値を 99 パーセントに設定することがあります。リスクがそれほど高くない場合は、閾値をより低いレベルに設定する可能性があります。

プライバシー意識を高める

しかし、GDPRやその他の新しいデータプライバシー法の時代に、顧客画像の収集にはプライバシーの問題はあるのだろうか？全米小売業協会の展示会のブースの1つにいた担当者は、顧客画像は保存されないと述べた。ただし、特定のディスプレイを訪れた顧客の人口統計に関する集計データは保持され、分析され、小売業者が顧客に関する洞察を得るのに役立ちます。

企業は AI 顔認識ソフトウェアの使用を試みるべきでしょうか? それは、アプリケーションとリスクのレベルによって異なる可能性があります。デジタル競合他社に対して優位に立つことを目指す実店舗の小売業者にとって、これらのアプリは前例のないデータと洞察の世界を開くことができます。

その他のケースでは、マシンビジョンは、児童人身売買と闘うためなど、人物の画像を見つけて既知の画像のデータベースと照合するために使用されます。 AI は、一致する可能性のあるものを提示し、最終的に一致が見つかったかどうかを判断できます。この種のアプリケーションで AI を使用する利点は、行方不明の子供を特定する場合でも、混雑したスポーツイベントでテロリストの容疑者をリアルタイムで発見する場合でも、アルゴリズムが数秒で分析して照合できることです。しかし、こうした重要なアプリケーションでは、ループ内で人間が最終決定を下すことが、この新興技術によるエラーに対する重要な安全策となるでしょう。

これは企業が心に留めておくべきことです。 AI 顔認識技術はまだ新しいため、完璧ではないことは明らかであり、慎重に扱う必要があります。さらに、多くの新興技術と同様に、これまでのところ、その使用を規制する規制が不足しています。そして、こうした規制はおそらく今後数年のうちに施行されるでしょう。