顔認識技術の倫理原則は何ですか?

顔認識技術がさまざまな分野で持つ大きな可能性は、ほとんど想像できないほどです。ただし、最も洗練されたアプリケーションを実装する前に、その機能に共通する特定のバグと倫理的な考慮事項に対処する必要があります。

正確な顔認識システムは、生体認証を使用して写真やビデオから顔の特徴をマッピングします。情報を既知の顔のデータベースと比較して一致するものを見つけます。顔認識は個人の身元確認に役立ちますが、プライバシーに関する懸念も生じます。

数十年前には、顔認識が将来私たちの生活にほぼ不可欠なものになるとは予想できませんでした。スマートフォンのロック解除からオンラインまたはオフラインでの取引まで、このテクノロジーは今日私たちの日常生活に深く浸透しています。

顔認識システムは、人工知能のコンピューター ビジョンと機械学習コンポーネントを応用したもので、次のように動作します。アルゴリズムは、目の間のピクセル数や曲率など、人の顔のさまざまな詳細、およびシステム内で顔を再構築するためのその他の論理的に解釈された詳細を決定するようにトレーニングされます。この再構成された顔は、システムのデータベースに保存されている多数の顔と比較されます。アルゴリズムがデータベース内に存在する顔との一致を検出すると、システムはそれを「認識」し、ユーザーのタスクを実行します。

今日の顔認識システムは、プロセス全体を数秒で完了するだけでなく、照明、画像解像度、視野角が悪い状況でも機能します。他の AI テクノロジーと同様に、顔認識システムはさまざまな目的で使用される際に、いくつかの倫理原則に従う必要があります。

これらの規制には以下が含まれます。

1. 顔認識における公平性

まず、顔認識デバイスは、人種、性別、顔の特徴、奇形、その他の要因に基づく個人またはグループに対する偏見を完全に防止するか、少なくとも最小限に抑える方法で開発されなければなりません。現在、顔認識システムの運用が 100% 公平ではないことを示す証拠は数多くあります。その結果、このテクノロジーをサポートするシステムを構築する企業は、システム内で見つかった偏見の痕跡をすべて取り除くために何百時間も費やすことになります。

Microsoft のような有名企業は通常、できるだけ多くの民族コミュニティから有能な専門家を採用します。多様性により、顔認識システムの研究、開発、テスト、設計の各段階で AI データ モデルをトレーニングするための大規模なデータセットを作成できるようになりました。大規模なデータセットは偏見を減らす一方で、多様性も象徴的です。世界中から個人を選択することで、現実世界に見られる多様性を反映することができます。

顔認識システムにおける偏見を排除するために、企業はさらなる努力をしなければなりません。これを実現するには、機械学習とラベリングに使用するデータセットが多様である必要があります。最も重要なのは、公平な顔認識システムは、偏見の要素なしに世界中のどこでもシームレスに機能するため、出力品質が非常に高くなることです。

顔認識システムの公平性を確保するために、開発者はベータテスト段階でエンドユーザーを関与させることもできます。このようなシステムを実際のシナリオでテストする機能があれば、その機能の品質は向上するだけです。

2. AIの内部の仕組みについてのオープン性

職場やサイバーセキュリティ システムで顔認識システムを使用する企業は、機械学習情報がどこに保存されているかについての詳細をすべて理解する必要があります。このような企業は、日常業務にテクノロジーを導入する前に、その限界と機能を理解する必要があります。 AI テクノロジーを提供する企業は、これらの詳細について顧客に対して完全に透明性を保つ必要があります。さらに、サービスプロバイダーは、顧客が顔認識システムをどこでも使用できるようにする必要があります。システムの更新は、顧客からの有効な承認を得て行う必要があります。

3. 企業の責任問題

まとめると、顔認識システムはさまざまな分野で導入されています。このようなシステムを作成する企業は、特にその技術が法執行機関、監視、またはその他の個人やグループに直接影響を与える可能性がある場合には、その責任を負わなければなりません。このようなシステムにおける説明責任とは、システムによって引き起こされる可能性のある身体的または健康上の危害、金銭的不正流用、その他の問題を防ぐためのユースケースを含めることを意味します。プロセスに制御要素を導入するには、有資格者が企業内のシステムに対して慎重かつ論理的な意思決定を行う責任を負います。さらに、顔認識システムを日常業務に取り入れている企業は、その技術に対する顧客の不満に直ちに対処する必要があります。

4. モニタリング前の同意と通知

通常の状況では、顔認識システムは、本人の同意なしに個人、グループ、またはその他の行動をスパイするために使用されるべきではありません。欧州連合など一部の国では、権限のない企業が統治機関の管轄区域内の個人をスパイすることを防ぐための標準化された一連の法律を制定しています。このようなシステムを導入している企業は、米国のすべてのデータ保護およびプライバシー法に準拠する必要があります。

5. 人権侵害を回避するための法的監視

企業は、国家安全保障やその他の重要な状況に関連する目的で、国家政府または決定的な規制機関から許可されない限り、顔認識システムを使用して個人またはグループを監視することはできません。基本的に、この技術は被害者の人権や自由を侵害するために使用されることは固く禁じられています。

顔認識システムは例外なくこれらの規制に従うようにプログラムされていますが、操作上の誤りにより問題が発生する可能性があります。

このテクノロジーに関連する主な問題は次のとおりです。

1. 購入時の確認エラー

前述のように、顔認識システムはデジタル決済アプリケーションに組み込まれており、ユーザーはその技術を使用して取引を認証できます。この技術により、顔認証の盗難やデビットカード詐欺などの犯罪が行われる可能性が非常に高くなります。顔認識システムはユーザーにとって大きな利便性を提供するため、顧客は顔認識システムを選択します。顔認識システムにはセキュリティプロトコルが導入されているにもかかわらず、顔の複製は資金の不正流用につながる可能性があります。

2. 法執行機関向けアプリケーションの不正確さ

顔認識システムは、明白な犯罪者が捕まる前に特定するために使用されます。この技術は概念としては間違いなく法執行機関にとって有用だが、その動作には明らかな問題がある。犯罪者はこの技術をさまざまな方法で悪用する可能性があります。たとえば、偏った AI の概念では、システムが有色人種を区別できない場合があり、法執行機関に不正確な結果が提供されます。通常、このようなシステムは白人男性の画像を含むデータセットを使用してトレーニングされます。したがって、他の人種の人々を識別する場合、このシステムは誤った方法で機能します。

企業や公的機関が高度な顔認識システムを使って民間人を違法に監視していると非難される事例がいくつかある。個人を継続的に監視することで収集されたビデオデータは、さまざまな違法な目的に使用される可能性があります。顔認識システムの最大の欠点の 1 つは、提供される出力があまりにも一般的すぎることです。

たとえば、ある人物が重罪を犯した疑いがある場合、その人の写真が撮影され、数人の犯罪者の写真と一緒に照合されて、その人物に犯罪歴があるかどうかがチェックされます。しかし、これらのデータを積み重ねると、顔認識データベースにその男と経験のある重罪犯の写真が保存されることになります。したがって、個人が無実であるにもかかわらず、その人のプライバシーが侵害されることになります。第二に、その人がどう見ても無実であるにもかかわらず、悪い人だと認識される可能性があります。

顔認識技術に関連する主な問題とエラーは、技術の進歩の欠如、データセットの多様性の欠如、企業によるシステムの非効率的な取り扱いから生じていることがわかります。私の意見では、AI の応用範囲と現実世界のニーズへの応用は無限であり、顔認識技術のリスクは通常、技術が実際のニーズとは異なる動作をするときに発生します。

今後、技術がさらに発展するにつれて、技術関連の課題は解決されるでしょう。 AI アルゴリズムの偏りに関連する問題は、最終的には解決されるでしょう。ただし、このテクノロジーが倫理規範に違反することなく完璧に機能するためには、企業はそのようなシステムに対して厳格なレベルのガバナンスを維持する必要があります。ガバナンスが強化されれば、将来的には顔認識システムのエラーに対処できるようになるかもしれません。したがって、積極的な解決策を実現するには、このようなシステムの研究、開発、設計を改善する必要があります。