顔認識技術の応用における認知的誤解

[[286435]]

カメラはどこにでもあり、顔認識は生活のほぼあらゆる場面で使用されています。どのような認知的誤解が存在​​するのでしょうか。どのような隠れた懸念が存在するのでしょうか。清華大学法学院の老冬燕教授が見解を述べました。

"1つ"

この社会に生きる私たちは、徐々にカメラに慣れてきています。

多くの人は、以前の私と同じように、こうしたカメラは交通違反などの行為を防止するために公共の場での居場所を記録するためだけに使われていると考え、あまり深刻に考えていないかもしれません。実際、ユビキタスカメラは顔認識技術を補完するように設計されており、この技術がその力を発揮できるようにしています。

昨年以来、基盤技術の質的進歩により、顔認識の精度が大幅に向上し、その応用シナリオは爆発的に成長しました。

いつものように、人々はそれを新しいテクノロジーの延長とみなし、多くのシナリオでのその応用を冷静に、そして非常に喜んで受け入れています。整形外科業界は大きな影響を受けるだろうと冗談を言う人もいました。そのような心配は、いくぶん根拠のないものである。整形手術を受けたとしても、瞳孔間の距離は変わらないので、認識技術が機能しないという心配はありません。

顔認識技術の急速な普及に直面して、人々は平静さと喜びを見せている。これは主に、多くの人が顔認識技術を単純な識別と検証と理解しており、リスクを感じていないためである。同時に、犯罪者を捕まえるというシナリオを除いて、人々はこの技術の応用をいたるところにあるカメラと関連付けたり、無意識のうちに自分たちを監視の例外とみなしたりすることが多々あります。

この意味では、人々がこの新しい技術を一般的に無関心で、平静に、そして喜んで受け入れているのは、いくぶん盲目であり、彼らは自分たちが置かれている本当の状況に気づいていないのです。

顔認識技術を単なる識別と検証と理解するのは大きな誤解です。実際、この技術は個人の顔の生体認証情報を取得するだけでなく、既存のデータベース内の対応するデータと比較するためにも使用されます。さらに、個人の身元情報、日々の居場所、人と車のマッチング、親族のマッチング、他の人と頻繁に接触する人のマッチングも追跡できます。これは、あらゆる場所にあるカメラとの連携の結果です。これらすべては、管理者がそれを使用したいかどうかによって決まります。

最新の顔認識技術は、性別を示して年齢を推定するだけでなく、人の表情を識別することもできます。人工知能やディープラーニングの範疇に入るため、技術のさらなる発展により、解釈や分析を通じてプライバシーに関わる情報がますます多く得られるようになると考えられます。あらゆる個人の正確なユーザー プロファイルを作成するには十分すぎるほどです。

これほど膨大な個人情報が全能で公正な神によって収集され、保管され、利用されるのであれば、当然心配する必要はありません。問題は、この仮定が成り立たないことです。ここは無神論社会です。

何も隠されていない、人々は心配する必要はないといった安心させる言葉については、本当に信じているとしたら、それはあまりにも世間知らずでしょう。無実の人や冤罪のケースが頻繁にあることはさておき、もしこれが本当なら、なぜこれほど多くの元公務員が刑務所にいるのだろうか。なぜ政府は汚職防止を大々的に訴える必要があるのだろうか。取り締まるべき保護の傘がこれほど多くあるのだろうか。

つまり、顔認識技術が人々に広く受け入れられているのは、希望的観測に基づく盲目的な楽​​観主義か、あるいはリスクを意図的に無視または過小評価した結果である。つまり、十分な情報がないまま偏った判断が下されたのです。これは、顔認識技術が公の話題になっていない重要な理由でもあります。

"二"

少し理解してみると、現在の顔認識技術には、収集、保管、使用のいずれにおいても多くの問題があることがわかります。これらの問題は国民の重大な利益に関わるものであり、プライバシー権の一部を放棄するよう求めるほど単純なものではありません。

まず、データ収集の観点から見ると、顔認識は無意識かつ非接触であり、遠距離でも動作し、ユーザーに気付かれずに長期間大規模にデータを蓄積できるため、侵襲性が高いです。

顔認識技術は、人が気付かないうちに遠くから関連データをキャプチャして記録することができます。チャイナ・ニューズウィーク誌の報道（「顔認識の岐路：顔のパニック」）によると、専門家は中国人は1日に500回以上、さまざまなカメラにさらされていると述べている。だから、疑わないでください。顔認識技術を使い始めれば、あなたと私を監視する目が常に存在することになります。透明な人間になるということは、単なる想像ではなく、生きた現実です。

しかし、顔の生体認証データは明らかに個人情報です。現在の法律や規制に従っても、顔認識の収集プロセスは重大な法律違反、さらには犯罪に繋がります。個人の顔データは、収集される本人の同意を得ずに取得されるケースが多いため、適法に取得されているとは考えにくい。

現行刑法では、同意なく個人情報を不法に取得したり、適法に取得した個人情報を第三者に販売・提供したりする行為は、いずれも国民の個人情報を侵害する罪に問われます。

顔認識が使用されるシナリオの中には、本人の了解を得て同意を得た上でデータが収集されるものもあるようです。実際には、収集対象、収集データの範囲、使用目的と範囲、保護措置とそれに伴うリスクなど、情報開示が不十分であるため、収集対象者の実際の承認は法律上の有効な同意を構成しないため、収集行為は依然として違法です。

第二に、データ保存の観点から見ると、データ収集者が適切な保護に失敗すると、大規模な漏洩につながります。また、合理的な保存対策を講じたとしても、ハッキングされて漏洩するリスクが残ります。個人の生物学的データは安定しており変更不可能であるため、一度漏洩すると、それに伴うリスクと危険は取り返しがつかず、効果的に補償することはできません。

今年、顔データ漏洩問題に関するニュースがいくつか報道されました。まず、顔検出や群衆分析などを提供する国内テクノロジー企業が、パスワード保護されていない顔認識データベースを一般に公開していたことが判明し、利用者256万人分の情報が流出した。最近、一部のメディアは、オンラインショッピングモールの一部の商人が顔データを公然と販売していることを発見した。その数は17万件に上る。

漏洩した顔データがどのような人たちによって、どのような場面で利用されるのか、また、それが財産の損失やその他の個人の権利や利益の侵害につながるかどうかは、全く分かりません。確かなのは、顔データの漏洩によってもたらされる潜在的なセキュリティリスクは、携帯電話番号やアカウント情報の漏洩よりもはるかに深刻であるということです。

今年発売されたAI顔変換ソフトウェアは、ビデオに映っている人物の顔を正面からの写真に置き換えることができる。顔を変える技術の出現により、詐欺や社会的パニックの誘発が容易になった。近年の通信詐欺の横行を考えれば、顔データの大規模な漏洩は社会に大きなパニックをもたらし、多くの一般人が大きな損失を被ることは容易に推測できる。

さらに、顔認識技術自体にも多くの技術的な抜け穴があります。前述の中国ニューズウィーク誌の報道によると、セキュリティオタクのコンテストで、浙江大学でコンピューターサイエンスを専攻した1990年代生まれの女性参加者が、わずか2分半で顔認識アクセス制御システムをクラックし、デバイスに保存されている顔を置き換えたという。

顔認識の応用シナリオは爆発的に成長していますが、関連データをどのように保護するかについては強制的な規制はなく、完全に収集者の意図に依存しています。ご想像のとおり、データ漏洩によって生じるリスクを評価するのは困難です。それは火薬庫のようなもので、ほんの少しの火花が爆発的な社会的出来事を引き起こすのに十分です。

最後に、データ利用の観点から見ると、制限がないため、顔認識技術の応用シナリオが大幅に拡大するにつれて、悪用や差別は避けられなくなるでしょう。

現在、顔認識技術は、セキュリティ、アクセス制御、支払い、認証などの一般的な応用シナリオに加え、ショッピングモールの交通統計、コミュニティ管理、年金徴収、税金証明、物品保管、観光地の入退場、公演会場のチケットチェックなどにも広く利用されています。さらに、これは授業プロセスにまで拡張され、生徒の授業行動を監視および管理するようになりました。また、地下鉄のセキュリティチェックにも登場し始めています。

収集と保管に関する問題はさておき、上記の多くの応用シナリオから判断すると、顔認識技術の現在の使用には明らかに乱用の傾向があります。このような悪用により、大規模な操作が可能になり、監視が至る所で行われるようになります。虐待のリスクに関する現在の暴露は、間違いなく巨大な氷山の一角に過ぎません。

顔認識技術は差別の問題を引き起こす可能性もある。研究によれば、顔は性的指向を明らかにする可能性があり、その予測はほぼ正しい。そのため、同性愛傾向のある人は差別の対象になりやすいのです。もちろん、差別の範囲はこれよりはるかに広く、人種、性別、民族、地域、職業などによる差別も含まれます。

"三つ"

技術の進歩そのものだけでは、顔認識技術の応用が急速に進んだことを説明できないと考えられます。現在の大規模な拡大の背後には、権力と資本という2つの大きな原動力があります。

権力の観点から見ると、政府はついに、安全保障の名の下に社会全体を網羅的に予防・統制するための便利な技術的手段を見つけたのだ。資金面では、研究開発やプロモーションに携わる企業は、市場価値と利益をできるだけ早く高めるために、必死に事業を拡大しています。

顔認識技術の拡大が洪水のように止められないのは、まさに権力と資本の密接な連携があったからこそだと言わざるを得ない。現行法では、データの収集、保存、送信、使用、処理方法、第三者への販売や提供の許可、オンラインへの配置の可否などについて規定されていないため、適用シナリオの大幅な拡大によって生じるリスクも飛躍的に増大しています。考えてみればこれは恐ろしいことであるだけでなく、想像もできないことです。

権力と資本のこの協力に関して、私たちは2つの疑問を提起することができます。第一に、犯罪者の逮捕は私たちの社会の主な任務ですか？第二に、資本は利潤の追求において最低限の社会的責任を考慮する必要はありませんか？

顔認識技術の使用は個人のプライバシーを少し犠牲にするに過ぎないと誤解している人は多い。効率性とセキュリティのためなら、多少の犠牲を払っても問題ではない。それでも価値のある取引だ。しかし、顔認識技術の本質を認識し、データの収集、保護、使用に存在する多くの問題について知れば、これは悪魔との取引であるとしか言えません。

個人が放棄する必要があるのは、プライバシーの一部だけではなく、プライバシーの大部分、あるいはすべてです。さらに重要なことは、人々が想像上の安全を得ることは不可能だということです。

はい、セキュリティ分野で顔認識技術を推進すれば、より多くの犯罪者を捕まえるのに役立ちます。しかし、そのような小さな利益が、個人の生体認証情報が漏洩したり悪用されたりするリスクを相殺するのに十分であると本当に確信しているのでしょうか?

日常生活の中で一般の人が犯罪の被害者になる確率がどのくらい高いのか、よく考えてみてください。顔認識技術が導入される前、私たちは毎日犯罪の脅威に直面していたのでしょうか?

非常に安全だと主張する社会に、どうしてこれほど多くの犯罪者がいるのでしょうか。一方では、この社会は特に安全だと主張し、しばしば世界に対してそのことを誇示しています。他方では、一般の人々は犯罪者に常に脅かされていると信じており、遍在する犯罪者に対処するにはスカイネットの技術を使用する必要があると考えています。彼は二重人格だと思いませんか？そういう人は、気取った嘘つきか、絶望的に愚かな人だと思います。

このようなランダムなリスク推定が極めて盲目的であることは容易に分かります。これは権力と資本による洗脳の産物なのかもしれない。問題は、権力と資本が明らかに共謀して、わずかな利益で私たちに対して陰謀を企てていることです。それでもなお、私たちが相手のことを考えるなら、それは非常に悲しく、愚かなことではないでしょうか。

「4」

少しでも効率を上げるためには、個人のプライバシーだけでなく基本的なセキュリティも犠牲にする必要があります。これを諦める価値があると本当に確信しているのでしょうか?

ここでは、よくある3つの疑問に答える必要があります。

まず、指紋認証は推進できるのに、なぜ顔認証は推進できないのでしょうか。

この見解には基本的な論理が欠けています。反対する理由は少なくとも4つあります。

まず、公的機関にとって、身分証明書の申請時に指紋を採取することは、少なくとも住民身分証明書法により認められているが、個人の顔情報を収集することについては法的に認められていない。各国の状況から判断すると、国民の指紋の強制採取は依然として比較的まれな現象である。外国人から指紋を採取する慣行は一般的になっているが、法治国家では、個人の自治権の侵害や違憲を理由に、政府が一般国民から指紋を採取することを禁止されることが多い。

第二に、指紋の収集は顔認識に比べて侵襲性が大幅に低く、リスクもはるかに少なくなります。結局のところ、指紋は直接目に見えず、居場所などの他の情報との相関性も低く、監視も困難です。逆に、顔認識とユビキタスカメラを組み合わせると、高度な監視が可能になります。同時に、漏洩や悪用のリスクという点では、顔認証は指紋認証よりもはるかに恐ろしいです。

第三に、指紋認識は適用シナリオが限られており、主に個人の携帯電話やユニット内で使用されていますが、顔認識は必須の適用シナリオが多すぎます。指紋認識が行われる場合、個人は一般的にそれを認識しますが、顔認識が使用される場合、個人はそれを認識しないことがよくあります。私たちは知らないうちに一日に何百回も顔認識を受けています。一方で、1日に何百回も指紋認証を受け入れることができる人はどれくらいいるでしょうか?

最後に、指紋認証がすでに普及しているからといって、顔認証も普及させられると推論されるが、これも推論ロジックの面で問題がある。懐疑論者の論理は、政府がすでに指紋を収集する権利を与えられているのだから、顔データに関する権利をさらに放棄することはできないのではないか、というものだ。問題は、法律がそれを明確に認めていないのに、なぜ個人が法的権利を放棄しなければならないのか、ということだ。この論理によれば、次のステップでは、私たちはすべての身体データ、さらには遺伝子データさえも放棄し、ある組織にそれらを完全に管理させることができるのでしょうか?

第二に、顔認識はなぜ空港では使えるのに、地下鉄やその他の公共エリアでは使えないのでしょうか?

この見解はもっともらしい。拒否の理由は3つあります。

まず、この質問は証明されていない前提を前提としています。顔認識は空港のセキュリティチェックに必須ではないが、ここ2年間で初めて使用されるようになった。質問させてください。以前は効果的な空港セキュリティは存在しなかったのでしょうか? 過去 2 年間のドイツ、フランス、イギリス、日本への旅行経験から、それぞれの空港で顔認識技術が使用されているのを見たことはありません。空港のセキュリティ チェックは行われなかったのでしょうか?

第二に、例外的に空港で顔認証を利用する必要があるとしても、地下鉄やその他の公共の場所で推進してよいというわけではない。空港のセキュリティチェックは本来、最高レベルのものです。場面を問わず同じレベルのセキュリティチェックを実施することは、ガバナンスの考え方に混乱をもたらすだけです。その必要性が疑問視されているだけでなく、人々の旅行に重大な障害を引き起こしている。

最後に、空港のセキュリティチェック中に顔認識を受けたとしても、対応する顔情報が空港のセキュリティ以外の目的やシナリオに使用できるということではありません。空港のセキュリティチェックの際の顔認識には人々が同意しており、それに対応するデータは当然、空港のセキュリティチェックの目的にのみ使用できます。他の場面で自由に使用できるということではありません。そうしないと、ユーザーの同意の範囲を超え、個人の顔の生体認証情報を違法に収集して使用することになります。

3つ目に、地下鉄で顔認識を使用すると、人々は自発的に選択することができます。なぜ人々に選択の機会を与えないのでしょうか?

この見解は表面的には合理的に思えますが、実際にはまったく実現不可能です。

まず、自発的な選択の前提は、明確かつ十分なリスク開示です。顔認識技術の本質と、その収集、保管、使用に伴う大きなリスクについて人々が十分に理解していれば、わずかな効率化のためにプライバシーとセキュリティを完全に放棄する人がどれだけいるのか、私は非常に疑問に思います。

第二に、地下鉄の人や物を一緒にチェックするセキュリティ対策の必要性も疑問だ。ロンドン、パリ、東京などの都市の地下鉄はいずれもテロ攻撃を経験しているが、人や物を同時に検査することを選択した地下鉄はない。理由は明らかに警備費が不足しているからではなく、合理的に検討した結果、地下鉄のような場所で人や物の同時検査を実施するのは適切ではないと感じているからだ。

最後に、我が国の地下鉄の混雑状況を考慮すると、2 つのセキュリティ チェック チャネルを設けるという慣行は、基本的に実現可能性を欠いています。これは、地下鉄のセキュリティにさらなる投資を行う必要があることを意味するからです。国の税収を無駄にする以外に、これを行う意味がまったくわかりません。財政収入は固定されており、政府は予算の多くを地下鉄の安全検査に使うことを選択しており、必然的に人々の生活への投資が減少することになる。

要約すると、上記の 3 つの疑問の観点は、論理的に混乱しているか、不当であるか、実現不可能であり、いずれも有効ではありません。

"五"

私は技術保守派ではないし、顔認識技術の応用に完全に反対しているわけでもない。しかし、私は、公的機関が明確な法的許可なしに一般市民の顔の生体認証情報を収集することには反対です。なぜなら、そのような収集には基本的な正当性が欠けているからです。

顔認識技術の商業利用に関しては、個人情報の収集を伴うため、収集者は個人情報の保護に関する関連法規定を厳守する必要があります。データの収集と保存の標準化を確保するだけでなく、顔認識技術の適用シナリオにも厳しい制限を設ける必要があります。

商業的なシナリオでは、顔認識技術の使用は少なくとも 4 つの要件を満たす必要があります。

まず、収集者は、関連する情報とリスクを明確かつ十分に開示し、収集される人の同意を事前に得なければなりません。収集対象者の明示的な同意がない限り、個人データはいかなる形式でも第三者（政府機関を含む）に提供されず、第三者による使用も許可されません。犯罪捜査や国家安全保障に関わる場合には例外が認められる場合もあるが、適用される条件や手続きは厳しく制限される必要がある。

第二に、収集手順はオープンであり、収集されるデータの範囲がアプリケーション シナリオの目的と一致し、合理的な範囲を超えないことを保証する必要があります。収集者は、範囲を超えて個人の顔データを収集することはできません。収集の範囲は、対応する適用シナリオの目的と一致し、合理性と必要性​​の原則に基づく必要があります。

第三に、個人の顔の生体認証データを収集した後、収集者はそのデータを保管する義務を果たす必要があります。収集者は収集したデータを適切に保管するために合理的な努力を払う必要があり、保管義務に違反した場合は、それに応じた法的責任を負うことになります。同時に、データ収集の対象者が同意を撤回した場合、またはデータの削除を明示的に要求した場合、収集者は対応するデータを削除するものとします。

第四に、顔認識技術の応用シナリオは合法性と合理性を確保し、過度に侵害的な措置を避ける必要があります。原則として、特定のシナリオで収集者が収集したデータは、そのシナリオが合理的に予見可能な範囲内でない限り、他のシナリオで使用することはできません。データの適用シナリオが許可なく拡大または変更された場合、収集者はそれに応じた法的責任を負うものとします。

一般的な個人情報と比較すると、顔の生体認証データは機密性が高いため、既存の法律では十分な保護を提供するのが単純に不十分であることを指摘しておく価値があります。特に、個人情報保護に対する技術の発展がもたらす課題に対処する上で、同意に基づく法的保護の仕組みは全く不十分なものとなっている。これを踏まえ、法曹界は特別な研究を行い、効果的かつ合理的な規制の道筋や保護策を模索する必要がある。

顔、遺伝子、指紋、虹彩、歩き方など個人の生物学的情報は不変です。したがって、漏洩の結果が悲惨なものになると、法的手段を含む多くの手段では効果的な救済を提供することが困難になります。対応するリスクは完全に不可逆的であり、漏洩前の基本状態に戻すことは不可能です。

これは、顔認識技術の収集、保管、使用に関する厳格な法的規制が確立される前に、顔認識技術を無差別に推進すると、パンドラの箱を開けてしまうことになるということを意味する。私たちが支払うのはプライバシーの代償だけではなく、私たちが目指すセキュリティの代償でもあります。

したがって、顔認識技術をめぐる公開討論は、プライバシーとセキュリティに関する討論とはまったく異なります。プライバシーとセキュリティの両方を脅かします。プライバシーがなければ自由はありません。このままでは、自由も安全もない社会が私たちを待ち受けていることになる。もしこれが結果だとしたら、人々は依然として現在の利便性を切望し、権力と資本が顔認識技術の応用を推進することをいとわないのだろうか？

顔認識技術をどのように活用するかという問題に関しては、安全性と効率性の霧を晴らし、権力と資本に囚われないことによってのみ、合理的な選択をすることができる。