公共の場での顔認識は全面的に禁止される可能性があります。ちょうど今、欧州議会はAI規制を強化することを決定した

[[427521]]

昨日、欧州議会はAI生体認証技術に基づく大規模な監視の全面禁止を求める決議を可決した。

この決議は、公共の場での自動顔認識の全面禁止と、警察による予測的な警察活動のためのAIの使用に対する厳しい制限を求めている。欧州議会は賛成377票、反対248票、棄権62票で決議を可決した。

この決議では、民間の顔認識データベースの使用禁止も求めており、行動データに基づく予測的な警察活動も違法とすべきだとしている。

この決議はまた、国民の行動や性格に基づいて信用度を評価しようとする社会評価システムの禁止も求めている。

遠隔生体認証モニタリングのためのAI技術に関して、委員会は報告書の中で次のように述べている。

「…立法手段および非立法手段を通じて、また必要に応じて侵害訴訟を通じて、顔画像認識による公共空間での大量監視を含む、法執行目的での生体認証データの処理を禁止する。」

欧州議会議員ペータル・ヴィタノフ氏は決議採択後の声明で次のように述べた。

「人間の基本的権利は無条件です。この技術は効果がないことが証明されており、しばしば差別的な結果につながるため、私たちは初めて法執行機関への顔認識システムの導入の一時停止を求めています。この報告書はすべてのヨーロッパ市民にとって大きな勝利です。」

分類から全面禁止まで、EUの「締め付け呪文」はますます厳しくなっている

実際、欧州連合は今年4月、AI技術の高リスクな応用を防止・規制するための「人工知能産業規制草案」という草案を提案しており、その中には公共の場での遠隔生体認証モニタリング技術の使用を「原則的に禁止」することが含まれている。

この草案は実際に人工知能に関する包括的な規制枠組みを導入しています。対策の一つは、テロや誘拐などの重大犯罪に対処するために使用されない限り、公共の場での遠隔生体認証（顔認識など）を禁止することだ。

このケースでは、AI の応用シナリオを「低、限定、高、許容不能」の 4 つのリスク レベルに分類しています。レベルが高くなるほど、応用シナリオに対する制限が厳しくなります。

人工知能の最も物議を醸しているサブ領域である顔認識とすべての長距離生体認証システムは高リスクと特定されており、法執行機関は、司法部門の許可も必要な行方不明の子供、テロ攻撃、犯罪者の身元の特定などの場合を除き、公共の場でこの技術を使用することを禁止されています。

チャットボットなどのアプリケーションはリスクが限られています。これらのアプリは、ユーザーがマシンと対話していること、およびプロセスを続行するか終了するかを決定する権限を持っていることをユーザーに知らせる必要があります。

AI ベースのビデオ ゲームやスパムの識別はリスクが低く、 EU における現在の AI アプリケーションの大部分は低リスクのアプリケーションが占めています。上記のアプリケーションに制限はありません。

2016年には、EUの一般データ保護規則（GDPR）がすでにこれにいくつかの制限を課していました。GDPRによる生物学的データの処理は、「原則禁止と特別例外」の原則に従います。データ管理者は、個人の生体認証データの処理に対する例外として「データ主体の同意」を主張することができますが、その同意は「自由に与えられ、明確で、具体的かつ曖昧さのない」ものでなければなりません。

わずか数年の間に、EUのAI技術、特に大規模な顔認識技術の応用は、明確な分類から厳格な制限、そして完全な禁止へと移行した。

最近可決された決議は、AI技術、特に顔認識技術に対するより厳格な規制枠組みが確立されたことを間違いなく示している。

AIが何を示唆しても、最終決定は人間が下す必要がある

この決議ではまた、特に法執行機関や国境検問所におけるAIによる差別を防止するために、AIアルゴリズムに対する人間による監視を強調している。

欧州議会は、AI支援システムのアドバイスが何であれ、最終決定は常に人間が行う必要があることに同意し、 AI駆動型システムによって監視されている人々は救済を受けることができなければならないと述べた。

欧州議会議員らは、こうしたシステムでは少数民族、LGBTの人々、高齢者、女性を誤って識別することが明らかになっていると指摘した。アルゴリズムは透明性があり、追跡可能で、十分に文書化されている必要があります。公共部門は透明性を高めるために可能な限りオープンソース ソフトウェアを使用します。

欧州議会議員らはまた、国境管理システムの自動化に使われる表情分析に基づく「インテリジェントな嘘発見器」である、EUが資金提供している物議を醸している研究プロジェクト「iBorderCtrl」の中止も求めた。

この決議ではまた、刑事司法制度における体系的な偏見を固定化し増幅させる可能性がある司法判断を支援するための人工知能の使用を禁止するよう求めている。

顔認識をどのように管理しますか?国内外で実現は困難

実際、顔認識技術が禁止されるのは今回が初めてではない。

2019年、米国の9つの州は顔認識技術を禁止する法案を制定し、警察、政府機関、公共の場での顔認識技術の使用を厳しく禁止した。サンフランシスコは、警察やその他の政府職員による顔認識技術の使用を禁止した米国の大都市として初めてとなった。その後数か月で、オークランドやバークレーなどの都市でも同様の法律が可決された。

IBM、Amazon、Googleなど多くのテクノロジー企業は、これまでに顔認識関連の事業を中断または中止している。

国内でも同様の問題が存在している。今年のCCTV 315ガラでは、Kohler Bathroomsなどのメーカーがバスルーム店舗に顔認識カメラを設置し、顔データの収集に問題が生じていることが明らかになりました。これは個人のプライバシーを深刻に侵害し、個人データのセキュリティに大きな脅威をもたらします。

国家市場監督管理総局が発行した「個人情報セキュリティ規範」では、顔情報は生体情報であり、個人の機密情報でもあることが明確に規定されており、個人情報を収集する場合は、個人情報主体の許可と同意を得る必要があります。

今年１月１日に正式施行された民法は、個人情報の取り扱いには本人またはその保護者の同意が必要であると規定している。

国家標準管理局は4月23日、「情報セキュリティ技術の顔認識データセキュリティ要求」に関する意見募集草案を発表し、顔認識技術の応用シーン、セキュリティ要求、データ収集と処理に関する標準化仕様を確立し、関連する法律や規制、標準の不足を補った。

AI技術の急速な発展に直面し、将来的にデータのセキュリティと個人のプライバシーを確​​保しながら顔認識技術を最大限に活用する方法はまだ模索されていません。