ニューヨーク州が顔認識を「禁止」する法律を制定。なぜキャンパス内で AI が頻繁に「失敗」するのか?

アメリカは顔認識技術と全面的に戦っている。

米ニューヨーク州は最近、2022年まで学校での顔認識やその他の生体認証技術の使用を禁止する法律を可決した。

これは、学校でのこの技術の使用を明示的に禁止する米国初の法案となる。

[[334914]]

サザン・メトロポリス・デイリーによると、この法案は昨年起きたキャンパス申請をめぐる論争を受けて提案されたという。

2019年5月、ニューヨーク州西部のロックポート市は、学校のセキュリティ強化を主な目的として、市内のキャンパスに顔認識装置の配備を開始しました。

ロックポート市学区のミシェル・ブラッドリー学区長は外国メディアのインタビューで、「これは生徒、職員、訪問者の安全を確保するための新たな措置だ」と語った。

ロックポート市の公式情報によると、顔認識システムは学校への立ち入りが認められていない人物を識別し、異常な状況が検知されると警報を発するとのこと。

このシステムは、第2級または第3級の性犯罪者、停職処分を受けた学校職員、裁判所命令により許可なく学校に入ることを禁じられている人、法執行機関の情報により脅威となることが判明した人などを特定することに重点を置いています。

プライバシーの問題により、顔認識アプリケーションは米国では常に物議を醸してきました。

その結果、ロックポート市はニューヨーク州教育省などの監視の下、システム設定の変更を繰り返し、最終的には人事マッチング状況の記録のみをシステムに許可し、個人情報は一切収集・保管せず、生徒の写真などの個人情報はシステムに追加しないことを決定した。

さらに、現地の法的要件に従い、監視ビデオは保存後 60 日後にサーバーから削除されます。

2020年1月、このシステムはロックポート市で正式に運用を開始しました。しかし、アメリカの一部の市民団体は、顔認識システムは侵入性が高すぎるため、学校などの場所に導入すべきではないと考えている。

システムが学生に誤報を発した場合、学生の授業に影響を及ぼしたり、学生に虚偽の犯罪歴を与えたりするなど、学生にあらゆる危害を与えることになります。

6月、ニューヨーク自由人権協会はロックポート市にこのシステムの使用を中止するよう求める訴訟を起こした。

検察は一部の地元当局者から支持された。

現地時間6月23日、ニューヨーク州議会議員モニカ・ウォレス氏と上院議員ブライアン・カバナ氏は、プライバシー問題に対する懸念を改めて表明する共同声明を発表した。

「この技術の使用により、学生、教職員、訪問者のプライバシーやその他の公民権が侵害される可能性があることを懸念しています。キャンパスのセキュリティを維持する方法としては非効率的であり、学生のデータを安全に保存できない可能性があります。」

ニューヨーク州の上院と下院は新たな禁止令を可決したと報じられている。

この差し止め命令は次にニューヨーク州知事アンドリュー・クオモに提出される予定だ。彼が署名すれば、この禁止令は正式な法律となる。

「空の目」を備えた教室

米国のニューヨークに加え、中国の教室でも関連アプリケーションが別の方法で使用されており、社会的論争を巻き起こしている。

[[334915]]

教室内のすべての行動についての洞察を提供できます。

以前、浙江省杭州の中学校の教室に、魔法のような新しい友達が現れました。それは、スマート教室行動管理システムです。このシステムにより、どの生徒が授業に集中しているか、どの生徒が空想にふけっているかを明確に把握し、区別することができます。

通称「スカイアイ」と呼ばれるこのシステムは、3台のカメラを内蔵しており、生徒の表情や動きを捉え、一連のビッグデータ分析を行って、最終的にリアルタイムの授業出席データ、授業集中偏差分析、授業行動記録データ、授業表情データを計算し、その結果をキャンパス管理者にフィードバックします。

同校の担当者によると、システムは30秒ごとにスキャンし、読む、手を上げる、書く、立つ、聞く、机に横になるなど生徒の6つの行動と、喜び、悲しみ、怒り、嫌悪などの表情を組み合わせて、生徒の授業状況を分析するという。 （テーブルの上に横たわることだけが、マイナスの行動とみなされます。）

このような不注意が一定のスコアに達すると、システムはディスプレイ画面にリマインダーを表示し、教師はそのリマインダーに基づいて指導を管理できます。

このシステムは、学校の保健室などの他のバックエンドデータとも接続できると報告されています。生徒が体調不良の場合、その生徒を「ホワイトリスト」に含めることができます。

つまり、このシステムを利用することで、毎日8回の授業320分のうち、生徒が何分集中して講義を聞いているか、子どもたちが学校で幸せかどうかが、このシステムが提供するデータから明確にわかるようになります。

このシステムの導入と応用について、教育者の黄氏は「派手だが実用的ではない」と語った。

「生徒がぼんやりしているかどうかは、先生は机の上ではっきりと見ることができます。」

彼の意見では、「学び」の主導権をいかにして学生の手にしっかりと保持するかが、教育行政者が考えるべき問題となっている。

学習は常に自律的なプロセスであり、教育の核心的な突破は教材のアップグレードに頼るものではありません。授業での生徒の真剣さは教師の魅力にかかっています。強制的な監督は多くの生徒を「仮面の人」にするだけです。

同時に、このシステムの適用はほとんどのネットユーザーからも批判された。

今のところ道徳的な問題はさておき、技術的な観点から、この技術を実装することは本当に実現可能でしょうか?

上記から、このシステムは教室での応用において 2 つの機能を果たすことができることがわかります。

1. リアルタイムの授業出席データ。

教室の生徒数が多くなく、また教室自体も広くないからです。現在、多くの顔認識技術メーカーがこの需要に十分応えることができるので、詳細には立ち入りません。

2. 教室集中偏差の分析（マイクロ表現データ）

システムの操作プロセスとしては、インストールと使用後に次の 2 つの主要な操作を実行します。

• 1 つ目は顔検出で、顔カメラを通じて生徒の顔を検出し、最初のポイントで述べたリアルタイム出席を実現します。
• 2つ目は、これらの顔データに基づいてリアルタイムで詳細な分析を行い、微表情認識を使用して生徒が気が散っているか欠席しているかを判断することです。

顔の表情は、いくつかの小さな筋肉によって制御されます。人が通常行う大げさな表情や通常の表情とは異なり、微表情はごく短時間しか持続せず、動きの範囲も非常に狭いです。

さらに、微表情は、人が自分の内面の感情を隠そうとするときに自然に現れる表現であり、偽ったり抑制したりすることはできません。

他の生体認証技術の発展と比較すると、マイクロ表情認識はあまりにも微妙であるため、コンピュータービジョンの分野では常に難しい技術問題となっています。この技術の開発閾値は比較的高く、技術的な難しさは主に次の3つの側面に反映されています。

• データ収集、ここでのデータは動的ビデオデータである必要があります。
• 筋肉単位にラベルを付けるのは難しいですし、表情の定義も人それぞれなので、「笑っている」とか「悲しい」といった基準を決めるのは困難です。
• 微細表情認識では、感情の変化を 5 分の 1 秒以内に捉える必要があり、データをリアルタイムにするには 1 秒あたり 5 フレーム以上を処理する必要があります。

Leiphone.com（公式アカウント：Leiphone.com）は、この技術が現在金融分野で最も使用されていることを知りました。

クレジット業界を例に挙げると、最近ではローン詐欺が頻繁に発生しています。大規模なローン申請の場合、金融機関はローンを承認する前に、審査担当者にユーザーとの 10 ～ 15 分間の質疑応答セッションを実施させます。

まず、ユーザーの基本情報をチェックします。ユーザーが回答する過程で、ユーザーの質問への回答習慣を記録するためのマイクロ表情プロファイルが作成されます。

インタビュアーの質問がより詳細になるにつれて、ユーザーが後続の質問に答えるときに以前の回答習慣に違反した場合（たとえば、視線が画面を直接見るのではなく、上を見たり足元を見たりするように変わった場合）、システムはそれを例外としてマークします。

対面レビュープロセス全体が完了すると、システムは、以前に記録された異常の数とレベルに基づいた包括的な評価を通じてレビュー担当者にフィードバックを提供します。

面接前と面接後のギャップが大きすぎる場合、基本的な質問からフォローアップの質問までの間に、その人の感情や心理が大きく変化したことを意味します。これにより、面接官は、その人には特定のリスクがあり、リスクをより適切に軽減するためにさらに調査を行う必要があることを思い出すことができます。

この観点から、この技術を適用する前提としては、面接官の質問が深まっていくにつれて生じる微妙な表情の変化に対応することが挙げられます。

話を戻しますが、授業中、生徒は言葉で考えたり、負担を感じたりすることはなく、すべての表情が自然に生み出されます。私たちは、表情の変化ひとつで、生徒の精神活動や気が散っているかどうか（基準の欠如）を判断してはいけません。

ユニビューのインテリジェントアルゴリズム開発部門の専門家であるヤン・ジークン氏は、「このシステムの操作性には懐疑的だ」と率直に語った。

彼の意見では、このシステムを実際に適用すると次のような問題が生じるだろう。

• あらゆる AI テクノロジーの実装では、誤認識率が制御可能であることを保証する必要があります。一般的に、通常の教室の長さは約12メートルです。至近距離で生徒一人ひとりの顔の微妙な変化を機械で判断するのは非常に困難です。
• どのような製品を導入する場合でも、照明などのさまざまな複雑な環境の影響を考慮する必要があります。このシステムでは、朝、昼、夜の教室内の環境の変化も考慮する必要があります。機械はどのようにしてリアルタイムかつ複雑なシナリオで正確な認識を実現できるのでしょうか?
• ビデオ監視下の学生は動的であり、適用シナリオは非協力的であるため、識別の難易度がさらに高まります。機械はどのようにしてさまざまな角度で正確な認識を実現できるのでしょうか?

楊志坤氏は、「近年、AI技術は急速に発展しており、教育市場は確かに今後のAIセキュリティの実装における重要な拡大方向の1つとなっている。現在、大手セキュリティメーカーはこの市場を注視している」と述べた。

しかし、業界の観点から見ると、関連技術を盲目的に導入することはできません。人工知能の応用には、認識率、エラー率、堅牢性を確保する必要があります。この 3 つのポイントが満たされて初めて、テクノロジーの実装は意味のあるものになります。

現時点では、実装が容易なシナリオとしては、アクセス制御、顔認証などがありますが、システムが提案する微表情分析は、現在の AI 開発レベルを考えると、まだ長い道のりが残っています。

彼の意見では、「製品を発売する際には、顧客のニーズだけでなく、対象とする顧客層の体験も考慮する必要があります。」

この記事はLeiphone.comから転載したものです。転載する場合は、Leiphone.com公式サイトにアクセスして許可を申請してください。