新学期にAIデビュー！南京の大学は顔認識技術を使って出席確認と学生管理を行っている

最近、中国薬科大学は試験的に教室に顔認識システムを導入しました。学生の出席を自動的に識別するだけでなく、授業全体を通して学生の授業の聞き取り状況を監視できます。学校側は学習を奨励するためだと信じているが、ネットユーザーはそれを信じていない。あなたはどう思うか？

学生時代は先生の鋭い目つきが怖かったけど、今は顔認証教室がある。

最近、江蘇省南京市の中国薬科大学は、授業で顔認識システムを使用していることで世論の注目を集めている。

1. 授業をサボって携帯電話で遊んでも「監視」から逃れられない、南京大学が「顔認識教室」を試行

中国薬科大学の2つの教室に試験的に設置された顔認識システムは、学生の出席を自動的に識別できるだけでなく、授業全体を通じて学生の授業の聴取状況を監視できると報じられている。

[[275825]]

生徒が注意深く聞いているかどうか、授業中に上を向いているか下を向いているか、何回上や下を向いているか、上や下を向いている時間はどれくらいか、下を向いているときに携帯電話をいじっているか、目を閉じて居眠りをしていないか...この顔認識システムの「鋭い目」から逃れられるものは何もありません。

[[275826]]

中国薬科大学図書館情報センター所長の徐建珍氏は「従来の点呼は時間がかかり、精度も低いが、顔認証なら問題はない」と語った。

この措置は、授業をさぼる、早退する、誰かに代講を依頼する、授業に集中しないといった生徒の行動を減らし、生徒の出席率を高め、教室での規律を厳しくすることを目的としている学校の学務部からの要請であると報じられている。

しかし、そうすることは個人のプライバシーを侵害すると考える学生もいる。

「勉強をさせるために、まだ文句を言うなんて。まだ学生なの？」教室に顔認識システムを設置することは学生のプライバシーを侵害するという主張に関して、徐建珍氏は、学校は以前公安部門と法務部門に相談しており、教室は公共の場であるため「プライバシーの侵害」などあり得ないと述べた。

[[275827]]

中国薬科大学では、教室に加え、校門、寮の入り口、図書館、実験棟などの場所に顔認識アクセス制御システムを導入している。

顔認識教室はWeiboユーザーの間で白熱した議論を巻き起こした。ほとんどのネットユーザーは生徒のプライバシーを侵害するとして反対を表明したが、一部は支持を表明した。

学生はプライバシーが侵害されたとは感じていないと述べた。

このネットユーザーは、顔認識は比較的安全であり、学生にとって良いことだと信じている。

薬学部の学生は、大したことではないし、顔をスキャンして入るのは非常に便利だと考えました。顔認証を試験的に導入している教室は１、２カ所のみで、全ての教室に導入する予定はない。

2. 子どもの笑顔を監視すべきか？上海の小学校は授業で生徒を評価するために AI を活用

教室にカメラを設置することは目新しいことではないが、生徒の授業出席状況を分析するために教室で顔認識技術を使用するようになったのはつい最近のことである。

先月、上海中医薬大学付属閔行強衛小学校は校内に顔認識システムを導入し、インテリジェント教室評価システム、インテリジェント環境分析・制御システム、インテリジェント教師研修システムという3つの「AI+学校」システムを通じて生徒と教師を監視した。この動きは大きな論争も引き起こした。

[[275828]]

広報によれば、教室に入るこの「インテリジェント教室評価システム」は、実際の教室のサンプルデータに基づいて教師と生徒の行動や感情を自動的に検出し、インテリジェントなアルゴリズム分析を通じて教室のパフォーマンスに基づいた評価と改善提案を行うことができます。

生徒の場合、手を挙げる、立つ、座るなどの不適切な行動を自動で検出し、記録分析を通じて授業効果の総合評価を行うことができます。これは南京の大学で行われている「顔認識教室」に似ていると言える。

このシステムを利用すると、生徒が日常生活で笑顔を見せているか、先生に挨拶をしているか、率先してゴミを拾っているか、行列がきちんと整っているかなどの詳細がAIによって捉えられ、中央管制センターにフィードバックされるとのことです。

中国ニュースウィークによると、上海の小学校2年生の保護者である何さんは、このニュースを聞いてすぐに関係部門に問い合わせの電話をかけた。彼女は、小学校にAIを導入する前に、保護者に通知し、両者の同意を得る必要があると考えている。「保護者の1人がこれに反対する場合、学校はそれを実施すべきではありません。」彼女は、「学校にAIを導入するには、保護者の同意が必要」だと考えている。

しかし、危険を防ぎ、学校でのいじめを減らし、教育の質を向上させることができるため、支持を表明する人もいました。

3. スウェーデンの高校は生徒の出席を監視するために顔認識技術を使用していたが、プライバシー法違反で告発され、15万ポンドの罰金を科された。

教室への顔認識の導入は中国に限ったことではない。最近、スウェーデンの高校が生徒の出席を監視するために顔認識を使用し、20万スウェーデンクローナの罰金を科された。この事件は、教育機関におけるAI技術のさらなる応用についての議論を巻き起こした。

スウェーデン北部の都市シェレフテオにある地元の教育機関は、高校生の出席を監視するために顔認識技術を使用していたため、スウェーデンのデータ保護当局から20万スウェーデンクローナ（約15万元）の罰金を科された。

学校の実験プログラムでは、22人の生徒の出席が3週間にわたって追跡され、生徒が教室に入るたびに顔が記録された。

このテスト作業を実施する前に、生徒本人とその保護者から許可を得ていました。しかし、スウェーデンのデータ保護局（DPA）は、このプログラムが依然としてEUのプライバシー法である一般データ保護規則（GDPR）のいくつかの規定に違反していると結論付け、違法なデータ収集に対して学校に罰金を科した。

「シェレフテオの高校はデータ保護規則のいくつかの規定に違反したため、罰金を科す」とDPAのレナ・リンドグレン・シェリン局長は声明で述べた。

DPAは顔認識技術が学生のプライバシーを侵害していると結論付けたが、学生の出席監視はカメラ監視を伴わない方法を用いればプライバシーを侵害しない方法で実施できると強調した。

「顔認識技術はまだ初期段階ですが、急速に発展しています。そのため、誰にとっても役立つアプリケーションを特定することが重要なのです」とシェリン氏は説明した。

シェレフテオ市議会のフェリシア・ルンドマーク氏は、シェレフテオだけでなくスウェーデン全体で、出席監視のための AI テクノロジーの将来を評価する必要があると強調しました。

アンダーストープ高校のヨルゲン・マルム校長は罰金に驚きを表明した。

「良い結果ではありません。学校環境で情報を処理し、ITを開発する方法は大きな問題であるため、興味深い決定です。」

この実験に参加した学生のハリーさんは、罰金は「不当」だと考えている。

顔画像データを含む個人データとプライバシーの保護を強化するために昨年施行されたGDPRに基づき、スウェーデンが罰金を科すのは今回が初めて。

4. 技術の発展には限界はないが、その利用には限界がある

科学技術の急速な発展に伴い、顔認識は人工知能の重要な分野として、携帯電話のロック解除から顔認識による支払い、さらには顔認識を使用した出勤・退勤の記録まで、私たちの生活に数多く登場しています...では、私たちはこの技術に畏敬の念を抱く必要があるのでしょうか?

1. 米国の多くの都市が顔認識を禁止し、マイクロソフトは世界最大の公開顔認識データベースを削除した

西洋諸国はテクノロジーの利用に関してはより保守的であるように思われます。例えば、米国では顔認識の進歩は困難を伴います。 5月、サンフランシスコは米国で初めて顔認識による監視を禁止した都市となった。

1ヵ月後、米国議会の両党は議会公聴会で、法執行機関による顔認識ソフトウェアの使用に対する高まる懸念について正式に議論した。両党は、顔認識ソフトウェアが国民のプライバシーと抗議の権利に潜在的な脅威を与えることに同意しており、そのようなツールの使用を禁止する法律の制定を求めている。顔認識ソフトウェアの専門家を含むこのチームは、より良い規制が導入されるか、技術が完全に成熟するまで、このような顔認識ツールは国によって禁止されるべきだと考えている。

[[275830]]

議会の超党派法案は顔認識を規制する立法を求める

7月には米国の別の都市が公共の場での顔認識ソフトウェアの使用を禁止する条例を可決し、サンフランシスコに次いで米国で2番目に顔認識技術を禁止する都市となった。新しい政策が発効すると、マサチューセッツ州サマービルのいかなる機関、局、部署も公共の場で顔認識技術を使用することができなくなります。

立法による監督に加えて、テクノロジー大手はテクノロジーの使用にも注意を払う必要がある。マイクロソフトは今年6月、1,000万枚の顔画像を収録した世界最大の公開顔認識データベースであるMS Celebを削除した。 2016年に最初に公開されたこのデータベースは、マイクロソフトによれば世界最大の公開顔認識データベースであり、世界中のテクノロジー企業や軍事研究者の顔認識システムのトレーニングに使用されている。

2. 史上最も厳しいデータ保護規制であるEUのGDPRは、最高2億ドルの罰金を科した。

一般データ保護規則 (GDPR) は、EU のすべての個人のデータ保護とプライバシーに関する EU 法の規則であり、個人データの欧州外への輸出に関係します。 GDPR の主な目的は、国民と居住者に個人データの管理権を取り戻し、国際ビジネスに関する欧州連合内の規制を簡素化し、調和させることです。

GDPR は、1995 年に導入された EU のデータ保護指令に代わるものです。この規制には、EU 内のデータ主体の個人情報の処理に関する条件と要件が含まれており、ヨーロッパとビジネスを行うすべての企業に適用されます。

この法案は2年間の猶予期間付きで2016年4月27日に可決され、2018年5月25日に施行される予定です。

これまでに、EU諸国と英国はGDPRに従って多数の企業を処罰しており、最高額の罰金は2億ドルを超えています。処罰対象となった企業はさまざまな業界にわたります。

2019年7月8日、英国の規制当局である情報コミッショナー事務局（ICO）は、同社のユーザー情報が大量に詐欺サイトに転送されたとして、ブリティッシュ・エアウェイズに最大1億8300万ポンドの罰金を科すことを決定した。攻撃者は偽のブリティッシュ・エアウェイズのウェブサイトを通じて、乗客約50万人の個人情報を収集した。情報漏洩は1年以上続いており、航空会社には逃れることのできないセキュリティ上の責任がある。

実際、我が国にもデータ保護を規制するための関連基準があります。 2018 年 5 月 1 日、情報セキュリティ技術個人情報セキュリティ仕様 (GB/T 35273-2017) に次の内容が明確に規定されました。

個人情報を収集する前に、個人情報主体に、提供される製品またはサービスの異なる業務機能のために収集される個人情報の種類、および個人情報の収集と使用のルール（個人情報の収集と使用の目的、収集方法と頻度、保管場所、保管期間、自身のデータセキュリティ能力、外部共有、転送、公開の関連状況など）を明確に通知し、個人情報主体の許可と同意を得る必要があります。

規制を設けることは第一歩であり、具体的な実施には関係者全員の共同の努力が必要です。最近登場したAI顔変換アプリ「 ZAO 」は一夜にして大ブームとなり、世論の渦中へと押し上げられ、プライバシー保護に関する人々の懸念が改めて確認された。この AI 時代において、テクノロジーの発展とプライバシーの保護をどのようにバランスさせるかは、私たちが深く考えるべき問題です。