専門家は「人工知能＋教育」は慎重に扱うべきだと考えている

[[278770]]

地図：李暁軍

● 学校での顔認識の導入は、データセキュリティと個人のプライバシーの両方の問題を引き起こします。生徒の個人情報に関しては、細心の注意を払う必要があります。可能であればいかなる情報も収集せず、特に個人の生体認証情報に関しては、収集する情報は最小限に抑える必要があります。

●サイバーセキュリティ法では、ネットワーク事業者は、適法性、正当性、必要性の原則に従って個人情報を収集および使用し、収集および使用のルールを公開し、情報の収集および使用の目的、方法、範囲を明確に示し、収集対象者の同意を得なければならないと規定されています。

● 表情の監視は、ある程度、生徒の尊厳を侵害し、生徒の自立した学習能力と教師の指導能力に対する信頼の欠如を示しています。長期間監視下で勉強し成長する学生は「演技性人格」を発達させやすい

人工知能の継続的な発展により、顔認識技術がキャンパス内でますます使用されるようになっています。

有名大学の2019年度新入生は「顔をスキャン」するだけで登録手続きを瞬時に完了できるとされている。このシステムは同校の学生が開発したもので、学生がカメラを向けると顔認識システムが照合を開始する。スキャンは瞬く間に完了し、登録手続き全体は1秒もかからない。さらに、顔認識を使用して生徒の出席状況を確認したり、授業の状況をリアルタイムで観察したりすることもできます。

この点について、教育省科学技術局長の雷超子氏は、「（顔認識技術の応用については）制限と管理が必要だ。学校がこうした技術ソフトウェアを非常に慎重に使用することを望んでいる。教育省はこの問題に注目し始めており、研究を行う専門家を組織している」と考えている。

レイ・チャオズィ氏はまた、キャンパスへの顔認識の導入は、データセキュリティと個人のプライバシーの両方の問題を引き起こすと述べた。「学生の個人情報を含む個人情報に関しては、非常に慎重にならなければなりません。可能であれば収集せず、特に個人の生体認証情報に関しては、収集を最小限に抑えるべきです。」

キャンパスに顔認識を導入することのメリットとデメリットは何でしょうか? Legal Daily の記者がインタビューを行いました。教室でのパフォーマンスをリアルタイムで監視することで、教師と生徒へのプレッシャーが増大する

最近、中国薬科大学は「教室での顔認識」を試行し、校門、学生寮、図書館、一部の教室に顔認識システムを設置した。このシステムは、生徒の出席を自動的に識別するだけでなく、生徒が注意深く聞いているかどうか、授業中に何回視線を上げたり下げたりしているか、携帯電話で遊んでいるかどうか、目を閉じて居眠りしていないかどうかも識別できます。一部のネットユーザーは、キャンパス内でこのようなシステムが広く使用されることは「プライバシー侵害」につながる可能性があると考えている。

国内の有名大学が2015年に大学の情報化構築に初めて顔認識技術を導入したことが分かっている。近年、一部の中学校では「校内の安全性向上」を目的に校門に顔認証による出席確認システムを導入している。

「今はインターネット技術の時代であり、『インターネット＋教育』があらゆるところで話題になっています。これは教育における革新であり、新しい技術の応用が教育業界に新たな活力をもたらすことができるのを私たちは嬉しく思っています」と、10年近く教師を務めている高校教師のヤン・ニ氏（仮名）は法制日報の記者に語った。

「中高生は授業中の自覚が乏しく、教師の監督が必要です。教師が授業中に常に教室の規律を維持しなければならないと、授業の質が低下します。さらに、従来の点呼方法は時間の無駄で、あまり正確ではありません。この観点から、教室に顔認識システムを設置することは、教師が教室の秩序を維持するのに確かに役立ち、教師は授業の内容を管理することに集中できるため、授業の効率が大幅に向上します」と楊倪氏は述べた。

楊倪氏は、顔認識システムは教育に一定の利益をもたらす可能性があるものの、教師と生徒が長期間人工知能の「監視」下に置かれると、逆効果になる可能性があると考えている。学生が監視されていることに気づけば、授業での彼らのパフォーマンスは必然的に歪んでしまいます。教師は実際の指導フィードバックを得ることができず、学生の興味や知識の習得度を正確に把握することもできなくなります。

「教師にとって、監視下での授業は必然的に他人に迎合する精神につながり、自分の考えを完全に手放すことができなくなります。教師は教室での授業をパフォーマンスに変え、生徒もまたパフォーマンスをします。これが長期間続くと、授業効果は低下し続けるでしょう」と楊倪氏は語った。

西安の大学生チェン・リンさん（仮名）は、法制日報の記者に対し、このような教育方法を好む学生はいないと語った。 「まるで誰かが常に監視しているようなもので、監視されることは誰も好まない。私たちはそのようなシステムに断固として抵抗する。強制的に導入されれば、みんながさらに反抗的になるだけで、授業の質は向上しない。学習の鍵は自己認識だ。」

陳林さんが通う大学では、出欠を取るために顔認証を導入しており、寮の入退室時にも顔認証が使われている。

「これらはすべて安全上の理由であることは理解できるが、もし本当に教室で顔認識が推進され、全員の微妙な表情まで監視されるようになれば、それは少し怖いだろう」と陳林氏は語った。顔認識はプライバシーを侵害するが、教育革新は学生を尊重する

中国薬科大学図書情報センターの関係者によると、同校では現在、試験的に2つの教室に顔認識システムを導入している。このシステムは、生徒の出席を自動的に識別するほか、生徒が授業中に熱心に聞いているかどうか、視線を上げているか下げているか、頭を下げて携帯電話をいじっているかどうか、目を閉じて居眠りしていないかどうかも検知できる。

上記の顔認識システムが注目を集めて間もなく、顔認識システムの開発者は、この写真は技術シナリオの概念的なデモンストレーションであると回答した。ネットユーザーの間で熱く議論されているプラ​​イバシー保護などの問題に対し、開発会社は、人工知能技術のさまざまな場面において、正当性やデータプライバシー保護などの中核原則を堅持し、社会からの広範な助言と監督を受け入れる、と述べた。

中国伝媒大学法学部長の鄭寧氏は、キャンパス内で顔認識システムを推進することは学生のプライバシーを侵害する可能性があると考えている。人間の顔は個人の生体情報であり、また識別可能な個人情報でもあります。一度漏洩したり犯罪者に使用されたりした場合、そのリスクは他の情報よりもはるかに高くなります。

鄭寧氏は法制日報の記者に対し、サイバーセキュリティ法では、ネットワーク事業者は、合法性、正当性、必要性の原則に従って個人情報を収集・利用し、収集・利用のルールを公表​​し、情報収集・利用の目的、方法、範囲を明確に述べ、情報を収集される本人の同意を得なければならないと規定していると語った。ネットワーク事業者は、提供するサービスに関連しない個人情報を収集してはならず、法律、行政法規および当事者間の合意の規定に違反して個人情報を収集および使用してはならず、法律、行政法規およびユーザーとの合意の規定に従って保管する個人情報を処理しなければなりません。民法の一般原則においても、自然人の個人情報は法律によって保護されることが明記されています。いかなる組織または個人も、他人の個人情報を取得する必要があるときは、法律に従って取得し、情報の安全を確保しなければなりません。他人の個人情報を不法に収集、使用、処理、送信したり、他人の個人情報を不法に購入、販売、提供、開示したりしてはなりません。

鄭寧氏は、個人の尊厳は法律で定められた基本的人権であると考えている。表情の監視は、ある程度、生徒の尊厳を侵害するものであり、生徒の自主学習能力と教師の指導能力に対する信頼の欠如でもある。

「最前線の教師として、授業の効率を上げるために顔認識システムに頼って生徒の表情を監視するのは、違法でも合理的でもないと思う。結局のところ、授業の効率を上げるには、先進的な教育コンセプトと教育方法、豊かで生き生きとした教育内容が依然として必要だ」と鄭寧氏は述べた。

21世紀教育研究所の熊炳奇副所長は法制日報の記者に対し、昨年、ある中学校が「ブラックテクノロジー」を使って「スマート教室」を作り、生徒の表情をモニターし、授業の効率を高めようとしたと語った。世論は概してこれに疑問を呈し、この行為は生徒の個人的権利を軽視し、プライバシーを侵害するものだと考えている。長期間、監視された環境で勉強し成長する生徒は、「演技性人格」を発達させやすい傾向があります。したがって、私たちはこのいわゆる技術革新に対して非常に慎重になるべきです。

熊炳奇氏はまた、利益を追求する資本と教育効果を高めたい学校という二つの力に駆り立てられ、一部の企業は授業中の生徒の表情や行動を監視する人工知能システムを開発し、推進していると考えている。一部の学校もこうしたシステムを導入し、使用後の成果として、生徒がより授業に参加するようになった、教師が生徒を管理しやすくなった、生徒の学業成績が向上した、生徒と教師の対立や争いが減ったなどを挙げ、このシステム導入の科学的、合理性を実証している。

「現代の科学技術は確かに教育や教授に活用できるが、まず教育とは何かをはっきり区別する必要がある。教室に監視カメラを設置し、一日中生徒と向き合い、生徒の表情や動きをタイムリーに収集することは明らかに反教育的だが、一部の教育管理者や学校はそれを認識している。これは、一部の教育者や管理者が教育の本質を無視し、管理を容易にし、学業成績を向上させることだけを考えているからだ」熊炳奇氏は、学校は人を教育する場であり、生徒が健全に成長できるようにしなければならないと述べた。すべての教育革新は生徒の人格を尊重することを基盤としなければならない。新しい技術の推進には慎重でなければならず、教育は正しい軌道から外れてはならない。

中国薬科大学のほか、小学校でも同様なシステムを導入していることも判明した。このシステムは、姿勢評価、表情認識、言語認識、教師の軌跡熱分析などに使用されます。笑顔、教師への挨拶、積極的にゴミを拾う、きちんと整列するなど、キャンパスライフで生徒が良い行動をしているか、あるいは、速く走る、レスリング、喧嘩、混雑などの危険な行動をしていないかを捉えることができます。

鄭寧氏は、学校での顔認識技術の推進は特に慎重に行う必要があると考えている。一部の学校では、顔認証をキャンパスのセキュリティ管理手段として採用しており、これには正当性がある。しかし、個人情報の収集と使用の目的、方法、範囲を教師と生徒に明確にし、許可を得る必要がある。また、関連情報が漏洩したり犯罪者に利用されたりしないように、包括的な個人情報セキュリティ保護対策を講じる必要がある。そうしないと、相応の法的責任を負うことになる。生徒の明確な許可がない限り、教室内で顔の表情を監視するために顔認識機能を使用することは禁止されるべきです。

熊炳奇氏の意見では、教室に監視カメラを設置することはできるが、試験中に試験室の秩序を監視することと、教師と生徒の同意を得て教室での授業をライブで放送し、他の学校や教室と教育リソースを共有することという2つの状況に限って使用すべきだという。授業中に常に監視カメラを使い、生徒と教師を監視していると、授業活動全体がパフォーマンスになり、生徒の人格形成に大きな悪影響を与えることになります。

「監視システムを導入すれば教師が生徒を管理しやすくなると言う人もいますが、実際には監視システムの下では教師も管理対象になります。監視システムを長期にわたって使用すれば、教師の専門化や特化にも大きな悪影響を及ぼします。教師は授業中にインテリジェントシステムの『フィードバック』に頼って、どの生徒が真面目でないか、どの生徒が集中していないかを判断します。これは技術的な識別の結果です。技術的な手段がなければ、教師は教えることができるでしょうか？教育は感情と魂のある職業です。顔認識などの技術を無制限に使用すると、教育は魂と感情を失います。教育用ロボットを使用する方が良いでしょう。」と熊炳奇氏は述べた。

熊炳奇氏は、教育革新が教育法則に合致するためには、教授会や学術委員会で議論し、教師や学生の意見を広く聞くべきであり、少数の人間が決めるものではないと考えている。資本に駆り立てられて、一部の企業は教育分野でいくつかの新しい概念を大々的に宣伝する傾向があり、一部の学校は短期間で成功し、短期間で利益を上げることに熱心になり、「人工知能+教育」の道はますます迷走しています。したがって、適切なタイミングで誤りを正し、正しい道に戻る必要があります。 （記者 杜暁、インターン 景千子）