過度な「遊び」が子どもたちのプライバシーを侵害し、自尊心を傷つける恐れがあるとして、人工知能がキャンパスに導入される

最近、香港で株式公開を準備しているAI大手のMegvii Technologyが論争を巻き起こしている。同社が公開したデモ動画では、教室内の生徒たちがAIシステムによって監視されている。生徒一人ひとりの睡眠、挙手、読書などの行動が記録され、学校での成績を測る指標となる。一部の世論は、メグビー・テクノロジーが「キャンパスの安全」を装って、子供たちを360度透明な「刑務所」に閉じ込めていると考えている。

キャンパスへのAI導入は、間違いなく学校の教育管理レベルの向上と生徒の学習成果の向上に役立ちます。しかし、AIがキャンパスを強化する一方で、過度な「パフォーマンス」によって子供たちのプライバシーが侵害され、自尊心が傷つけられるのではないかと懸念する人もいます。

国内のAI「ユニコーン」であるMegvii Technologyは、この嵐に巻き込まれた後、迅速に対応し、このシーンは技術の概念的なデモンストレーションに過ぎないと述べた。現在、同社の顔認識は主にスマート校門、教室のドア、寮の入退室に使用されており、学生が安全にキャンパスに出入りするのに便利である。

記者はまた、AIとキャンパスの組み合わせによって生み出された「スマートキャンパス」という概念が現在、主に学校管理、教育管理、学生の学習に活用されており、学校管理のコスト削減と効率向上に役立っていることを知った。

すでにこの事業を展開しているiFlytekの関係者は記者に対し、同社は「スマートキャンパス」の分野で「スマート教室」製品の開発に注力していると語った。この製品はAIなどのインテリジェント情報技術を活用して、インテリジェントで効率的な教室を作り、全体的な「クラウド、プラットフォーム、端末」アーキテクチャを構築することで、ネットワーク化され、データベース化され、インタラクティブでインテリジェントな学習環境を作り出し、真にパーソナライズされた学習と学生の適性に応じた指導を実現する。

「スマート教室の導入は生徒にとって大きな助けになることが証明されている」連雲港市のある中学校の学年主任である王さんは、2つのスマート教室クラスを担当している。毎回の試験の後、彼はグラフや表を作成してデータを比較する。彼は記者にこう語った。「この2つのクラスは、10の理科並行クラスのうちの普通のクラスです。高校2年生をクラス分けしたところ、1つのクラスは平均点を上回り、もう1つのクラスは平均点を下回りました。スマート教室を導入してから1学期半後、中間試験では両クラスとも平均点を5点以上上回りました。」

全国的に貧困に苦しむ河北省渭県の田舎の中学校でも、「スマートキャンパス」が生徒流出問題の解決に役立っている。同校の呉立軍校長によると、生徒の質の顕著な低下と若い教師の退職を受けて、同校はスマート教室の実験クラスを2つ開設したという。 1学期が経過し、学校はすべての科目についてデータ分析を実施しました。2つの実験クラスの平均点は並行クラスより72％高く、合格率は68％を超え、優秀率は72.5％を超えました。各科目の順位と合計得点はいずれもトップクラスでした。 「結果が出た後、多くの親が子供をここに留学させたいと望み、実験授業に参加するために追加料金を払うよう積極的に求めています。実際、スマート教室は学生に追加の費用を請求しませんが、親と社会の支援により、私たちは『スマートキャンパス』の開発を継続する自信を得ています」とウー・リージュン氏は語った。

スマートキャンパス市場の1000億元の「ケーキ」は分け合うのを待っている

「スマートキャンパス」の有効性と幅広い大衆基盤により、市場規模は急速に拡大しました。チーター・グローバル・シンクタンクのアナリスト、李欣氏は記者団に対し、今年4月、教育部は2018年の国家教育予算総額が4兆6000億元であると発表したと語った。従来要求されていた8％の下限に従えば、わが国の教育情報化への投資は3600億元に達すると推定される。スマートキャンパスは教育の情報化の重要な部分であり、最も控えめな見積もりによれば、スマートキャンパスは数千億元規模の市場となることも意味します。

「ケーキは大きいですが、キャンパス市場を見ると、情報構築を含む効率改善はまだ初期段階にあります。」Li Xin氏は、音声、顔、パーソナライズされた推奨などのAIテクノロジーの出現により、多くの企業がキャンパスに参入する機会が与えられたと考えています。その結果、AIに代表される新興テクノロジー企業、現代の教育・研修企業、インターネット大手の3つの勢力がスマートキャンパスに「突入」し、それぞれに異なる「遊び方」があり、主な参入ポイントにはスマート教室、出席とセキュリティ、スマート教育、スマート試験、保護者と学校の交流などがある。

今回の「三国志」には江蘇省の企業も登場しており、上場企業の蘇州科大はトップクラスだ。蘇州科大科技の教育部門ゼネラルマネージャー、彭涛氏によると、同社は2015年に早くも「機械画像認識の時代への突入」を提唱し、教育分野におけるAIの実用的な応用を模索してきたという。現在、同社はフェイスフリー点呼、出席率、最前列着席率、ヘッドアップ率などの「三率分析」、人員転換、オンライン視覚監視、指導シーンのインテリジェント録画など、さまざまなシーンに対応するさまざまなAIアプリケーションをリリースしている。

彭涛氏はまた、ますます多くの「プレーヤー」が参入するにつれて、スマートキャンパスには録画・放送システム、学校間の遠隔交流、オンライン授業監督など、多くの新しい機能が搭載されると述べた。しかし、これらの新しいテクノロジーは、キャンパスに入るときの「問題点」、つまり建設の重複を回避し、情報のサイロを解体するという点も解決するはずです。このため、蘇州科大のすべてのフロントエンド設備を共有し、バックエンドシステムを再利用してシームレスに接続することができます。たとえば、教室に 2 台のカメラを設置するだけで、電子検査、遠隔インタラクティブ教育、教育監督、日常のセキュリティなど、さまざまなアプリケーションを実現できます。

人工知能はプライバシーの最低限の基準を尊重すべき

スマートキャンパスは資本の促進により絶えず改善されていますが、Megvii Technologyがもたらした論争のように、テクノロジーとテクノロジー大手の管理下では、子供を含むすべての人がプライバシーのない「透明人間」になるのではないかと心配する人が増えています。そのため、AI の倫理基準が議題に上がるようになりました。

今年6月、科学技術部は「新世代人工知能ガバナンス原則」を発表した。「ガバナンス原則」は、人工知能の発展とガバナンスの関係をより良く調整し、人工知能の安全性、制御性、信頼性を確保し、経済、社会、生態学の持続可能な発展を促進し、人類の共通の未来を持つコミュニティを共同で構築することを目的としている。 「ガバナンス原則」では、責任ある人工知能の開発というテーマも強調されており、調和と友情、公平と正義、包摂と共有、プライバシーの尊重など8つの原則が強調されています。

上記の原則に関して、iFLYTEKの劉清鋒会長は、ユーザーのプライバシーを保護するという点では、法律が追いつくだけでなく、企業もより強い保護意識を持つ必要があると考えています。現在、人々の日常生活に関わるサービスは数多くあります。したがって、大手企業は、ユーザーに情報を提供するだけでなく、価値レベルでのガイダンスを提供することで、模範を示す必要があります。さらに、現在、多くのデータがユーザーの知らないうちに企業によって持ち去られています。 「技術的な観点から言えば、人工知能技術の発展を通じてユーザーにもっと多くの選択肢を与えるべきだ。例えば、iFlytekの翻訳機は、機密情報漏洩の可能性を考慮して、製品を設計する際にオフライン翻訳バージョンを作ったが、これは非常に必要だ」

彭涛氏は記者団に対し、蘇州科技大学は教師と生徒のプライバシーと倫理の尊重を常に重視してきたと語った。「教育の分野ではAIは温かみのあるものであるべきだと私たちは考えています。AIは学校管理と教師の指導の補助ツールであるべきであり、代替物ではありません。」

李欣氏は、これらの倫理原則は「幻想的」に思えるが、それでも多くのAI「プレイヤー」の参加を惹きつけていると述べた。なぜなら、彼らはこの新興技術のゲームのルールを設定するという不確定なゲームに参加する機会をつかみ、業界でより大きな発言力を獲得する必要があるからだ。これは実際には、より高いレベルのビジネス障壁とコア競争力を構築している。外国の大手企業が先に始めたことを考慮すると、中国企業はタイムリーに「テクノロジーによる善」を推進すべきだ。