教育用人工知能における倫理的リスクを排除する方法

人工知能は国際競争の新たな焦点となりつつあり、同時に人類社会に新たな発展の機会をもたらしています。機械学習、自然言語処理、感情コンピューティング、仮想現実などの技術の急速な発展は、学生がより質の高い教育体験を得るための強力なサポートを提供するだけでなく、教師が自由に発展できる余地をさらに拡大するのにも役立ちます。しかし同時に、インテリジェント家庭教師システムやインテリジェントデータマイニングなどの人工知能技術は、データ漏洩、公共の安全、悪意のある競争など、教育アプリケーションにおいて多くの倫理的問題に直面しています。

[[393204]]

人工知能 (AI) は、人間の知能をシミュレート、拡張、拡大するための理論、方法、技術、アプリケーション システムの研究開発を含むコンピューター サイエンスの一部です。教育用人工知能の倫理は、教育用人工知能の開発と応用のプロセスにおける関係と行動の原則と原理を規制するために使用されます。

教育用人工知能は強力なデータ統合・分析機能を備えているものの、一連の新たな倫理的リスクも引き起こします。システムの観点から見ると、主に次の 4 つの側面に反映されています。

まず、情報セキュリティです。人工知能は教育と指導を支援する一方で、教師と生徒の発展の機会を生み出すだけでなく、個人のアイデンティティ情報、行動の軌跡、学習の好みなどの膨大な量の教育データを生成します。このようなデータが効果的に保護されなかったり、違法に使用された場合、個人のプライバシー情報の悪意のある開示や不適切な使用、悪意のあるメールのプッシュ、違法な電子監視、オンライン詐欺、データ侵害など、一連の情報セキュリティ問題を引き起こします。教師と生徒のプライバシー権は、人工知能の観点から非常に脆弱になります。

第二に、目標の衝突があります。教育用 AI における目標の衝突のリスクは、主に AI 開発者とユーザーの基本目標の不一致によって発生します。民間部門では、商業的利益が最優先であるという根深い考えにより、人工知能技術ツールに依存して過度に私的利益を追求する可能性があります。さらに、多くの教育用人工知能の設計者や開発者は、「教育公共サービス」を提供する責任感に欠けており、教育の成長の価値に対する関心が欠けています。 AI開発者と学校経営陣がAIの教育アプリケーションの目標について合意に達することができない場合、教師と生徒の利益を長期的に効果的に保護することは困難になります。

第三に、制度的制約が欠如しています。現在、教育用人工知能の開発と応用を制限する制度的システムはまだ健全ではなく、教育ユーザーの正当な権利と利益を効果的に保護することは困難です。さらに、専門的な制度的制約の欠如、喪失、混乱は、教育用人工知能における非倫理的な行動につながる重要な要因となっています。有効な技術基準とそれを規制する「強制的な」法的手段がなければ、教育用人工知能の設計、開発、実用化は、教育的価値観や人道的立場から徐々に逸脱する可能性があります。 AI 開発者、教育ユーザーなどの行動を合理的に規制するために、教育 AI の倫理基準に違反する行動や取り組みには説明責任と制裁を課す必要があります。

4番目は、リソースへの過度の依存です。現在、機械学習とアルゴリズムの推奨により、教育リソースのパーソナライズされたプッシュを実現できますが、この一見公平で合理的な人工知能の応用には、未知のアルゴリズムの差別と技術的な偏りが含まれており、学生が取得する教育リソースの均質性が高くなる可能性があります。学生は徐々にリソースへの依存を形成し、硬直した思考から抜け出すことを望まなくなり、それが学生の視野の拡大と革新的な発展に影響を与えます。さらに、教師は自分の時間と労力のコストを節約するために、人工知能によって推進される教育リソースに過度に依存し、教育と指導に関する独自の理解と思考を失ってしまう可能性もあります。

関連する倫理的リスクを解決するための道筋を明確にすることで、教育機関が AI の機会を倫理的に活用し、公正かつ倫理的な教育上の決定を下すことが可能になります。

まず、インテリジェント時代における教師と生徒の情報リテラシーの育成に重点を置きます。まず第一に、教師と生徒の情報識別能力を養うことに重点を置く必要があります。学校は、教師と生徒が情報資源の獲得と選別、情報倫理上のリスクなどの問題について理解し、考え、情報を見極める能力を高めるよう指導すべきである。第二に、教師と生徒の情報フィードバック能力の育成に重点を置きます。学校は、教師と生徒が人工知能に関連する情報セキュリティ、倫理、快適性の問題について合理的なフィードバックを提供するように指導し、円滑な情報フィードバックチャネルを構築して、人工知能の教育アプリケーションの有効性を継続的に向上させる必要があります。

第二に、教育用人工知能アルゴリズムのレビューと意思決定のメカニズムを改善します。まず、人工知能アルゴリズムのレビューメカニズムの構築に重点を置く必要があります。 AI アルゴリズムの運用上の偏りは、持続するか、さらには増幅される可能性があります。人工知能アルゴリズムのトレーニングとテストのための基本的な標準とセキュリティプロトコルを策定し、人工知能アルゴリズムモデルの仮定を教育レベルで分析する必要があります。特に、教育用人工知能アルゴリズムシステムにアルゴリズムの差別や乱用の問題が含まれていないかどうかを検討し、ユーザーデータと情報の正確性、プライバシーのセキュリティ、倫理基準を最大限に保護する必要があります。第二に、AI教育応用計画の意思決定メカニズムを明確にする必要がある。政府、学校、企業などは、ブレーンストーミングの意思決定原則を堅持し、異なる意見の提出とオープンな議論を奨励し、何らかの形の投票と評価を通じて教育用人工知能の応用に関する最善の決定を検討し、教育の公共の利益の要求を合理的に満たすよう努めなければなりません。

第三に、人工知能とデータに対する規制監督を強化する。教育分野における人工知能の現在の発展は、技術とデータの異常に関する多くの問題を明らかにしており、そのため、知能技術と教育データに対するリスク説明責任のメカニズムを改善し、知能技術とデータの標準化された監視を実現する必要があります。まず、テクノロジーの開発と応用の倫理的責任を規制するために、法的拘束力のある教育用人工知能規制を策定し、公布するよう努めることができます。人工知能の違法な開発、使用、販売は、法的結果と責任に直面することになります。第二に、教育用人工知能の応用プロセスにおけるデータ監視に重点を置き、専門的なデータプライバシー監視組織または機関を構築します。プライバシー規制組織または機関は、データの違法な共有や使用を避けるために、人工知能技術を推進および適用する前に、そのデータセキュリティを評価する必要があります。

第4に、教育用人工知能における倫理的リスクの調査と評価を強化します。倫理的な教育用人工知能を実現するためには、技術の向上だけに頼ることはできません。教育用人工知能の倫理的リスクを調査・検討するための「体系的な思考」も採用する必要があります。これは、教育における公共の利益を最大限に保護するために不可欠です。教育用人工知能における倫理的リスクの存在は、開発段階だけでなく、生産段階や流通段階にも関係します。教育用AIの設計の安全性を確保することに加えて、知能アルゴリズムの倫理的リスク、教育データの倫理的リスクなどの危険レベルを慎重に評価し、教育用AIの倫理的リスクを解決するための計画をタイムリーに策定できるようにする必要があります。

第五に、学校ベースの教育人工知能倫理規範システムを構築する。教育用人工知能に関する学校ベースの倫理規定システムは、高度に公平で説明可能でなければならず、学校での人工知能の応用に関する基本要件、審査手順、倫理基準を明確に規定し、教育用人工知能の倫理的監督における技術開発者、学校管理者などの責任、権利、義務を合理的に分割し、制限する必要があります。学校管理者は、学校レベルの教育用人工知能倫理規定システムに基づいて、学校教育における人工知能の応用に対するライセンス許可を設定できます。 AI 技術の適用中に重大な倫理的リスクが生じる場合、倫理的リスク評価のレベルに基づいて、AI のアプリケーションライセンス権限に適切な制限を課す必要があります。