人工知能時代のアルゴリズムガバナンスの核心と道筋

2021年12月末、4つの部門が共同で「インターネット情報サービスのアルゴリズム推奨管理に関する規則」（以下、「アルゴリズム推奨規則」）に署名・公布し、2022年3月1日に正式に施行されました。これを踏まえて、アルゴリズムガバナンスの基本的な核心をさらに明確にし、アルゴリズム時代の新たなガバナンスの道を模索する必要がある。

1. 私の国におけるアルゴリズムガバナンスの現在の法制度

現在、我が国のアルゴリズムガバナンスに関する立法制度は初期段階から確立されており、立法レベルが広く、複数の部門が連携し、急速に拡大している法制度を形成しています。立法監督は、ネットワークセキュリティとデータ情報保護に重点を置くものから、現在の徹底したガバナンス、つまり人工知能時代のアルゴリズムガバナンスに移行しています。

トップレベルの設計に関しては、「法治社会構築の実施要綱（2020～2025年）」では、アルゴリズム推奨やディープフェイクなどの新技術の適用に関する標準化された管理方法を改善することを提案している。さらに、「デジタル経済発展第14次5カ年計画」では、コンピューティング能力、アルゴリズム、データ、アプリケーションリソースを調整する国家統合ビッグデータセンターシステムの構築を加速する必要があると指摘しています。

法的・規制的根拠としては、「民法」、「サイバーセキュリティ法」、「データセキュリティ法」、「個人情報保護法」、「インターネット情報サービス管理弁法」がそれぞれ個人の権利、ネットワークセキュリティ、データセキュリティ、情報保護と利用、インターネットサービスの観点から包括的な規制を規定している。

アルゴリズムの専門的な規制の方向としては、2021年9月に公布された部門規範文書「インターネット情報サービスアルゴリズムの総合的ガバナンス強化に関する指導意見」や、2022年の「アルゴリズム管理規則」があり、アルゴリズム関連の規制について包括的かつ詳細な規定を提供している。

その他の規範文書や国家標準としては、「国務院プラットフォーム経済独占禁止委員会独占禁止ガイドライン」、「国家市場監督管理局、中国サイバースペース管理局、国家発展改革委員会、公安部、人力資源・社会保障部、商務部、中華全国総工会によるオンライン飲食プラットフォームの責任履行とフードデリバリードライバーの権益の有効保護に関する指導意見」、「新世代人工知能倫理規範」、「インターネット情報サービス深層統合管理規則（意見募集稿）」、「情報セキュリティ技術機械学習アルゴリズムセキュリティ評価仕様（意見募集稿）」、「情報セキュリティ技術個人情報セキュリティ仕様」など、多くの部門が機械学習、人工知能倫理、情報統合、プラットフォーム監視などの面で間接的な規制を設けている。

複数のレベルで立法化が行われていますが、現在のアルゴリズム関連の立法制度には依然として問題が残っています。まず、立法レベルは分散化されており、部門の規範文書に主な焦点が当てられています。法律や規則を策定する時間コストは、部門規則や各種規範文書よりも大幅に高くなっています。その結果、アルゴリズムの新たな問題は現在、主に部門規範文書や国家標準で取り上げられていますが、強制力が不十分、法執行と監督の有効性の低下、部門の責任分担が不明確などの問題が発生しがちです。同時に、複数の部門からの規範文書により、プラットフォーム企業は適応できず、基準に一貫性がなくなり、特別な操作の形で対応しなければならなくなりました。第二に、プラットフォームに対する監督は主に事後的な受動的なもので、プラットフォームに対する監督基準が洗練されていない。プラットフォームの監督は、主にプラットフォームの欠陥、行為、責任に基づいて行政罰措置を講じます。この監督モデルには事前の手続き監督が欠けています。現在、アルゴリズムの提出システムはありますが、主に特定の重要な分野におけるアルゴリズムの提出に重点を置いています。さらに、提出されたアルゴリズムの審査ロジックと基準も、アルゴリズムの等級分類システムに応じて適時に調整する必要があります。第三に、アルゴリズムに対する技術的な規制や監督はほとんどなく、法律はアルゴリズムの本質に立ち返るところが欠けています。アルゴリズムは技術的な概念であり、「計算方法」または「データ処理方法」です。同時に、アルゴリズムには一定の学習能力もあり、既存のアルゴリズムの基礎とデータに基づいて継続的に進化することができます。これらのコンピュータ命令の技術仕様に対する法規制はまだ不足しており、現在の主な規制は、ネットワークセキュリティ、法的リスクなどの観点からのものです。

2. アルゴリズムガバナンスの核、道筋、システム構築

アルゴリズム関連の法制度の改善を促進し、アルゴリズムの正確なガバナンスを実現するために、アルゴリズムガバナンスの核心はデータ情報セキュリティにあると筆者は考えています。一方、アルゴリズムは自然言語に基づいて構築された一連のプログラム ロジックであり、本質的には and、or、not の論理演算です。しかし、アルゴリズムがいかに複雑であっても、その本質は「データでトレーニングされたモデル」であり、つまり、アルゴリズムの継続的な動作と進化は、継続的にデータを供給することによって実現されます。アルゴリズムはデータのサポートから切り離すことはできません。データ処理で問題が発生すると、必然的にアルゴリズムにも問題が発生します。したがって、アルゴリズムのガバナンスに注意を払うことは、本質的にデータのセキュリティと合理的な取り扱いに関することです。

一方、自動化された意思決定アルゴリズムによって引き起こされる「ビッグデータによる既存顧客殺し」などの法的リスクはますます社会的注目を集めており、アルゴリズムガバナンスの本質は情報の合理的な使用にあることを示しています。さらに、アルゴリズムの真髄はその肯定的な価値にあります。データ情報の利用と廃棄は、肯定的な価値を追求し、アルゴリズムを徐々に検証可能、監査可能、監視可能、追跡可能、予測可能、信頼できるものにするとともに、包括的、公平、非差別的である必要があります。

データ情報セキュリティには、データセキュリティと情報セキュリティという2つの主要な部分が含まれていることに留意する必要があります。データセキュリティは、データ処理活動を標準化し、データのセキュリティを確保し、各当事者の利益を保護し、データの開発と利用および産業の発展を確保することです。情報セキュリティは、「個人情報保護法」に基づいて個人情報処理活動を標準化し、個人情報の合理的な使用を促進し、個人のプライバシーを厳格に保護することです。

アルゴリズムガバナンスの核心を明確にすることによってのみ、立法規範と監督の重要な点に焦点を当てることができ、現在の実践におけるアルゴリズムガバナンスのジレンマに対する新たな解決策を得ることができます。人工知能の発展、さらには経済社会全体は、膨大なデータと個人情報の蓄積から切り離すことはできません。自動化された意思決定アルゴリズムは、データ情報を最大限に活用して、より大きな経済的および社会的価値を発揮します。そのため、著者はアルゴリズムガバナンスの「2つの内部と1つの拡張」の保証パスを構築する必要があると考えています。2つの内部要素はプライバシー保護を強化し、データの幅、深さ、精度を広げることであり、1つの拡張保証はアルゴリズムセキュリティ保証メカニズムです。

一つ目はプライバシー保護を強化することです。民法における人格権の条項にプライバシー権の保護が盛り込まれており、プライバシー保護の重要性がよくわかります。現在、主要プラットフォームのプライバシーポリシーは調整と更新が行われており、今回の更新により、関連プラットフォームにおけるアルゴリズムの無秩序な開発にさらなる制限が課されることになるでしょう。プライバシー保護とアルゴリズム開発は相対的なものです。プライバシー保護を強化することは、必然的にアルゴリズムのより多様な開発を妨げることになります。しかし、プライバシー保護の重要性に基づいているからこそ、アルゴリズムが他人の正当な権利と利益を侵害することを防ぐことができます。プライバシー保護を強化するには、まず次の点から始めることができます。

まず、プライバシー保護の強化は、立法内容、アルゴリズムの設計と適用、申請審査、法執行と監督の優先順位、法的責任に反映されます。これがアルゴリズムガバナンスの基本的な概念と基本原則です。

第二に、重要なグループ、特に14歳未満の未成年者と高齢者のプライバシー保護を強化することが重要です。労働者や消費者などのグループを保護することも非常に重要です。情報保護およびデータ処理は、民法のプライバシー保護に関する関連規定および個人情報保護法のセンシティブ個人情報に関する関連規定に従って行われます。個人情報処理活動は、個人情報処理の5つの重要な原則を満たし、「通知-情報-同意」という個人情報処理の中核ルールにも従います。

第三に、プライバシー保護に関する紛争は主に私法上の救済手段を通じて解決されているが、アルゴリズムガバナンスに関わるプライバシー保護の問題は必然的により多くの公法上の救済手段と組み合わせる必要がある。したがって、アルゴリズムのより多くの公法ガバナンスは、プライバシー保護と公法と私法のガバナンスの伝統的な属性の統合に注意を払う必要がある。

2つ目は、データの幅、深さ、正確さを拡大することです。アルゴリズムによるガバナンスは、決して規制による罰則を過度に重視するものではなく、むしろ事前の調整された管理を重視するものです。ディープラーニングなどの自動意思決定には、膨大な量のデータの入力が必要です。データ基盤が不足していたり​​、データが不正確だと、アルゴリズムが間違った方向に計算することになります。例えば、企業が「ユーザープロファイリング」を実施する場合、ユーザーデータベースが小さかったり、特定の次元のデータが欠落していたり​​すると、関連情報を正確にプッシュしたり、対応するサービスを提供したりすることができません。データの幅、深さ、正確性を拡大していくと、必然的に法的なデータ処理活動に対する制約を受けることになります。この問題に対処するための重要なポイントは次のとおりです。

まず、データ拡張のプロセスでは、まずデータのセキュリティを確保する必要があります。データのセキュリティは、データ処理の基礎となるアルゴリズムのセキュリティと安定性を確保できます。

次に、重要なデータとデータ分類の管理システムを確立します。膨大な量のデータの流入はアルゴリズムの基本的な秩序を乱す可能性があるため、データのグレーディングと分類は、すべての主要プラットフォーム、特に超大規模プラットフォームで標準化する必要があるものです。

3 番目に、アルゴリズムに検証およびエラー修正メカニズムを確立します。つまり、ランダム検査メカニズム、結果の警告など、データの品質を検証して、データの欠陥を発見し、適時に修正します。

3つ目はアルゴリズムのセキュリティ保証メカニズムです。最初の 2 つのプライバシー保護とデータ基盤では、アルゴリズムのセキュリティ メカニズムを改善することが特に重要です。セキュリティ保証メカニズムには、科学技術倫理審査、立法による保護、セキュリティ評価と監視、セキュリティインシデントへの緊急対応が含まれ、複数の技術的、法的、管理的保証を形成します。具体的な対策としては、以下のものが挙げられます。

まず、アルゴリズムは良いことに使われます。アルゴリズム登録審査の基本的なポイントは、科学技術倫理審査にあります。この審査の難しさは、アルゴリズムの予測不可能性にあります。現在のアルゴリズム規則審査が合理的であったとしても、アルゴリズム自体の拡張は、アルゴリズムの結果の不確実性につながります。したがって、アルゴリズム倫理ワーキンググループと同様の専門組織を設立し、科学技術、法律などの分野の専門家、規制当局、第三者の業界代表者から構成し、定期的なレビューとフォローアップの監督を強化し、アルゴリズムの価値問題を厳格に防止する必要があります。

第二に、立法による保護です。現在、アルゴリズムガバナンスに関する法律のトップレベルの設計は徐々に完了しています。次に、アルゴリズムの推奨管理に加えて、アルゴリズム技術の研究開発、データマイニング、ルールの内容、運用サポート、人事管理など、他のアルゴリズム活動にも注意を払う必要があります。また、新しいアルゴリズムガバナンスパターンの多角的な構築にも注意を払う必要があります。

第三に、安全性評価監視や安全事故への緊急対応などの管理システムと技術的対策を改善します。企業にとっては、アルゴリズムのセキュリティに対する主な責任を実行し、アルゴリズムのセキュリティに対する第一防衛線を守り、アルゴリズムのメカニズムのレビューを確立して改善する必要があります。規制当局や業界団体としては、アルゴリズムセキュリティに関する業界標準システムを策定し、アルゴリズムセキュリティの基本概念を周知し、社会全体で多元的な監視体制を形成する必要がある。

アルゴリズム化の時代は、あらゆる分野に大きな影響を与え、現在の組織形態にも新たなダイナミックな変化をもたらしました。アルゴリズムの濫用によって業界にもたらされる問題は甚大である可能性があります。アルゴリズムガバナンスはアルゴリズム開発と同時に実行され、アルゴリズムガバナンスの「2つの内部と1つの拡張」の保証パスを効果的に構築し、良好なデジタルビジネス環境を確立し、デジタル経済と社会の安定的で健全な発展を促進する必要があります。