アルゴリズムから離れた「ジレンマ」に直面し、専門家はシナリオベースの洗練されたガバナンスの実行を提案している。

アルゴリズムは人間の行動に基づいて「ロックイン効果」を生み出します。この法律では、ユーザーにパーソナライズされた推奨事項を拒否する権利も与えられていますが、多くのユーザーにとって、アルゴリズムによる追跡を完全に拒否すると、プラットフォーム内の他の機能の使用に影響する可能性があります。したがって、アルゴリズムもシナリオベースで洗練された方法で管理する必要があります。

「ビッグデータによる老客殺し」のアップグレードとパーソナライズされたプッシュ通知の考え方の確立... 先日、上海消費者保護委員会は、人工知能などの新技術の応用により、アルゴリズムが急速に変化しており、プラットフォームによる消費者の個人情報の全面的な収集と相まって、アルゴリズムの「老客殺し」手法が、プラットフォームによる個人情報の完全な把握に基づく「老客殺し」にアップグレードされたことを明らかにしました。たとえば、プラットフォームは、消費者の携帯電話のモデルなどの個人情報に基づいて、関連製品、広告、またはさまざまなクーポンをマッチングします。

アルゴリズムルーチンの増加、より精密なマーケティング、パーソナライズされたプッシュ通知に直面して、ユーザーはアルゴリズムを完全に拒否したり、そこから脱却したりできるでしょうか? また、アルゴリズムはどのように規制されるべきでしょうか? 最近、民主主義と法制度協会の記者が専門家や学者にインタビューしたところ、彼らはこれらの問題を技術レベルと立法レベルから分析しました。

アルゴリズム技術は偏見を強め、増幅させる可能性がある

上海大学法学院ビッグデータ・人工知能法治研究センターの陳紀東執行ディレクターは、アルゴリズムは狭義には純粋技術とみなせるが、人工知能技術とビッグデータの発展に伴い、より多くの分野に応用されつつあると述べた。アルゴリズムとは、広義では、社会秩序を構築することを目的として設定された一連の手順です。

「ある意味で、私たちがよく話題にする人工知能は、学習し、判断し、決定を下すことができるアルゴリズムです。」陳継東氏は、アルゴリズムは人間とコンピューターの相互作用の場面における意思決定の新しい形であると述べた。アルゴリズム技術の下では、人間はコード設定、データ計算、機械の自動判断を通じて意思決定を下すことができる。このプロセスには人間と機械の両方が関与し、人間の意思決定と機械による自動化された意思決定の両方が含まれます。

この場合、アルゴリズムによる差別は人間によるものか、機械によるものか。対外経済貿易大学デジタル経済・法律イノベーション研究センターの張欣執行ディレクターは、アルゴリズム技術アーキテクチャの原則から始めるべきだと述べた。

「アルゴリズムによる差別につながる理由は、モデル設計上の理由やデータ自体の差別など、数多くあります。」張欣氏は、アルゴリズム自体は純粋な技術だが、現在アルゴリズム技術はプラットフォーム経済に深く組み込まれており、さまざまなシナリオに従って動作していると述べた。一部の決定は完全に自動化されているが、他の決定には人間の介入が必要である。しかし、最終的なアルゴリズムの結果はバッチ式で大規模かつ体系的な決定であり、従来の世界に存在する偏見や差別の問題が体系的に増幅される可能性がある。

陳吉東氏はまた、意思決定にアルゴリズム技術を使用すると偏見が強化され、増幅される可能性があると述べた。これは、アルゴリズムによるデータが人間から収集されるため、必然的に人間の感情的および認知的バイアスが含まれるからです。これらのデータが端末に入力されると、アルゴリズムはモデルの更新と反復プロセス中にバイアス要因をさらに強化し、バイアスと差別を深めます。たとえば、求人検索アプリでは、応募者をスクリーニングする際に、性別や地域の好みが考慮される場合があります。

人間の偏見に基づいたこのアルゴリズムモデルが複数のシナリオに深く組み込まれると、複数のシナリオでユーザーが繰り返し差別される「ロックイン効果」につながります。張欣氏は例を挙げ、ユーザーが「信頼性が低い」データラベルで不適切にラベル付けされると、データラベルの共有を通じて差別的な「ロックイン効果」が発生する可能性があると述べた。たとえば、ユーザーが「信用度が低い」という理由でデポジットなしでシェア自転車を利用することを拒否された場合、保険料の査定や銀行融資など、より多くのシナリオで同様の状況が発生することに気付くかもしれません。

陳吉東氏は、アルゴリズム機械学習の複雑さとそれ自身の複雑さ、および一部の商用プラットフォームアルゴリズムの企業秘密的な性質により、ほとんどの人がアルゴリズムの仕組みを理解できず、その結果、アルゴリズムのユーザーが事実上優位な立場に立つことになると述べた。

法律はユーザーにパーソナライズされた推奨を拒否する権利を与えている

アルゴリズムによる差別の問題に加え、近年ではパーソナライズされた推奨や精密マーケティングにより、個人情報の安全性に対する国民の不安が高まっています。同時に、ユーザーポートレートを作成するアルゴリズムがますます正確になるにつれて、均質なコンテンツが硬直化し、人々の思考の退化につながり、インターネットを通じて多様な情報を得ることが妨げられるのではないかとの懸念も高まっています。

陳吉東氏は、アルゴリズムの正確な推奨が個人情報の自主的な選択を制限し、「情報の繭」現象を悪化させていると述べた。インターネットのオープン性により、人々は情報を選択する機会が増えます。アルゴリズムの助けを借りて、アプリのコンテンツを人々の好みに合わせて調整できますが、同時に、ユーザーを自らが織り成した「情報の繭」の中に閉じ込めることになります。

陳吉東氏は、現在、アルゴリズムによって引き起こされる可能性のある法的リスクは、主に検索結果の入札ランキング、精密広告マーケティング、パーソナライズされた推奨、保険やローンの評価、信用格付け、画像認識、データプロファイリングなどの活動シナリオを含む、社会的要因に基づく個人の分類、ランキング付け、意思決定にあると述べた。

張欣氏は、実はわが国の法律はユーザーにパーソナライズされた推奨を拒否する権利を与えていると述べた。例えば、「中華人民共和国電子商取引法」第18条は、電子商取引事業者が消費者の興味、趣味、消費習慣などの特性に基づいて商品やサービスの検索結果を提供する場合、消費者に個人の特性をターゲットにしない選択肢も提供し、消費者の正当な権利と利益を尊重し、平等に保護しなければならないと明確に規定している。

陳吉東氏は、電子商取引法第18条はネットワークプラットフォームアルゴリズムのパーソナライズされた推奨結果に対する消費者保護義務を規定しており、プラットフォームの推奨アルゴリズムの検索結果は、パーソナライズされていない推奨の一般的な結果、つまり個々の消費者を対象としていない通常の検索結果を提供すべきであると明確に規定していると述べた。しかし、この条文の立法目的は、ターゲット検索結果の提供やターゲット検索結果のプッシュを制限することではなく、それらに制限を課すことだけです。

さらに、我が国の民法、サイバーセキュリティ法、消費者保護法はいずれも、個人情報やデータ処理のレベルから間接的にアルゴリズムを規制しています。例えば、サイバーセキュリティ法第4章「ネットワーク情報セキュリティ」では、ネットワーク事業者による個人情報の収集と利用について詳細な規制と厳しい制限が設けられています。このうち、同法第41条では、ネットワーク事業者は、適法性、正当性、必要性の原則に従って個人情報を収集および使用し、収集および使用の規則を公表し、情報の収集および使用の目的、方法、範囲を明確に示し、情報を収集される本人の同意を得なければならないと規定している。ネットワーク事業者は、提供するサービスに関連しない個人情報を収集してはならず、法律、行政法規および当事者間の合意の規定に違反して個人情報を収集および使用してはならず、保管する個人情報を法律、行政法規およびユーザーとの合意の規定に従って取り扱わなければなりません。同時に、同法第43条は、ネットワーク事業者が規則に違反して個人情報を使用していることが判明した場合、国民に個人情報を削除または訂正する権利を与えている。

これを踏まえて、陳吉東氏は、アプリはユーザーがターゲットマーケティングの受信を拒否するオプションを設定し、ユーザーにオプトアウトのオプションを提供するべきだと考えています。

シナリオに基づいた洗練されたガバナンスを実施すべきである

ユーザーは「アルゴリズム」を完全に拒否できるのか？張欣氏は、策定中の「データセキュリティ管理措置（意見募集稿）」がこの課題の解決を試みていると述べた。

データセキュリティ管理規定（意見募集稿）第23条では、「ユーザーデータとアルゴリズムを使用してニュース情報、商業広告などをプッシュするネットワークオペレーターは、「ターゲットプッシュ」という文字を明記し、ユーザーにターゲットプッシュ情報の受信を停止する機能を提供しなければならない。ユーザーがターゲットプッシュ情報の受信を停止することを選択した場合、プッシュを停止し、収集されたユーザーデータとデバイス識別コードなどの個人情報を削除する」と規定されています。

張欣氏は、この規制により、ユーザーがパーソナライズされた正確な推奨を拒否する権利を技術的に保証できると分析した。 「すべてのモバイル デバイスにはデバイス識別子があります。デバイス識別子がアルゴリズム システムから削除されると、システムはこのデバイスのデータを追跡できなくなり、ユーザーをプロファイルして、ターゲット マーケティング広告やパーソナライズされた推奨コンテンツをプッシュできなくなります。」

しかし張欣氏は、多くのユーザーにとって、生活の中でアルゴリズムによる追跡を完全に拒否するのは非現実的だと考えている。アルゴリズムの推奨を拒否するためにデバイス識別コードを削除すると、プラットフォーム内の他の機能のユーザーの使用に影響を及ぼす可能性があります。たとえば、評価の高い食品店のターゲットを絞った推奨情報を取得することが難しくなります。同時に、インターネットプラットフォームには多くの法的責任と義務があり、デバイス識別コードが削除されると、プラットフォームがデバイスを識別してデバイス上のアカウントのリスク管理を行うことは困難になります。

上記の矛盾をどのように解決すればよいのでしょうか。アルゴリズムを公開し、透明性を高めることで規制すべきだと考える人もいます。この点について、陳継東氏は、技術レベルでのアルゴリズム公開は、アルゴリズムのユーザーがアルゴリズムの計算データやプログラミングソースコードを公開することを意味し、アルゴリズム公開はある程度アルゴリズムのガバナンスを促進することもできると述べた。

アルゴリズム開示の目的は、消費者とプラットフォーム間の力関係の不均衡を解消し、開示を通じてガバナンスと規制を実現し、アルゴリズムへのアクセスを通じてアルゴリズムに干渉がないかを逆に検証することです。しかし、技術的なギャップにより、そのような開示は一般ユーザーにとって意味がありません。陳紀東氏は、アルゴリズムと機械学習技術の複雑さにより、アルゴリズムを公開することで達成できる効果は限られる可能性があると述べた。したがって、アルゴリズムのガバナンスには、アルゴリズムの認証やアルゴリズムの検証など、より広範なサポート システムも必要になります。

張欣氏はまた、現在、アルゴリズムの開示には企業秘密や知的財産保護の問題も絡んでおり、どのように開示するか、どの程度まで開示するかは合理的に規制する必要があると述べた。現在、国際的に最も成熟したアルゴリズムガバナンスの方法は、アルゴリズムへの影響評価を行うことです。専門の規制機関または評価ワーキンググループを設立することで、アルゴリズムが個人のプライバシー権、公平権、平等権、社会経済に及ぼす可能性のある影響について体系的な評価が行われます。

陳吉東氏は、これは「中華人民共和国個人情報保護法（草案）」（以下、「草案」という）にも反映されており、事前アルゴリズム影響評価、プロセス中アルゴリズム監査、事後アルゴリズム意思決定要件説明および拒否システムなどが含まれていると述べた。

張欣氏は、現在の「草案」ではアルゴリズムの影響評価は個々のユーザーの評価のみを必要とし、評価の根拠は「法律と法規」であると規定されているが、法律は遅れている可能性があり、評価の根拠としてアルゴリズムの倫理規範を導入し、多面的な評価を行うべきだと述べた。

張欣氏は、実際にはアルゴリズムの開示や透明性を求める声は主に公益事業部門に集中していると述べた。 「現在、わが国のアルゴリズム規制に関する立法は主に電子商取引分野に集中しているが、実際には、アルゴリズム技術は行政分野を含む多くの分野で使用されている。公共部門でのアルゴリズムの適用に問題が生じれば、国民の権利に悪影響を及ぼす可能性がある。したがって、科学的かつ合理的な規制アジェンダを策定し、リスクレベルに応じて公共事業分野のアルゴリズムを優先的に規制すべきだ」

張欣氏は、アルゴリズムはシナリオに基づいて洗練された方法で管理されるべきであり、立法府はさまざまなシナリオを含む法律や規制を起草する際には、アルゴリズム規制について体系的かつシナリオに基づいた認識を持つべきだと提案した。