アルゴリズム推奨規制が実施されます。ユーザーはプラットフォームに「ノー」と言えるのでしょうか?

わが国のアルゴリズム推奨政策は明確に実施されており、アルゴリズム差別、「ビッグデータによる旧顧客殺し」、依存症誘発などのアルゴリズムの不当な応用はすべて新しい規制の下で規制されることになります。 「インターネット情報サービスのアルゴリズム推奨管理に関する規則」（以下、「規則」という）は、中国サイバースペース管理局、工業情報化部、公安部、国家市場監督管理総局の4つの部門が共同で制定し、2022年3月1日に施行される。

規則によれば、アルゴリズム推奨サービスの提供者は、ユーザーの個人特性を対象としないオプションをユーザーに提供するか、アルゴリズム推奨サービスをオフにする便利なオプションをユーザーに提供する必要があります。ユーザーがアルゴリズム推奨サービスをオフにすることを選択した場合、アルゴリズム推奨サービスプロバイダーは関連するサービスの提供を直ちに停止するものとします。

第一金融日報のインタビューを受けた業界関係者数人は、この「規制」はわが国初のアルゴリズム管理に焦点を当てた部門規制であり、その実施によりユーザーに選択の自由が与えられ、プラットフォームが商業的利益を最大化する過去の傾向が是正されると述べた。その背景には、不正競争防止法、データセキュリティ規制、個人情報保護法（以下、「個人情報保護法」という）、未成年者保護法の継続があり、2022年に我が国がアルゴリズム規制元年に入ることも意味しています。

野生の成長から法に基づく開発へ

近年、アルゴリズムの応用が政治、経済、社会の発展に新たな推進力を与えている一方で、アルゴリズムの不合理な応用によって引き起こされる、アルゴリズムによる差別、「ビッグデータによる旧顧客殺し」、依存症の誘発などの問題も、正常なコミュニケーション秩序、市場秩序、社会秩序に深刻な影響を及ぼし、思想的安全、社会の公平性と正義、ネットユーザーの正当な権利と利益の維持に課題をもたらしています。インターネット情報サービス分野におけるターゲットを絞ったアルゴリズム推奨規制やシステムの導入は、セキュリティリスクの予防と解決に必要であり、アルゴリズム推奨サービスの健全な発展を促進し、規制能力のレベルを向上させるためにも必要です。

「規定」では、アルゴリズム推奨技術の応用とは、生成と合成、パーソナライズされたプッシュ、ソートと選択、検索とフィルタリング、スケジュール決定などのアルゴリズム技術を使用してユーザーに情報を提供することを指すと明確にしています。ディープテクノロジー研究所所長の張暁栄氏は、ファーストファイナンシャル記者に対し、ウェブサイトとモバイルアプリの両方がアルゴリズム規制の対象であると語った。要点を整理すると、今回の「規制」の影響を最も受けている業界としては、拼多多や淘宝などの電子商取引、今日頭条や抖音などのコンテンツ、百度検索などの業界が挙げられます。アルゴリズム規制は、情報サービスの仕様、ユーザーの権利保護、監督と管理、法的責任など多くの側面をカバーしており、ユーザーの権利を保護し、業界の秩序ある発展を確保する上で積極的な役割を果たしてきました。

レンズ・リサーチの創設者であるクアン・ユーチン氏は、ファースト・ファイナンシャルの記者に対し、「この規則」は明確な境界と運用ガイドラインを備えた中国初のアルゴリズム規制規則であると語った。クアン・ユーチン氏の見解では、この発展の法則は、ビッグデータ産業の応用がある程度普及したことによる必然的な結果である。産業発展の法則は、商業化が規制に先行することであり、これはあらゆる革新的な産業に当てはまる。

世輝法律事務所のパートナーである王新鋭氏は、2022年を「アルゴリズム規制元年」と呼んだ。同氏は、中国の個人情報保護法とEUのGDPRはどちらも自動化された意思決定について原則的な規定を設けており、電子商取引法や独占禁止法などの法律や関連規則もビッグデータによる価格差別や競争排除のためのアルゴリズムの悪用に対して原則的な制限を設けていると述べた。しかし、上記の法的規則は、行動を規制するものであれ、結果を規制するものであれ、現在のところ非常に抽象的で、あまり実用的ではありません。

マーテカーの創業者フェン・チー氏はファースト・ファイナンシャルの記者に対し、アルゴリズムは技術そのものとしては「善のための技術」において実質的な役割を果たしておらず、消費者への嫌がらせさえ引き起こしていると語った。 「規制」の実施は、本質的には良いことです。広告主やマーケティング担当者は「束縛と踊る」ことができ、業界は乱暴な成長から法を遵守する業界へと移行し、プラットフォームはユーザーの権利と利益を保護し、ユーザーが本当に必要とするコンテンツやサービスを開始することにさらに重点を置くことができます。

もちろん、プラットフォームには一定の適応期間が必要だと馮奇氏は言う。例えば、連合学習技術による多次元参照を通じて、グループから共通点を抽出できる。さらに、コンテンツマーケティング、KOLマーケティング、広告配置などの方法を通じて、良い結果も出ている。

推奨する、支配しない

インターネット業界に注目している人物は第一金融記者に対し、今回の監督管理の焦点がアルゴリズムレベルに選ばれた主な理由の一つは、アルゴリズムがユーザーの権利と利益に正確に対応しているからだと語った。「規制」では、インターネット情報局が通信、公安、市場監督などの関連部門と協力して、アルゴリズムの等級分けと分類の安全管理システムを確立すると言及されている。同時に、アルゴリズム推奨サービスの世論属性や社会動員能力、コンテンツの種類、ユーザー規模、アルゴリズム推奨技術が処理するデータの機密性、ユーザー行動への介入度合いなどに基づいて、アルゴリズム推奨サービスプロバイダーを分類して管理することになり、これはある程度、正確なガバナンスという立法理念を反映している。

このうち、「世論属性」にはユーザーのコメントや発言が含まれ、「社会動員能力」はプラットフォームが提供するユーザー基盤を指すと関係者は述べた。インターネット マーケティングと従来のマーケティングの最大の違いは、ユーザー プロファイリングです。アルゴリズムの目的は、最も正確な測定基準を見つけることです。

かつて業界内では「アルゴリズムには価値がない」という見方があり、議論を巻き起こした。しかし、プラットフォームの規模が拡大するにつれて、アルゴリズムの値もプラットフォームの傾向に受動的に結びつくようになります。 「まず偏ったターゲットがあり、次に偏ったアルゴリズムがあります。良いサービスは良いアルゴリズムで提供され、悪いサービスは悪いアルゴリズムで提供されます。」と上記の人物は述べています。

近年、金融業界を例にとると、中国の消費者はプラットフォーム企業から金融サービスを受けるために、個人情報を提供する必要があることが多く、それが過剰なデータ収集の問題につながっています。例えば、2016年から2017年にかけての「現金融資」の急成長期には、借り手情報の売買が発生しました。

これに先立ち、第3回外灘金融サミットで、中国金融40フォーラムの上級研究員で清華大学人民銀行金融学院の学長である張暁慧氏は、アルゴリズムの複雑さとアルゴリズム使用者の意図的な隠蔽により、ほとんどの人がアルゴリズムの仕組みを理解することが不可能になっていると述べた。その結果、アルゴリズム使用者である大手テクノロジー企業、特に個人の生活行動に関連するほぼすべてのデジタルプラットフォーム企業を保有する企業は、事実上の支配的地位にあり、「アルゴリズム覇権」を形成しており、アルゴリズムの相手方、つまり消費者の正当な権利と利益を深刻に脅かしている。

貴州データバオ製品研究所所長の李克順氏は記者団に対し、規制の実施による最も明らかな影響の一つは、アルゴリズムを使用して特定の動画や製品を高強度で露出させることで、消費者の過剰消費や誤った消費決定の行動が抑制されることだと語った。ただし、質の悪いコンテンツや商品はアルゴリズムボーナスを獲得できず、プラットフォームの非準拠収入の成長率は低下します。

もちろん、李克順氏は、パーソナライズされた推奨はアルゴリズム推奨の一側面に過ぎないと考えています。技術的な観点から見ると、アルゴリズムは説明可能性の高いものと説明可能性の低いものの2つに分けられます。前者の方がレビューが容易であるため、現段階では実際には非常に完璧なアルゴリズム標準移行計画はありません。パーソナライズされた推奨を受けるかどうかを消費者が主導権を持って決定できるようにすることは、解決策の選択肢の1つです。

王新鋭氏は、このアルゴリズム自体は新しい技術ではないが、このアルゴリズムの応用によって引き起こされるいくつかの社会問題が近年、各界からますます注目を集めていると述べた。データと比較すると、アルゴリズムはより技術的であり、説明や認識が容易ではないため、ルールを策定して適用することがより困難です。

アルゴリズムボーナス期間は終了しますか？

アルゴリズムの乱用が業界と消費者に及ぼす悪影響は、長い間密かに拡大し続けてきました。

これに先立ち、Weiboは、人気検索リストや話題リストの操作への対応を強化し、操作の直接の受益者を処罰するとの発表を行った。ホット検索リストとホットトピックリストの信頼性を確保するために、製品自体のアルゴリズムを継続的にアップグレードし、ビッグデータ認識に基づくアンチブラッシングシステムを構築しています。システムは、不正行為の特徴を持つあらゆる行動をリアルタイムで識別し、阻止します。

しかし、記者が芸能界や微博に近い人々から得た情報によると、微博以外にも小規模アカウントを使って「いいね！」を増やすなどの方法で世論を誘導できる供給企業が多数存在するという。

当時のWeiboの調整の核心は、編集者による手動介入モデルを導入し、アルゴリズムマイニングを基礎とし、分類と選択における純粋にアルゴリズム的なアプローチを放棄し、関係法規に違反するコンテンツ、社会的に否定的なエネルギーを持つ情報、過度に娯楽的な情報に編集者が手動で介入することを導入することであった。

アルゴリズム規制が徐々に施行されるにつれ、Weiboだけでなく、電子商取引やショートビデオ業界も自主調整を行っている。 2021年10月、TmallとJD.comは、配送プロセス中に消費者の注文に含まれる機密個人情報を暗号化しました。ソフトウェアサービスプロバイダーと販売業者は、Taobao開発プラットフォームや注文促進サービスから受信者のプライバシー情報を取得できなくなります。

「データセキュリティ規則」が公布された後、WeChatは「プライバシー保護ガイドライン」を更新し、「動画アカウント、公開アカウント、視聴、検索に対するパーソナライズされた推奨または表示メカニズム」を追加し、パーソナライズされた自律制御パスを追加しました。 Douyin、Kuaishou、Toutiao、Bilibili、Xiaohongshuなどのプラットフォームはすべて、2021年11月初旬にプライバシーポリシーの更新を完了しました。記者は、DouyinとKuaishouの両社がパーソナライズ広告選択ボタンを目立つ位置に設定していることを発見した。

李克順氏は、アルゴリズム政策の影響を主に受けるショートビデオと電子商取引業界に焦点を当て、ショートビデオなどのシナリオでは、アルゴリズムは高品質のコンテンツを持つ小規模アカウントよりも大規模なVアカウントを優先し、プラットフォーム内でトラフィックの独占を形成し、ユーザーの情報への公平なアクセスと知る権利に直接影響を与えると第一金融記者に語った。

同時に、プラットフォームのトラフィックは、トップクラスの電子商取引アカウントに偏る傾向があります。これらのアカウントの製品は高品質ではないかもしれませんが、コンテンツアルゴリズムの絶え間ない攻撃の下で、ユーザーは簡単に誘導され、異常な購買行動を取り、さらには広範な衝動消費を形成します。

中国電子標準化研究院情報セキュリティ研究センター審査部門主任の何延哲氏は第一金融記者に対し、情報の繭効果が大きくなりすぎないように、消費者の選択権にもっと余裕を与え、アルゴリズムの透明性とユーザーの選択を導くために、短編動画情報の推進にブレーキをかける時が来たと語った。

何延哲氏は、これまでさまざまなプラットフォームが「個人保険法」に基づいてパーソナライズされた推奨機能を改訂してきたと述べた。現在の「規制」と合わせて、プラットフォームはユーザーにより多くの選択肢を提供する必要がある。これまでのパーソナライズされた推奨は、商業的利益を最大化するためのものが多く、真にユーザーの視点に立ってパーソナライズされた高品質のプッシュサービスを提供するというよりも、むしろそうであった。

本条例は、アルゴリズム推奨サービス提供者に対するユーザーの権利保護要件を明確にしており、アルゴリズムを知る権利を保護すること、ユーザーにアルゴリズム推奨サービスの状況を知らせること、サービスの基本原則、目的、主な運営メカニズムを公表すること、アルゴリズムを選択する権利を保護すること、ユーザーに個人の特性を狙わないオプションを提供したり、アルゴリズム推奨サービスを簡単にオフにしたりすることなどが含まれています。未成年者、高齢者、労働者、消費者等にアルゴリズム推奨サービスを提供する者に対し、アルゴリズム推奨サービスを利用して未成年者をインターネット依存に陥らせてはならないこと、高齢者がアルゴリズム推奨サービスを安全に利用できるようにすることが規定されている。

しかし、アルゴリズムに関しては、個別の監督と証拠が依然として困難であり、業界の健全な発展はプラットフォームの自己監督と改善だけに頼ることはできません。