ビッグデータは古い顧客を殺しています。消費者が権利を守るのは困難です。アルゴリズムの不公平な適用をどのように規制すべきでしょうか?

プラットフォーム経済の急速な発展に伴い、オンラインショッピング、交通、旅行宿泊、食品配達、オンラインゲームなどのオンラインプラットフォームが徐々に登場しています。これらのオンラインプラットフォームは、ビッグデータ、人工知能などの手段を通じて、消費者により豊富な製品やサービスを提供しています。同時に、消費者の権利と利益を侵害する行為も常に存在しています。

ビッグデータが「馴染みのあるものを殺す」というのは氷山の一角に過ぎません。近年、オンラインゲームの抽選確率の不明確さ、オンライン消費者プロモーションの複雑なルール、オンライン検索入札ランキングの推奨、法律や公序良俗に違反するオンライン生放送プッシュ、評価結果を歪曲する偽の良いレビューと隠された悪いレビュー、アルゴリズムを使用して取引を制限するプラットフォームなど、消費者の権益を侵害する行為が繰り返し発生し、繰り返し禁止され、批判されています。

[[377122]]

「これらの問題の根底にあるのは、インターネットプラットフォームによるアルゴリズム技術の応用だ」。中国消費者協会は先日、オンライン消費分野におけるアルゴリズム規制と消費者保護に関するシンポジウムを開催した。中国消費者協会の朱建橋事務局長は、技術の進歩と応用は一般的に人類の福祉の向上に寄与するが、新たなトラブルや害悪も引き起こすと率直に述べた。オンライン消費の分野では、消費者の選択にかかる時間コストが削減される可能性がある一方で、情報セキュリティや差別的扱いなどの消費リスクに消費者をさらすことにもなります。

「トラフィック第一」と「利益第一」を優先するアルゴリズムを適用すると、オペレーターが違法、不道徳、​​非倫理的な行動をとる可能性があります。 「インターネット事業者は法律を厳格に遵守し、アルゴリズムを誠実に適用し、技術的手段を利用して消費者を欺き、真実を隠蔽し、脅迫することに反対すべきである」。中国消費者協会は、インターネット事業者に対し、自己規律を強化し、法律に従って運営し、アルゴリズムの適用における義務と責任を果たすよう求めた。同時に、業界団体は、インターネット事業者がアルゴリズムを合理的かつ規制に従って適用できるように指導と監督を強化し、業界の雰囲気を浄化し、健全な発展を促進し、消費者の正当な権利と利益を効果的に保護する必要がある。

さらに、アルゴリズムの適用に対する効果的な規制を強化する必要があります。中国消費者協会は、関係行政部門が相互調整を強化し、規制責任を精緻化すること、法執行の基盤を整備し、規制の廃止と改正のつながりを確保すること、アルゴリズムアプリケーションの階層的ラベリングと分類管理を強化すること、公共の利益、生命と健康、財産権などにかかわるアルゴリズムアプリケーションの監督を強化すること、市場で優位な地位にあるプラットフォーム運営者のアルゴリズムアプリケーションの監督を強化すること、価値観、道徳、特に未成年者の教育にかかわるアルゴリズムアプリケーションの監督を強化することを勧告している。

ビッグデータを古い顧客に対して利用した場合、権利を保護することは困難です

集団的救済メカニズムの設立

2019年3月、北京市消費者協会は「ビッグデータによる「馴染みの顧客を殺す」問題に関する調査報告書」（以下、「報告書」という）を発表し、回答者の88.32％がビッグデータによる「馴染みの顧客を殺す」現象は一般的または非常に一般的であると信じており、「ビッグデータによる「馴染みの顧客を殺す」現象が存在しないと考える回答者はいなかったことが示された。回答者の56.92%がビッグデータに「利用された」経験があると答えた。

回答者のうち、ビッグデータが「馴染み深いものを殺した」と最も多く経験したのは、ショッピング、オンライン旅行、タクシー配車のアプリやウェブサイトで、次いで食品配達、ビデオや映画のアプリやウェブサイトだった。そのうち、最初の3つのタイプのアプリやウェブサイトのビッグデータが「馴染み深いものを殺す」ことを経験した回答者は、それぞれ44.14%、39.5%、37.17%を占めました。

北京市消費者協会の陳鳳祥副事務局長は、表面的にはデータを通じて消費者にサービスが押し付けられているが、より深い視点から見ると、ビッグデータの「常套手段を殺す」本質は、一部の事業者が消費者の個人情報を過度に収集し、恣意的に使用することで、消費者の知る権利、選択する権利、公正な取引の権利、個人情報保護の権利が十分に尊重され、保証されていないことにあると指摘した。

短期的には、ビッグデータが「古い顧客を殺す」ことは企業の利益増加に役立つかもしれないが、長期的にはブランドに対する消費者の信頼を損なうことになるだろう。専門家は、ビッグデータによる「古い顧客を殺す」行為は、最も基本的なビジネス倫理と企業価値から逸脱し、誠実な事業運営の原則に違反していると考えています。

陳鳳翔氏はその理由を分析し、一方では、アルゴリズムは本質的にインターネットのプログラミング技術であり、人間の参加と入力を必要とする。一部のプログラマーは法律を理解しておらず、コンパイルプロセスが消費者の利益に影響を与えたり、消費者の権利を侵害したりする可能性があると述べた。

一方、技術的な計算は消費者に損害を与える可能性があります。この害は、アルゴリズムの初期段階での差別である可能性もあれば、コンピューターの背後にあるアルゴリズムの副作用である可能性もあります。

報告書によると、ビッグデータによる「身近なものを殺す」行為に遭遇した後、回答者の26.72%は消費者協会または市場監督部門に苦情を申し立て、25.56%はその店での買い物をやめ、17.43%は怒りを飲み込み不運だと考え、11.71%は店と口論して賠償を要求し、10.46%は店のアプリをアンインストールするかウェブサイトを削除し、8.13%はSNSやメディアで問題を暴露することを選択した。

ビッグデータを利用した「既存顧客削減」は隠蔽されており、権利保護の際に証明することが難しい場合が多い。陳鳳祥氏は、公益訴訟を利用して社会のあらゆるセクター間の協調統治を促進することを提案した。

中国政法大学の石建中副学長も、ビッグデータが「古い顧客を殺す」のは、企業がデータの利点を悪用する典型的な行為だと考えている。小売業者はデータに関して絶対的な優位性を持っており、そのデータに関する絶対的な優位性を悪用して消費者の利益を害することは珍しくありません。ビッグデータが「馴染みのあるものを排除する」ために使用されると、特定の消費者ではなく、この消費パターンを持つすべての消費者がターゲットになります。

ビッグデータによる「既存顧客削減」問題を解決するには、集団的な救済メカニズムを確立する必要がある。石建中氏は、個々の消費者は「老客殺害」を発見できない可能性があり、発見した後も証拠を保存できない可能性があると認めた。たとえ証拠を保存したとしても、救済費用が高すぎるため、救済を求めない可能性がある。

ビッグデータが「馴染みのあるものを殺す」というのは、価格差別の一形態です。中国消費者協会は、一部の運営者がアルゴリズムを使用して価格差別を行っており、地域によって消費者に異なる価格を設定すること、ページを複数回閲覧したユーザーに価格の上昇を経験させること、複雑な販促ルールやアルゴリズムを使用して価格を混乱させ、実際の価格の計算が難しい消費者を引き付けていることを明らかにした。

不公平なアルゴリズムが隠されている

消費者は搾取されやすい

アルゴリズム自体は技術的な手段です。事業者はアルゴリズムを使用することで、業務効率を向上させ、消費者により豊富で優れた製品やサービスを提供できるようになります。

「技術的な観点から見ると、アルゴリズムは確かにインターネット経済の発展に多大な貢献をしてきました。」対外経済貿易大学法学院の蘇浩鵬教授は、アルゴリズムは企業にとって重要なマーケティングや販売ツールであることを客観的に認識する必要があると考えています。消費者にとって、アルゴリズム、特に推奨アルゴリズムが消費者にもたらす利便性を否定することはできません。

Su Haopeng 氏の見解では、このアルゴリズムのプラスの意義は、第一に、複雑な価格設定のコストが削減されること、第二に、頻繁な価格変更のコストが削減されること、そして第三に、価格設定の決定の質が大幅に向上することにあります。

もちろん、企業はアルゴリズムを利用して法的な抜け穴を悪用し、違法行為や不法行為を犯し、消費者の正当な権利や利益を侵害することもできます。アルゴリズムの権利は商人が独占しているため、このアルゴリズムの独占が悪用された場合、証拠の収集自体も、証拠の提示も、関係する法執行機関に証拠が採用される可能性も、現状では極めて困難であるため、消費者は基本的に無力です。

「商人はアルゴリズムという技術的手段を利用して、商人と消費者の間の技術的格差を広げてきた」と蘇浩鵬氏は認めた。不公平なアルゴリズムによって消費者にもたらされる損害は、消費者の公正な取引の権利を損なうだけでなく、消費者の独立した選択権や知る権利を侵害するものでもある。

中国消費者協会はこれまで、消費者からの苦情、関連調査、報告に基づき、推奨アルゴリズム、評価アルゴリズム、ランキングアルゴリズムなどの不公平な問題を含め、インターネット分野における消費者の権利に関わるアルゴリズム適用問題を整理してきた。

たとえば、消費者が閲覧するページ、広告、製品やサービス、トピックなどの消費パターンを監視および分析することで、消費者に対してターゲットを絞った商業マーケティングを実施できます。朱建橋氏は、このタイプの推奨アルゴリズムは消費者データポートレートを使用して、いわゆる精密プッシュを実行することを認めた。多くの消費者は、自分が見ているものが他の人が見ているものと同じであると誤って信じており、その結果、情報と選択肢が不十分になっています。中には、アルゴリズムアプリケーションを使用して、法律や公序良俗に違反する製品やサービスを宣伝する事業者もいます。

一部のプラットフォームおよびプラットフォーム内の運営者は、偽の注文などの方法を使用して、良いレビューを獲得するために偽の高スコアのレビューを捏造したり、中程度または悪いレビューを隠して実際のレビューを表示できないようにしたりします。 「虚偽のレビューや不当に表現されたレビューは、事業者間の公正な競争を損なうだけでなく、消費者の購買決定を誤らせる」と朱建橋氏は考えている。

また、プラットフォーム運営者は、消費者の評価率や売上高などに基づいてさまざまな業界や製品・サービスカテゴリをランク付けし、消費者の選択を導くと主張するさまざまなランキングリストを開発しているが、具体的な計算方法を知ることは困難である。

一部のオンライン運営者は景品や抽選による販売を行っており、特に一部のオンラインゲーム会社はゲーム小道具の抽選を頻繁に推進しています。当選（ドロップ）確率は発表されていますが、アルゴリズムプログラムは透明ではなく、実際の当選確率は制御に欠けており、消費者から繰り返し批判されています。一部のプラットフォームは、その優位性を利用して、アルゴリズムを通じてトラフィック分布や検索ランキングに障害や制限を設け、プラットフォーム内の運営者を制御して取引を行い、公正な競争と消費者の選択に影響を与えています。

「一部の一般的なオンライン消費領域におけるアルゴリズムの不公平な適用は技術的かつ隠れており、消費者の購買決定に微妙な影響を与えている。消費者が個人の力でこれに対抗することは難しい」と朱建橋氏は指摘。無秩序な発展を許せば、一方では市場経済における公正かつ秩序ある競争と持続可能な経済発展に悪影響を及ぼす。他方では、消費者がデータアルゴリズムの搾取に直面し、テクノロジーいじめの標的となり、さらにはアルゴリズムによって価値観や道徳観念を歪められ、プラットフォーム運営者の「おもちゃ」になる可能性もある。

規制協力の継続的な強化

アルゴリズムの適用を効果的に規制する

中国消費者協会は、インターネットにおいては、情報の保有、技術の応用などの理由により、ネットワーク事業者がより強力な立場にあると考えています。アルゴリズムの適用において、ネットワーク事業者は自己規律を強化し、法律に従って運営し、義務と責任を果たし、消費者の正当な権利と利益を保護する必要があります。

Shi Jianzhong 氏は、アルゴリズムの公正な監督や公正なガバナンスは、誠実性、透明性、公平性の問題に対処する必要があると考えています。また、アルゴリズムを活用する企業の行動に対する倫理的・法的評価を行うとともに、企業の社会的責任の評価を強化することも重要な道筋です。

清華大学法学院副学長の程暁氏は、アルゴリズムの問​​題はテクノロジーを通じて解決できると指摘した。例えば、市場で独占的地位にある企業のアルゴリズムに対抗するアルゴリズム研究を奨励したり、アルゴリズムを利用してアルゴリズムをターゲットにしたり、アルゴリズム同士の競争関係を形成したりすることで、市場の競争メカニズムを再構築します。

中国消費者協会は、アルゴリズムの適用に対する効果的な規制を強化することを推奨し、社会のあらゆる分野に対し、それぞれの能力の範囲内で共同で社会監督を実施し、アルゴリズムの公正かつ合理的な適用を促進し、事業者がアルゴリズムを悪用するのを防ぐよう呼びかけている。一方で、制度的確立と立法規制を強化します。個人情報保護法、独占禁止法、不正競争防止法、価格法などの関連法律にアルゴリズムの応用に関する関連規定を追加します。

まず、国はアルゴリズム倫理の専門機関を設立し、アルゴリズムの応用に関する倫理、規則、基準の策定、不正なアルゴリズムの応用の調査と処理などを担当し、アルゴリズムの応用に対する効果的な監督を強化する責任を担う関係政府部門を指定します。

2 つ目は、アルゴリズムの適用結果に対する一貫性の要件を明確にすることです。アルゴリズム検索結果は、公開オプションを同時に提示する必要がある、つまり、すべてのユーザーが同じ検索方法を使用して同じ結果を得る必要があることが規定されています。また、消費者が効果的かつ便利にアクセスできるように、関連性の高い結果を優先オプションとしてプッシュする必要があります。

3 つ目は、アルゴリズムの適用の透明性、公平性、完全性を確保することです。オペレーターによるアルゴリズムの使用は、認識可能、追跡可能、かつ元に戻せるものでなければならないことは明らかです。紛争が発生した場合、当社はアルゴリズム、バックエンドデータ、関連情報および説明を関係行政部門、司法機関および第三者機関に提供する義務を負います。アルゴリズムの適用を検証可能、説明可能、かつ説明責任のあるものにします。

第四に、立証責任の転換に関する規定を明確にし、アルゴリズム実装者の立証責任を強化し、証拠の偽造や改ざんに対する責任と結果を明確にし、消費者が証拠や身元確認を提供することが困難であるという問題を解決します。

一方で、規制連携や仕組みの構築を強化する。朱建橋氏は、アルゴリズムはインターネット分野で広く利用されているとし、関係行政部門が相互調整を強化し、規制責任を精緻化すること、法執行の基盤を整備し、規制の廃止と改正の連携を確保すること、アルゴリズム応用の階層的識別と分類管理を強化すること、公共の利益、生命と健康、財産権などにかかわるアルゴリズム応用の監督を強化すること、市場で優位な地位にあるプラットフォーム事業者のアルゴリズム応用の監督を強化すること、価値観、道徳、特に未成年者の教育にかかわるアルゴリズム応用の監督を強化することを提案した。

朱建橋氏は、事件前、事件中、事件後のアルゴリズムに対する監督を強化し、必要な目的の審査、アルゴリズムの適用に対する法的審査、倫理的審査、ブラックリスト制度の確立などを通じて、アルゴリズムを効果的に管理する必要があると指摘した。また、アルゴリズム苦情審査メカニズムを確立し、消費者と社会各層の苦情および監督権を保護する必要があると指摘した。さらに、第三者技術評価機関を育成し、アルゴリズム適用に対する技術審査を強化し、インターネット経済の持続的かつ健全な発展を確保し、消費者の正当な権利と利益を効果的に保護する必要があると指摘した。

同時に、朱建橋氏は、関係司法当局がアルゴリズム適用事例の分析と研究を強化し、関係司法解釈の公布を推進し、司法当局の裁判と監督の役割を十分に発揮し、事業者の立証責任を強化し、アルゴリズム適用問題の実質的審査を強化し、司法判例を通じて公平性と正義を促進し、消費者の権利の保護を強化すべきであると提案した。