第2世代のビッグデータの偏りを打破するには、アルゴリズムの公平性が必要

ビッグデータのシナリオでは、ますます多くのトランザクションがアルゴリズムを通じて完了します。インターネット プラットフォームは、継続的に進化するアルゴリズムとコンピューティング能力を通じて、あらゆる分野でより効率的で豊富かつ正確な高品質のサービスを消費者に提供します。しかし、取引の効率性が向上する一方で、アルゴリズムの不透明性と説明の難しさは、消費者の権利保護や不正競争防止に新たな課題をもたらします。

[[387625]]

上海市消費者保護委員会は、プラットフォームアルゴリズムの公平性を促進し、消費者の正当な権利と利益を保護するために、デジタルルールの改善とアルゴリズム規制の早急な導入を求めた。

「馴染みの顧客に高値で売る」はビッグデータ価格差別の第一世代の典型的な特徴である

ビッグデータによる価格差別化の第一世代は、アルゴリズムによる単純な判断に依存していました。典型的な例は「馴染みの顧客に高値で販売する」ことです。プラットフォームは新規顧客には低価格を表示し、既存顧客には高価格を表示します。 「古い顧客に高値で売る」のと似たのが「新規の客が列に割り込む」ことです。例えば、オンラインタクシーに乗る場合、アルゴリズムがバウチャーを購入したかどうかを判定し、バウチャーを購入していない乗客が「列に割り込む」ことを許可します。

差別価格設定は必ずしも「悪いこと」ではありません。何年も前、外国のファストフード店は店の入り口でクーポンを配布することが多く、価格に敏感な顧客は「2ドル節約できる」ようにクーポンを集めていました。 「順番を飛ばす」ことは必ずしも悪いことではありません。例えば、銀行のVIP顧客には、業務処理において優先権が与えられます。消費者が今、ビッグデータによる価格差別にうんざりしているのは、プラットフォームの欺瞞によるものだ。古い顧客は割引を期待していないが、騙されることも嫌がる。バウチャーを購入した乗客はタクシーに乗れず、ピーク時の影響だと考えている。欺瞞に基づく取引はまったく公平ではない。

パーソナライズされたプッシュによる「何千人もの人々のための何千もの顔」と「何千人もの人々のための何千もの価格」

人工知能などの新技術の応用、アルゴリズムの急速な反復、プラットフォームによる消費者の個人情報の包括的な収集により、パーソナライズされたプッシュはプラットフォームの主なマーケティングツールになり、競争の核心はプッシュの精度になりました。

1つはコンテンツプッシュであり、基本的な方法は人々の好みに応えることです。アルゴリズムがより賢くなった場合、消費者の認識を微妙に強化したり、変えたりすることも可能になります。たとえば、消費者が「白ゴマと黒ゴマ」を検索した場合、多くのアプリでゴマに関する情報ツイートが表示されます。彼がオンラインで白ゴマを2回購入したことがあるなら、「白ゴマは黒ゴマよりも良い」という記事を目にする可能性が高いでしょう。彼が40歳になったばかりなら、「40歳を過ぎたら白ゴマを食べるべきだ」という「世間の常識」を目にするかもしれません。

2つ目は、個人情報に基づいて関連性の高い広告や商品をマッチングさせる商品マッチングです。市消費者保護委員会は昨年下半期、複数の携帯端末を使い、同じアプリを使って異なる所得層の消費者を模擬し、一定期間仮想キャラクター操作を行った。テストの結果、携帯電話によって受信する広告は大きく異なり、低所得者の携帯電話はさまざまな低価格・低品質の商品やオンラインローンの広告を高頻度で受信するようにシミュレーションされていることが判明した。

3つ目は価格の組み合わせです。第一世代のビッグデータ価格設定の明らかに欺瞞的な差別化価格設定と比較すると、複雑なアルゴリズムに基づく価格の組み合わせはより隠蔽性が高く、合理化が容易です。市消費者委員会は、ホテル予約や食料品の買い物などのサービスをさまざまなプラットフォームでテストしたところ、アカウント間の価格差が以前よりも大きくなった。なお、現在の「人によって異なる価格」は、元の価格と各種クーポンで構成されていることに留意してください。これらのクーポンのほとんどは、アルゴリズムによって一時的に生成され、「先月タクシーを利用した」、「一昨日野菜を購入した」など、クーポンのさまざまな理由も示されます。

アルゴリズムの公平性は消費者保護の中心的な問題である

デジタル経済の時代において、「データのエンパワーメント」は最も重要な経済の原動力となっています。データ競争が激化するなか、第2世代ビッグデータ価格差別など多くの問題も顕在化している。第二世代ビッグデータの「知り合いを殺す」における「知り合い」は、もはや「知り合いの顧客」ではなく、個人情報がプラットフォームに完全に知られている「知り合い」です。古い顧客を殺す方法は差別的なアルゴリズムであり、古い顧客を殺す結果は、消費者の権利と引き換えにプラットフォームのデータ価値を最大限に実現することです。

まず、アルゴリズムに基づくパーソナライズされたコンテンツのプッシュは、客観的に見て個人間の認知バイアスを拡大し、商業目的のプラットフォームによるアルゴリズムによる差別は情報の繭を生み出し、消費者の知る権利を侵害する可能性があります。第二に、差別的なアルゴリズムに基づく商品のマッチングは、本質的にはプラットフォームによるアルゴリズムの力の乱用です。消費者はアルゴリズムによる決定から「オプトアウト」する権利がないため、ある程度、選択する法的権利を奪われている。第三に、差別的なアルゴリズムに基づく価格の組み合わせは、本質的に消費者の公正な取引の権利を侵害するものである。入力データの受け取りから判定結果の出力までの全プロセスは、外部からは知ることのできない「ブラックボックス」を形成し、アルゴリズムはその中でデータを処理、評価、分析し、特定のシナリオに基づいて判定を行います。アルゴリズムの「ブラックボックス」の不透明性により、第2世代のビッグデータによる「古い顧客を殺す」行為はより隠蔽され、検出が困難になります。

昨年12月に開催された中央経済工作会議は、独占禁止を強化し、資本の無秩序な膨張を防ぐことを、今年の我が国の経済工作の8つの重点任務の一つに挙げ、法に基づいて発展を規制し、デジタルルールを整備し、プラットフォーム企業の独占の特定、データの収集と使用の管理、消費者の権利の保護などの分野で法的規範を改善する必要があると明確に述べました。このため、市消費者保護委員会はデジタルルールの改善とアルゴリズム規制の早急な導入を求めた。