アルゴリズムが消費者を「計算」するのを防ぐにはどうすればよいでしょうか?専門家：対策のためのアルゴリズムの研究は可能

デジタル経済の時代では、目に見えず、実体のないアルゴリズムが常に消費者の選択に影響を与えます。近年、インターネットプラットフォーム経済の急速な発展に伴い、オンラインショッピング、交通、旅行宿泊、食品配達からオンラインゲームに至るまで、さまざまな消費領域で大規模なインターネットプラットフォーム企業が登場しています。一部のプラットフォームは、ビッグデータ、人工知能などの手段を通じて消費者により豊富な製品やサービスを提供し、社会に価値を生み出しています。

しかし同時に、ビッグデータによる既存顧客の排除、オンラインゲームの抽選の確率の不明確さ、法規定に違反するコンテンツのプッシュを行うオンラインライブブロードキャスト、良いレビューを無視して悪いレビューを隠すなど、消費者の権利を侵害する行為もいくつかあります...

こうした問題の背景には、アルゴリズム技術による消費者の不公平な計算があります。

ビッグデータ価格差別に関しては、消費者は集団的な救済メカニズムを必要としている

2020年、安徽省のインターネットテクノロジー株式会社は1年間で消費者から大量の苦情を受け、関係部門は953件の苦情と報告を受けた。

そのうち最も多かったのは、同社のオンラインゲームの抽選確率やルール設定に問題があるとする報告で、全体の40.8％を占めた。

安徽省消費者保護委員会は調査の中で、宝くじの確率の合法性と適合性を判断することは困難であると判断した。地元の消費者保護委員会は、市や区レベルの市場監督管理部門、文化観光部門、公安部門などの関連部門と共同で対処推進会議を開催し、この会社に存在する可能性やその他の問題を共同で調査・検証しました。

確率ルールなどの問題に対する専門的な鑑定能力の欠如と、鑑定を実施するための権威ある第三者機関を見つけることができなかったため、調査はある程度妨げられました。

「この問題は今のところうまく解決されていない」。先日、中国消費者協会（以下、「中国消費者協会」）が開催したオンライン消費分野におけるアルゴリズム規制と消費者保護に関するシンポジウムで、安徽省消費者権利保護委員会の丁涛事務局長は、どのように解決策を見つけるべきかを憂慮していた。

宝くじに当たる確率の背後には、一連のアルゴリズムの実行があります。中国消費者協会は、消費者の苦情、関連調査、関連レポートに基づき、推奨アルゴリズム、価格アルゴリズム、評価アルゴリズム、ランキングアルゴリズム、確率アルゴリズム、トラフィックアルゴリズムなど、消費者の権利に関わるインターネット分野における現在のアルゴリズム適用に関する6つの問題をまとめました。

その中で、確率アルゴリズムの問​​題は、一部のオンライン運営者が景品や抽選引き換え付きの販売を実施していること、特に一部のオンラインゲーム会社が頻繁にゲーム小​​道具の抽選活動を推進していることに反映されています。当選（ドロップ）確率は発表されていますが、アルゴリズムプログラムは透明ではなく、実際の当選確率は制御が不十分であり、消費者から繰り返し批判されています。

北京消費者協会の陳鳳祥副事務局長の見解では、アルゴリズムは本質的にはインターネットのプログラミング技術であり、一定の人間の参加と入力を必要とする。一部のプログラマーは法律を理解しておらず、プログラミングの過程で消費者の権利を侵害している。

北京コンピューター協会デジタル経済委員会の事務局長である王娟氏は最近、オンライン配車サービスを利用した際、よく知っているルートに車が入ったとき、オンライン配車サービスプラットフォームのナビゲーションが長くて混雑したルートを案内することを発見した。

中国政法大学の副学長、石建中氏も同様の経験をした。同氏の意見では、プラットフォームのナビゲーションはより長い運転ルートを提示し、アルゴリズムの背後には何らかの意図があるが、消費者が証拠を得るのは難しく、関連する証拠を保存する方法がないこともあるという。

「ビッグデータが古い顧客をターゲットにすると、特定の消費者ではなく、この消費モデルの下ですべての消費者がターゲットになります。」石建中氏は、ビッグデータが古い顧客をターゲットにするという問題で消費者の権利と利益を保護するには、集団的な救済メカニズムが必要だと考えています。

独占的行為を行う企業に対する対抗策に関するアルゴリズム研究を実施すべきである

第14次5カ年計画では、消費環境の改善と消費者の権利保護の強化を提案している。

対外経済貿易大学法学院の蘇浩鵬教授の見解では、不公正なアルゴリズムによって消費者にもたらされる損害は、公正取引権の侵害、選択権の侵害、知る権利の侵害という3つの側面に反映されている。

彼は、消費者の権利を侵害する「2つのうち1つを選ぶ」問題やビッグデータ価格差別問題などの特定の分野において、個別事例の監督を強化することで、より多くの企業がアルゴリズム分野における消費者保護レベルの向上に導かれると考えている。

また、アルゴリズムは、ある程度、事業者が独占している権利の一種です。消費者がアルゴリズムを停止する権利を技術的に認める権限を設け、法律で規定することで、事業者と消費者の技術的なバランスをとることも考えられます。

清華大学法学院副学部長兼教授の程暁氏は、消費者の権利保護に関する多くの問題はテクノロジーを通じて解決できると考えている。例えば、市場独占を行っている企業への対抗策として、アルゴリズム研究を行っています。「アルゴリズムをアルゴリズムに対抗させることで、アルゴリズム同士の相互競争が生まれ、市場の競争メカニズムが再構築される」

また、消費者の権利を侵害するアルゴリズムに対して予防措置を講じることも提案した。ビッグデータ価格差別や価格差別などの問題に対処するため、規制当局はプラットフォームに対し、ユーザーに表示される価格が個々の消費者に押し付けられたパーソナライズされた価格であるかどうかを識別することを要求できます。

北京理工大学法学院教授で商法研究センター所長の陸来明氏は、規制技術のレベル向上が急務だと指摘した。しかし、アルゴリズムの規制については、事前監視、途中監視、事後監視のいずれで行うべきか、倫理審査を行うべきかどうかなど、社会の中で意見の相違が残っています。

彼の意見では、まず第一に、倫理的審査を実施しながら、事前または進行中の規制を通じてアルゴリズムの目的を規制するための原則を確立する必要がある。ただし、異なるレベルと規模の監視を決定するには、異なるアルゴリズムを階層的な監視の対象にする必要もあります。

中国消費者協会は、不公平なアルゴリズムが無秩序に発展すれば、一方では市場経済における公正かつ秩序ある競争と持続可能な経済発展に悪影響を及ぼすと指摘した。他方では、消費者がデータアルゴリズムの搾取に直面し、テクノロジーいじめの標的となり、さらにはアルゴリズムによって価値観や道徳観念が歪められ、プラットフォーム運営者の「おもちゃ」と化してしまう可能性もある。

「アルゴリズムの不公平な適用は一般大衆をターゲットにしており、誰もが潜在的な被害者になる可能性がある」中国消費者協会の李元光副事務局長は、次のステップはアルゴリズム適用の効果的な規制を強化することだと示唆した。

「個人情報保護法、独占禁止法、不正競争防止法、価格法などの関連法律にアルゴリズムの応用に関する関連規定を追加することを提案する」と李元光氏は述べ、国がアルゴリズム倫理の専門機関を設立し、アルゴリズムの応用倫理、規則、基準の策定、不正なアルゴリズムの応用の調査と処理などを担当し、関連する政府部門を指定してアルゴリズムの応用に対する効果的な監督を強化することを提案した。

同時に、オペレーターによるアルゴリズムの使用は、認識可能、追跡可能、かつ元に戻せるものでなければならないことを明確にする必要があります。紛争が発生した場合、アルゴリズムを実施する側は、アルゴリズム、バックエンドデータ、関連資料、説明を関係行政部門、司法機関、第三者機関に提供する義務があり、アルゴリズムの適用が検証可能、説明可能、説明責任があることを保証し、アルゴリズムを実施する側の立証責任を強化し、証拠の偽造や改ざんの責任と結果を明確にし、消費者が証拠や身元確認を提供することが困難であるという問題を解決します。

「規制協力とメカニズム構築を強化する必要がある」と李元光氏は指摘した。アルゴリズムはインターネット分野で広く利用されている。関係行政部門が相互調整を強化し、規制責任を精緻化すること、法執行の基盤を整備すること、規制の廃止と改正の連携をしっかり行うこと、アルゴリズム応用の階層的識別と分類管理を強化すること、公共の利益、生命と健康、財産権などにかかわるアルゴリズム応用の監督を強化すること、市場で優位な地位にあるプラットフォーム事業者のアルゴリズム応用の監督を強化すること、価値観、道徳、特に未成年者の教育にかかわるアルゴリズム応用の監督を強化することを提案した。

李元光氏は、消費者や国民の苦情や監督の権利を保護するため、アルゴリズム苦情・審査メカニズムを設立し、「第三者の技術評価機関を育成し、アルゴリズムアプリケーションの技術審査能力を強化する」ことを提案した。

同時に、李元光氏は、関係司法当局がアルゴリズム応用事例の分析と研究を強化し、関連する司法解釈の公布を促進し、アルゴリズム応用問題の実質的審査を強化し、司法判例を通じて消費者の権利の保護を強化すべきだと考えている。