「ビッグデータが古い顧客を殺す」といった混乱が顕著になる中、どのような「アルゴリズム」が必要なのでしょうか？

次のような経験をしたことはありませんか。求人検索サイトで仕事の希望に関するアンケートに答えると、サイトが自動的に一致する求人をプッシュします。ショッピング アプリを開くと、ページには最近検索または閲覧した製品がほとんど表示されます。アプリで健康情報を読むと、健康知識や健康製品の広告が頻繁に表示されます... 情報技術の急速な発展とビッグ データの広範な応用により、アルゴリズム推奨技術は、人々をよりパーソナライズされ、カスタマイズされた、インテリジェントな情報発信の時代へと導きます。

[[352563]]

アルゴリズムの推奨により、インターネット プラットフォームはますますユーザーの心をつかみ、人々がより便利かつ正確に情報を入手できるようにし、ユーザーの注目をしっかりと引き付けることができるようになりました。不完全な統計によると、アルゴリズムベースのパーソナライズされたコンテンツプッシュは現在、インターネット情報コンテンツ配信全体の約 70% を占めています。アルゴリズムによる推奨が徐々にさまざまなプラットフォームの「基本操作」になりつつある一方で、低品質で低俗な情報の押し付けや「ビッグデータによる古い顧客殺し」などの混乱も目立つようになった。

デジタル経済の重要な原動力として、アルゴリズムはどのようにしてより高品質な発展を実現できるのでしょうか？モバイルインターネットの時代には、どのような「アルゴリズム」が必要なのでしょうか？

インターネットプラットフォームはますますユーザーを「理解」するようになっているのでしょうか?

「短い動画を視聴した後、プラットフォームが自動的に多くの関連動画を推奨してくれるので、とても便利です。」北京の会社で働く陳慧さんは、あるオンライン格闘ゲームの「愛好者」で、携帯電話で関連する短い動画を視聴して操作スキルを向上させるのが好きです。彼は、短い動画の視聴頻度が増えるにつれて、プラットフォームが関連動画をどんどん推奨し、「ゲームガイド、ヒーロー紹介、バトル動画、そしてeコマースプラットフォームもマウスとキーボードを推奨した」ことを発見した。

これらのプラットフォームの自動推奨機能では、アルゴリズム推奨と呼ばれる技術が使用されています。これは、人工知能の分析とフィルタリングのメカニズムを使用して、膨大なデータを詳細に分析し、情報の内容とユーザーを正確にマッチングさせる技術です。

1994 年にミネソタ大学の研究チームによって最初の自動推奨システムが発表されて以来、アルゴリズムによる推奨技術は、情報、ソーシャル ネットワーキング、電子商取引、ショート ビデオ、検索エンジンなどのプラットフォームやインターネット アプリケーションに浸透しています。

インターネット プラットフォームは、ユーザーをますます「理解」するようになっています。ユーザーの情報へのアクセスを大幅に容易にする一方で、一部のユーザー、特に 10 代のユーザーをさまざまな程度で依存症に陥らせる傾向があります。

「5分だけ見ることにしたのに、結局何時間も見ていた」。貴州省貴陽市のリン・ジョンシンさんは、12歳の息子が最近、パロディーの短編動画を見ることに夢中になっていて、学業成績に影響しているだけでなく、友達と屋外で活動する時間も減っていると語った。

昨年5月末から、全国の主要なオンライン短編動画プラットフォームで青少年薬物依存防止システムの宣伝が行われている。 「若者モード」では、ほとんどのプラットフォームが主に教育や知識などの有益なコンテンツを推進しています。しかし、保護者の監督がなければ、依存症防止システムの有効性は簡単に損なわれる可能性があります。

一部のインタビュー対象者によると、一部のニュースや情報、オンライン ソーシャル ネットワーキングなどのプラットフォーム上のパーソナライズされたプッシュ通知には、「一般的な娯楽情報が多すぎる、下品な内容が多すぎる、未検証の内容が多すぎる」という「3 つの過剰」現象があり、一部のオンライン ソーシャル ネットワーキングなどのプラットフォームには依存症防止対策がほとんどなく、青少年の依存症や盲目的な模倣につながりやすいとのことです。

北京大学中国社会発展研究センター所長の邱澤奇氏は記者団に対し、自己優先は人間の認知的選好の一部であり、「選好」的な読書は「情報の繭」効果と「感情の伝染」効果の形成を加速させる可能性があると語った。前者は視野を狭めやすく、後者は個人の感情を他人に感染させやすい。

オンラインショッピングを好む人々の中には、「ビッグデータが古い顧客を殺す」ことで損失を被る人もいるかもしれない。一部のプラットフォームでは、アルゴリズム技術を使用して、さまざまな種類の消費者のデータを「プロファイル」し、消費者の好み、ユーザーの粘着性、価格に対する敏感さなどを判断して、ユーザーごとに異なる価格や検索結果が表示されるようにしています。通常、古いユーザーは新しいユーザーよりも高い価格を表示したり、新しいユーザーよりも検索結果が少なくなったりします。

今年の「ダブル11」期間中、北京の消費者ハンさんは、アプリでホテルを予約した際、「同時に、しかし別の携帯電話で」予約したにもかかわらず、価格差が約1,000元あることに気づいた。

9月中旬にWeiboで行われた世論調査では、1万5000人が大幅な価格差のある状況に遭遇したことがあると考えており、これは全投票者の約80％に相当します。

「アルゴリズム」は中立的であり、問​​題は人間にある

アルゴリズム技術の意義は、従来の人力による「人が情報を探す」という作業を、コンピューターによる自動計算に基づく「情報が人を探す」作業に転換し、人力を大幅に解放するだけでなく、人と情報のマッチングをより効率的に完了させることにあります。

インターネットプラットフォーム「今日頭条」は、2012年以来、業界でいち早く情報分野の商品にアルゴリズム推奨システムを適用し、システムの自動学習・推奨機能を実現してきました。 Toutiaoのアルゴリズム設計者であるCao Huanhuan氏によると、推奨システムはコンテンツの特性、ユーザー特性、環境特性などの要素を総合的に考慮して決定を下すという。たとえば、環境特性には、仕事中、通勤途中、仕事が終わった後の休憩中など、さまざまなシナリオにおけるユーザーの興味の好みの情報が含まれます。

Toutiaoは、ユーザーがより多くの興味のあるポイントを発見できるように、さまざまな分野の高品質なコンテンツ制作者を紹介し続け、アルゴリズムを使用してユーザーに推奨しています。また、下品な情報を排除するための下品対策アシスタント「Spirit Dog」もリリースしました。推奨システムには、重複排除と断片化の戦略も追加されています。前者は類似コンテンツの記事の推奨を排除することを目的としており、後者は同じ分野またはトピックの記事の推奨頻度を減らします。

しかし、大手のインターネットプラットフォームが厳格な自主規制を行っている一方で、編集や制作のプロセスが不規則で管理が甘く、事業の方向性から逸脱しているオンラインソーシャルメディアやニュースクライアントも依然として存在しています。主に以下の場合に現れます:

——質の低い情報をユーザーに推奨する。一部のプラットフォームでは、ユーザーを維持するために、下品さ、ポルノ、暴力、真偽の判別が困難、深みに欠け、価値観が混乱しているなどの情報が混在する、注目しているユーザーに類似したコンテンツを継続的に推奨しています。クリック率とトラフィックを増やすために、一部のインターネットプラットフォームでは手動で推奨も行い、「目を引く」情報や「境界線上の」情報を積極的に推奨しており、多くのユーザーが直接「目を引く」と呼んでいます。これは、一部のプラットフォームが社会的責任を欠き、価値観の構築を怠っていることを反映しています。

——ユーザーの権利と利益を保護する難易度が増す。一部のアルゴリズムによって推奨されるコンテンツは、ユーザーの嗜好を過度に強化し、ユーザーが情報コンテンツを自主的に選択する権利に影響を与え、「情報の繭」効果を悪化させ、個人と社会の孤立、現在の国内および世界の状況に対する深い理解と判断の欠如を引き起こしやすくなります。アルゴリズムによる推奨はユーザーの閲覧履歴などのデータに依存するため、適切に設計されていない場合はユーザーの個人プライバシーを侵害する可能性もあります。

——「ビッグデータによる既存顧客破壊」を実行する。中国伝媒大学ビッグデータ研究センターの沈昊教授は、アルゴリズムでは、ユーザーデータの量とデータ更新の頻度によって、顧客が「新規顧客」か「常連顧客」かを簡単に判断できると紹介した。その結果、プラットフォームは莫大な利益を上げ、商人や消費者の利益が損なわれ、独占につながりやすくなります。

技術的なアプリケーションとしては、アルゴリズムの推奨は中立的です。問題は設計者とオペレーターにあります。

一方で、「交通第一」という単一の価値観を追求しています。競争に対処するために、一部のプラットフォームは、ユーザーの維持時間を重要な評価指標として使用し、「ゲートキーパー」としての自らの役割を無視しています。 「ゲートキーパー」は、プッシュされたコンテンツの価値の方向性が正しいことを保証するために、公共の秩序と善良な道徳に適合する肯定的で健全な価値観を使用して、アルゴリズムの推奨事項の設計と適用を導く必要があります。

一方で、企業は「利益第一」を過度に追求し、情報の非対称性の優位性を利用して消費者の正当な権利と利益を侵害しています。これは十分な注意を払う必要がある法的問題です。

「一部のアルゴリズムのトップレベルの設計思想には問題がある」と中国社会科学院情報技術研究センターの江其平所長は記者団に語った。英国の有名な数学者で論理学者のチューリングなどの学者は人工知能の姿を描いた際、人間と機械は対等、双方向、相互に進歩的な関係にあると提唱したが、現在では一部のアルゴリズム設計は人間と機械の関係が一方通行であることを示している。例えば、ビッグデータの分野では、相関分析を盲目的に信じ、因果分析を無視する人がいます。アルゴリズムの効率を定義する際には、特化した効率のみが効率として定義されますが、実際には多様化した効率も一種の効率です。

ビッグデータとアルゴリズムの推奨はもっと「温かい」ものになるべき

最近、あるネットユーザーが、ソーシャルプラットフォームで友人とチャット中に掃除ロボットについて言及したところ、そのプラットフォームに掃除ロボットの広告が表示されたとQ&Aプラットフォームに投稿した。その後の投稿では、多くのネットユーザーが「プラットフォームがアルゴリズムやその他の技術を使ってユーザーのチャット記録を取得し、正確な広告配信を行うことは可能か？」と質問した。

アプリ特別管理作業グループの専門家である何延哲氏は今年9月、4つの部門からなるアプリ特別管理作業グループが複数回のアプリテストでいかなる「盗聴」行為も発見していないと述べた。しかし、アプリが「盗聴」することは技術的に可能です。関係部門は、企業がビッグデータの「プロファイリング」を行う際に個人の音声情報を使用できるかどうかを明確にする規制を発行し、ユーザーがより安心できるようにする必要があります。

別の観点から見ると、世論が提起した疑問は、実はビッグデータやアルゴリズムなどの技術の応用の価値志向を指し示しています。ビッグデータとアルゴリズム技術の使用をどのように規制すれば、より「温かみ」があり、より安心できるものになるのでしょうか。アルゴリズムの設計者とオペレーターが健全で正確かつ肯定的な価値観に基づいてアルゴリズムの推奨事項の設計と適用を導くように、効果的な監督システムと評価システムを確立する必要があります。

関連する立法と監督を早急に強化する必要があり、特にアルゴリズムの推奨自体に対する法的監督を強化する必要がある。

例えば、現在意見公募中の個人情報保護法案（案）では、自動化された意思決定が個人の権利利益に重大な影響を及ぼすと考える場合、個人情報処理者が自動化された意思決定のみで意思決定を行うことを拒否する権利があると規定されています。

11月10日、国家市場監督管理総局は「プラットフォーム経済独占禁止ガイドライン（意見募集稿）」を公布し、ビッグデータとアルゴリズムに基づき、取引相手の支払い能力、消費嗜好、使用習慣などに応じて差別的な取引価格やその他の取引条件を実施すること、新旧の取引相手に対して差別的な取引価格やその他の取引条件を実施すること、差別的な基準、ルール、アルゴリズムを実施すること、差別的な支払い条件や取引方法を実施することなどが規定されており、「ビッグデータが古い顧客を殺す」などの不正競争とみなされ、より厳しい監督を受ける可能性がある。

北京大学電子商取引法研究センター所長の薛軍氏は記者団に対し、アルゴリズムは、それが使用されるシナリオと国民の基本的権利と利益に与える影響に基づいて、異なる強度で規制されるべきだと語った。より明確な法的規定に加えて、プラットフォームのアルゴリズムの使用の結果を評価し、公共の価値に基づいてプラットフォームにアルゴリズムを最適化することを義務付ける社会的レビューメカニズムを確立することもできます。

プラットフォームの社会的責任を強化します。曹環環氏は、今日頭条はもはやアルゴリズムの推奨に全面的に依存しているのではなく、「アルゴリズム＋ホットスポット＋検索＋注目」を統合してユーザーの興味を広げる総合情報プラットフォームであると述べた。ユーザーは、「パーソナライズされた推奨事項」ボタンや「過去の行動を永久に消去」ボタンをオフにして、情報を独自に取得する方法を選択することもできます。

「アルゴリズム技術における価値倫理について議論し、人々の人間的な側面を技術そのものとみなし、企業が事業活動において社会的責任を果たすよう奨励すべきだ」と蒋其平氏は考えている。アルゴリズム推奨技術とプラットフォームの監督は、公平性と効率性、個人情報の開発と保護、個人情報とプラットフォーム情報のバランスを確保すべきであり、デジタル経済サービス形式の健全な発展を促進する観点から、パーソナライズされた情報サービスの損得のバランスの原則に従って政策調整を行うことができると考えている。彼は、消費者が常に積極的な立場に立てるよう、情報収集者が提供するサービスの質を判断する権利を消費者に保障することを提案した。

一部の専門家は、規制当局は企業にビジネスロジックを調整し、肯定的な価値志向とユーザーの高品質追求をキーラベルとしてアルゴリズムのトップレベル設計に組み込むよう促すべきであり、政府、学校、親、プラットフォームは責任を共有し、若者のオンラインリテラシーを継続的に向上させるべきだと考えています。