中国人はアルゴリズムと戦い始めている：ログインなし、いいねなし、フォローなし、コメントなし

[[402565]]

インターネット業務に携わる陸鋒さんは、あるテクノロジー製品の機能やユーザーエクスペリエンスを検索したいと思っていましたが、Zhihuを開くと、キーワードを入力する時間もないうちに、ホームページ上のおすすめコンテンツに惹かれ、次々と項目をクリックし続けました。 30分後、彼は突然、そもそもなぜZhihuを開いたのかを忘れてしまいました。

これは、多くの若者が感じているアルゴリズムによる推奨の悪影響の 1 つであり、簡単に依存症になってしまうことです。

パーソナライズされた推奨事項は、ほぼすべてのインターネット製品の標準となり、ビッグデータはますます人々の「携帯電話生活」の一部になりつつあります。アルゴリズムによる推奨は、商業的利益の追求に加え、本質的にはユーザーへのサービスであることは否定できません。一部のアプリで興味のあるキーワードを頻繁に入力することで、アルゴリズムが徐々にユーザーの興味や好みを理解し、把握し、ユーザーが興味を持つコンテンツを推奨し続けることができると多くの人が感じています。

アメリカの学者キャス・サンスティーンが言ったように、コミュニケーションの過程で、大衆は興味のある情報を選択する傾向があるが、時間が経つにつれて、彼らは自分自身を「繭」の中に閉じ込めるようになる。このような「情報の繭」では、すべてのコンテンツが興味深いものとなり、非常に中毒性が高く、人々はやめられなくなります。

このような状況が長く続くと、人々は盲目的に自信を持ち、極端な行動に出るようになるかもしれません。アメリカのインターネット観察者、イーライ・パリサー氏はこれを「フィルターバブル」と表現した。アルゴリズムによる推奨は、異種の情報をフィルタリングし、ユーザー向けにパーソナライズされた情報の世界を作り出し、ユーザーを「ネットワークバブル」環境に置きます。

見たいコンテンツのプールに常に没頭していると、視野が狭くなり、見るものや聞くものがアプリによって制御される可能性があります。しかし、この世代の若者は、今日の社会ではアルゴリズムから完全に脱却することは不可能であり、自分たちなりの方法で「アルゴリズムと戦う」ことしかできないことをはっきりと理解しています。

「ログインしない、いいねしない、フォローしない、コメントしない」ことでオンライン上の痕跡を減らそうとする人もいれば、依存症の原因となる可能性のあるオンライン環境を隔離するために複数の携帯電話や番号を使用する人もいれば、さまざまなシナリオに合わせて異なるアカウントをトレーニングする人もいます...

[[402566]]

01 アルゴリズムに囚われた

22歳のリン・フェンさんは最近、仕事のために新しいDouyinアカウントを登録した。「衝撃的」や「ただいま」などの「ワイルドなおすすめコンテンツ」を前に、彼は少し疑念を抱いた。「偽のDouyinを見ているのだろうか？」

TikTokのアルゴリズムに自分の仕事に関連したコンテンツをもっと勧めてもらうために、彼はその夜、新しいTikTokアカウントを「調整」し、TikTokで仕事に関連したコンテンツを探し続けることにした。しかし、その「訓練」が夜明けまで続くとは予想していなかったので、疲れた体を引きずりながら仕事を続けなければなりませんでした。

リン・フェンは当初、アルゴリズムを使って高品質のコンテンツをより効率的に探したいと考えていたが、結局「裏目に出る」とは予想していなかったため、動画を見た後もスクロールし続けるのを自分を抑えるのは困難だった。

ティックトックがリン・フェンの「時間のブラックホール」であるように、快手、ビリビリ、知乎も多くの若者にとっての時間のブラックホールです。一度開くと止めるのが難しく、その背後にはアルゴリズムがあります。

今日では、インターネットへのアクセスの敷居が低くなったため、一般の人々にとって「アルゴリズム」という言葉は馴染み深いものとなりました。アルゴリズムによる推奨は、数学的変数の計算を通じてユーザーが好むものを推測できるため、ユーザーが高品質のコンテンツを探す時間コストを削減できます。好きなコンテンツを見つけるコストを減らすために、ヤンヤンは嫌いなコンテンツをクリックすることさえ控えています。誤ってクリックしたとしても、アルゴリズムがさらに間違った情報を取得するのを防ぐために、すぐにそのコンテンツから抜け出します。

しかし、このアルゴリズムはさらに最適化され、一部のアプリではユーザーの粘着性を高め、ユーザーの好みに対応するための「ツール」へと進化し、ユーザーの立場や好みに合ったコンテンツを常に推測して推奨するようになりました。人々が自分の利益に導かれる習慣があると、「情報の繭」に陥りやすくなります。

アルゴリズムによる推奨により、私はますます古いやり方に固執せざるを得なくなります。実際、私は時々自分の快適ゾーンから抜け出して新しいことに挑戦し、新しい情報を入手したいと思っていますが、常に似たような情報を与えられます。

Doubanユーザーはこう言った。

昨年下半期、百度創業者の李承燁氏は「情報繭」について二度言及した。百度のドキュメンタリー「Twenty Degrees」の中で、ロビン・リーはこう語った。

今日のアルゴリズムはユーザーを満足させようとしています。アルゴリズムの品質は基本的に、ユーザーがコンテンツを消費する時間と翌日に戻ってくる可能性に基づいています。これらはすべて最適化されています。

これは人々を分裂させ、簡単に極端な方向に導くことになるので、良いことではないと彼は考えています。

パーソナライズされた推奨事項は、同様の価値観を持つ人々を集め、極端な方向に進んでしまう場合もあります。

ケンブリッジ・アナリティカはかつて、パーソナライズされたコンテンツプッシュを利用して政治家が特定の問題に関してさまざまなタイプの有権者の立場を判断するのを支援し、政治家が選挙戦の結果に影響を与える選挙戦略を策定するのを支援し、2016年の米国選挙に深く関与していたと疑われていた。ケンブリッジ・アナリティカ社は、違法または不適切にデータを収集したり他者と共有したりしたことを否定しているが、この事件は、アルゴリズムによる推奨が不適切に使用されると極めて危険であることを証明している。

李延紅氏もフォーラムで、アルゴリズムが人間の情報へのアクセスにますます大きな影響を与えていると率直に述べた。フィード形式の情報の流れは商品の粘着性を生み出すが、オンラインメディアの価値も試される。彼は、アルゴリズムに罪はないが、ユーザーが本能的に好む「易雅、舒舒、威開芳」だけを提供することはできないと考えている。アルゴリズムは、ユーザーの本能的な好みに従うのではなく、ユーザーの高レベルの目標を積極的に理解する必要がある。

APPの世界ではアルゴリズムを完全に排除することは困難です。アルゴリズム推奨の利便性に警戒するユーザーが増えており、フィード形式のアルゴリズム推奨に対して「反抗的な精神」が生まれています。

「エンターテインメントの繭」から抜け出すために、無意識のうちに「アルゴリズムと戦う」ようになった人もいれば、謎めいた感覚を保ち、自分の行動データがビッグデータやアルゴリズムに捕捉されることを望まない行動を取る人もいます。

[[402567]]

02 独自の戦術を持つアルゴリズムとの戦い

一般の人々はアルゴリズムとどのように戦うのでしょうか?

パーソナライズされた推奨によって引き起こされる依存症と戦うために、若者の中には、中毒性のあるアプリから意識的に離れることを選択する人もいます。

3年前に大学を卒業したばかりの喬思さんは、毎日携帯電話の使用時間をチェックし、各アプリに費やした時間を分析して、娯楽アプリに依存しないよう自分自身に警告している。使用時間を積極的に制限している喬思とは異なり、中毒になりやすいアプリを排除することを選択する人もいます。たとえば、中毒性のあるアプリを携帯電話に長期間存在させず、短期間使用したらすぐに削除します。

同様に、陸鋒も個人の意志力に頼らず、日常的に2台の携帯電話を使用していました。彼はメインの携帯電話を日常の交流や勉強に使用し、仕事中に中毒的な環境から自分を隔離することを目指しています。サブの携帯電話はTikTokやToutiaoなどの娯楽アプリを閲覧するために使用し、サブの携帯電話を毎日手に取る回数をコントロールしようとしています。

リン・フェンが新しいDouyinアカウントを登録した理由は、実は仕事と生活を分けるためだった。彼の同僚も基本的には同じで、仕事用にDouyinアカウントを「トレーニング」し、プライベートアカウントを使って個人的な興味や趣味を検索し、アルゴリズムの推奨によって仕事と生活の境界が曖昧にならないようにしている。

フィードアルゴリズムによって作成された情報の繭から抜け出すために、RSS サービス (Really Simple Syndication) を探す、RSS サービスをアグリゲータとして使用して複数のサブスクリプション ソースを統合する、複数の Web サイトからコンテンツの更新をすばやく取得するなどの技術的なツールを使用する人もいます。これにより、単一のソースに基づく情報の繭が破られます。

若者の中には、アルゴリズムが理解できないように、インターネット上にユーザーの行動データをできるだけ残さないことで、アルゴリズムと「戦う」ことに重点を置いている人もいます。 アルゴリズムによる推奨にとって最も重要なのはデータです。アプリはユーザーの行動データを使用してモデルを継続的に構築し、推奨コンテンツを通じてユーザーのドーパミン分泌を刺激します。

陸鋒は2台の携帯電話を使って「娯楽の繭」を破るだけでなく、さらに重要なことに、自分の個人データのセキュリティを保護し、アルゴリズムによる個人データの捕捉を根本から減らしたいと考えている。

2019年には、ある金融アプリがユーザーの写真を無断で保存し、ユーザーのプライバシーを盗んだ疑いがあると一部のネットユーザーが疑問を呈していた。この事件が広まった後、陸峰氏は警戒心を抱き、すぐに携帯電話を開いて携帯アプリの権限を確認した。当時、彼の観察によれば、ほとんどのアプリはデフォルトでユーザーの連絡先帳データを取得していた。

そうなると、自分の携帯電話番号情報だけでなく、携帯電話の中に入っている友人の携帯電話番号も流出し、資産状況や消費習慣などの情報と照合されれば、ビッグデータの標的になる恐れがある。

それ以来、Lu Feng さんは基本的に毎週、携帯電話のアプリのユーザー権限をチェックしており、主に連絡先、位置情報、音声、写真の権限をチェックしている。

アドレス帳の認証をオフにする必要があり、位置情報はマップ アプリでのみ使用できるようになります。また、一時的な必要性から認証のために開いたアプリがいくつかありますが、閉じるのを忘れていました。毎週定期的にチェックし、時間内に閉じます。

陸鋒氏は、これらのアプリの許可を無視し続けると、将来さまざまなレッテルを貼られ、インターネットの世界で隠れる場所がなくなるだろうと考えている。

現在、陸鋒さんは予備の携帯電話番号と仮のメールアドレスを使って、あまり使わないアプリを登録しているが、メッセージや写真、音声を読むことを拒否している。許可したくないという理由で、気に入っていたアプリもアンインストールした。

「いいねなし、コメントなし、フォローなし、ログインなし」、アプリが個人情報を過剰に収集するのを防ぐために、喬思は独自の4つの原則をまとめました。一方で、できるだけ情報を残さず、他方で、オンラインで受け取るフィードバックをできるだけ減らしました。WeChatを除いて、すべてのアプリからの通知を拒否しました。 「ほとんどの「通知」はタイムリーでも重要でもありません。」

喬思と同様に、多くのユーザーも神然に対し、自分の利用に影響がない限り、一部の情報閲覧アプリへの登録を拒否すると語った。

しかし、パーソナライズされたアルゴリズム推奨のコンテンツ環境が形成された初期段階であっても、形成された後であっても、最も重要なことは、個人がアルゴリズム推奨に対して意識的に警戒していることです。

ヤンヤンさんは、推奨アルゴリズムが自分に十分なコンテンツを推奨してくれることを期待していますが、それが自分に一定の悪影響を及ぼす可能性があることも十分承知しています。彼女の姿勢は「APP の使用においては警戒し、行動を抑制する」ことであり、彼女が自分に課す唯一のルールは、APP に費やす時間とお金をできるだけ少なくすることです。

[[402568]]

03 アルゴリズム推奨についてどう思いますか?

リン・フェンの2つのDouyinアカウントは現在、検索内容の違いにより全く異なるコンテンツを推奨しており、ある程度、仕事と個人の興味を区別するという目的を達成している。

喬思は、「通知」をオフにし、「いいね、コメント、フォロー、ログイン」をしないことで、さまざまなアプリを開くよう促すフックが減ることも発見した。また、意図的かつ積極的な検索を通じてアルゴリズムに提供されるコンテンツも減り、「エンターテインメントの繭」に陥る可能性が大幅に減少する。 Lu Feng 氏も同様に、Douyin などの純粋なエンターテイメント アプリをオフィス アプリや学習アプリから分離し、コミュニケーションとオフィス ツールに多くの時間を費やしています。

しかし、喬思と陸鋒は、意識的に「抵抗」しているにもかかわらず、継続的な「上方への滑り」動作が完全に消えたわけではないとも述べています。彼らは、ユーザーが現在のインターネット環境にいる限り、アルゴリズムの推奨による何らかの悪影響を多かれ少なかれ受けることになるだろうと認めています。

日本のQRコード集約型決済プラットフォームNETSTARSのCTOである陳斌氏は、「アルゴリズム推奨の適切な使用は、実際には科学倫理の問題である」と述べている。同氏は、データを使用してモデルを構築することで、多くのアプリがユーザー自身よりもユーザーの好みを「理解」する可能性があるとShenranに分析した。

このような指導の下では、人々はほとんど導かれ、形作られる商品になり得ます。利益を最大化するために、推奨アルゴリズムを通じて人間の抜け穴や弱点を利用する企業もあります。

陳斌氏が最も懸念しているのは、アルゴリズムによる推奨がますます広く深く利用されるようになることだ。将来的には、すべての人のラベルが透明で公開されるようになる可能性があり、ユーザーは理解される際にグレーゾーンがなくなり、プライバシーがまったくなくなるだろう。一部のアプリの不公平な利用規約については、一般の人にとってはそれを見抜くことさえ難しいでしょうし、ましてや「抗議」する方法など、さらに難しいでしょう。

もちろん、関係部門はユーザーの権利を侵害するアプリを継続的に調査し、処罰し、棚から撤去して修正するよう命じてきました。

技術の発展は常に立法に先行し、立法レベルを継続的に強化する必要があることは否定できない。

陳斌氏は言った。

同時に、ユーザーはアルゴリズムの推奨に直面したときに正しい考え方を持ち、客観的かつ独立して考えるべきだとも示唆した。

アルゴリズムが推奨を行う社会では、最も重要なのは、自立して考える能力を持つことです。物事には二つの側面があり、最も重要なことはそれにどう対処するかです。テクノロジーは人類に奉仕するものであり、人間もこのサービスを利用する際には警戒を怠ってはなりません。

陳斌氏は、インターネット上にはすでに多くの「自己防衛」手段が存在しており、ユーザーはそれを認識した後、積極的に探索する必要があると述べた。

情報過多の時代において、アルゴリズムによる推奨がなければ、ユーザーが高品質のコンテンツを効率的に見つけることは難しいかもしれません。しかし、ユーザーがアルゴリズムによる推奨に頼りすぎると、情報の繭に陥りがちです。しかし、今からでもこの問題を認識するのは遅くはありません。アルゴリズムに盲目的に従わないことが、「アルゴリズムの罠」から抜け出す第一歩です。

※インタビュー対象者の要請により、本記事では林鋒、喬思、陸鋒、楊洋は仮名で表記しています。