人間の編集者の仕事を奪ってきたAIアルゴリズムは勝利するのでしょうか？

AIが権力を握り、メディア業界では再び「スペアタイヤがレギュラー化する」ドラマが繰り広げられている。

マイクロソフトは5月末、ニュース記事の審査や企画に携わる編集者50人を解雇し、これまで人間の編集者と共同で作業してきたAI編集者に交代させると発表した。

その結果、MSNウェブサイトとMicrosoft Edgeブラウザ上でニュースホームページの保守を担当する英国報道協会の編集者約27人が、6月末に解雇されると告げられた。

マイクロソフトは、今回の人員削減は新型コロナウイルスのパンデミックによる報道機関の広告収入の減少とは直接関係がないと明言しているが、報道チームの人件費削減にAI技術が活用されていることは、すでに議論の余地のない事実だ。

なすすべもなく「打撃」を受けたニュース編集者たちにとって、かつてはさまざまなニュースや上映の提案をしてくれたAIアルゴリズムの推奨は、まさに「密かにナイフを研いでいる」ような狡猾なAIだったのだ。

報告書の中で、解雇されようとしていた編集者は、ウェブサイトが暴力的または不適切なコンテンツをユーザーに表示しないことを保証できるのは人間の編集者だけであるため、人間の労働をAIで完全に置き換えることは危険であると強調した。これは確かに AI にとって問題です。なぜなら、AI は人間の本性に沿ったコンテンツを推奨することには優れているものの、潜在的な社会的倫理的リスクを特定できないからです。

もちろん、マイクロソフトが 1995 年に MSN ニュース サービスを開始してから 25 年が経ちました。現在、世界中で少なくとも 800 人の編集者がニュースの審査と推奨に携わっています。マイクロソフトのニュースチームは今後も人間の編集者とAI編集者が協力して作業を続けることになるが、AIが人間の編集者に取って代わる流れは大幅に加速するかもしれない。

一般人の視点から見ると、私たちもさまざまなニュースや動画プラットフォームのアルゴリズムによる推奨に支配されています。最も顕著な経験は、私たちが「止められない」コンテンツに費やす時間がどんどん増えていることです。

AI は最終的に人間の編集者に取って代わる戦いに勝つのでしょうか? AI アルゴリズムによる推奨の台頭と論争から、AI アルゴリズムと人間の編集者による推奨の考えられる結果を探ります。

情報配信：「情報を求める人」から「人を求める情報」へ

「太陽の下には新しいものは何もない。」アルゴリズムによる推奨は、モバイル インターネット コンテンツ アプリケーションの爆発的な増加により近年登場したばかりですが、本質的には人間にとっての情報配信の新しい形式にすぎず、情報配信に対する需要は古代から存在していました。

『サピエンス全史』の中で、ハラリ氏はホモ・サピエンスが他の種に打ち勝った理由について、私たちが「うわさ話」と「おしゃべり」が特に得意であるという新たな「仮説」を提唱した。 「うわさ話」は、コミュニティ全体が感情的な絆を築き、団結して前進したり後退したりするのに役立ちます。「おしゃべり」は経験を伝えるのに役立ちます。外出する人は村人に危険がある場所を伝え、年老いたハンターは若いハンターに獲物の捕まえ方を教えます。これは最も自然な社会的情報配信であり、人間同士の協力の効率と文明の継続を大幅に向上させます。

以来、口承で伝えられる叙事詩、出来事を記録する結び紐、甲骨文字に刻まれた象徴的な記録、そして後世の記事や古典を経て、印刷技術の継続的な向上により近代文明の繁栄がもたらされ、過去約200年の間に新聞、書籍出版、ラジオ、テレビなどの新しい情報流通メディアが誕生し、現代社会の情報流通の基本地図が形成されてきました。

インターネットの出現により、情報配信の時間と空間の境界が打ち破られ、情報が常にオンラインになり、世界中に同期して送信されるようになりました。しかし、従来のインターネットにおける情報伝達は、依然として物理的な世界のパラダイムを継続しています。たとえば、インターネットの初期に登場したポータル Web サイトや検索エンジンは、図書館のカタログ分類や百科事典の項目索引を借用していました。

ニュースやその他の情報の配信は権威ある中央集権的な組織による収集と報告に依存しており、一方、ユーザーによる情報や知識の獲得は能動的な閲覧とスクリーニングに依存しています。

情報の爆発的な増加と人々の情報消費の細分化が進むにつれ、人々が情報を見つける方法は新たな課題に直面しています。アルゴリズムによる推奨とそれに対応するコンテンツ配信プラットフォームの出現により、機械アルゴリズムを介した人間の推奨を通じて「情報を見つける人」という新しいモデルが開拓されました。

ニコラス・ネグロポンテが1995年の著書『Being Digital』で予言した「私の日刊新聞」というアイデアが、今や現実のものとなった。情報配信は、対象ユーザーの個別ニーズを満たす方向に発展しています。

ほぼ同時期に、米国ミネソタ大学のチームが初の自動推奨システム GroupLens を開発し、協調フィルタリング推奨アルゴリズムの初期の提唱者となりました。それ以来、アルゴリズムによる推奨システムは、Amazon の電子商取引プラットフォームや Netflix のビデオストリーミングサービスで利用されるようになりました。

2016 年はニュース アルゴリズム推奨が台頭した最初の年と言えるでしょう。今年、YouTube はコンテンツ推奨システムにディープニューラルネットワークを適用しました。今年、わが国のニュース・情報配信市場において、アルゴリズムによってプッシュされるコンテンツが初めて50％を超えました。

情報アルゴリズム推奨を初めて導入したToutiaoが、ついにBATがサポートする4大ポータルとメディアプラットフォームを突破し、1日あたりアクティブユーザー数6,000万人を達成したのもこの年だった。

しかし、アルゴリズムによる推奨自体はそれ以来物議を醸している。人民網は2017年9月、3本の社説で今日頭条などのニュースアプリの「アルゴリズム推奨」を批判した。当然ながら、社説はまず、アルゴリズムによる推奨が時代の流れに合致し、人々の個別化・多様化する情報取得ニーズを満たしていると断言したが、同時に次のような問題点も具体的に指摘した。

アルゴリズムによる推奨は、低品質のコンテンツの増殖を容認することになります。一部の推奨アルゴリズムは、一般大衆の好奇心を満たすだけであり、最終的には低品質のコンテンツを繰り返しプッシュすることになり、最終的には「悪貨が良貨を駆逐する」ことにつながり、従来のメディアからの高品質で包括的な情報が一般大衆に届くことが不可能になります。

推奨アルゴリズムにおけるいわゆる「パーソナライズされた」推奨は、関連性は高いが内容が単一である一部の情報を機械的に推奨するだけであり、なじみのない情報や受け入れられない情報を除外して「情報の繭」を作り出すこともあります。

アルゴリズムによる推奨の情報取得は、多数の著作権問題を引き起こす可能性があるだけでなく、「イノベーションの反対」に向かう可能性さえあります。つまり、知的な推奨はキッチュで平凡なものとなり、独立した思考と深い観察を欠いた表面的な内容が多くなり、社会の革新的な発展を損なうことになります。

人民日報に対する批判は、多くの伝統的メディアや多くのエリート層の見解も代表しており、これらの現象は私たちの大多数の直感的な印象と一致しています。しかし、同意する前に、アルゴリズムによる推奨の基本的な方法と発展をさらに理解し、なぜ人々がアルゴリズムによってそれほど簡単に「飼いならされる」のかを理解する必要があります。アルゴリズムによる推奨は、どのようにして自身の限界を打ち破り、進化し続けることができるのでしょうか?

アルゴリズムによる推奨: 人間的、あまりに人間的

情報流通の本質は、人と情報を効果的に結びつけることです。アルゴリズム推奨の本質は、機械アルゴリズムを使用して大規模な自動情報配信を実現し、情報が自動的に人々を見つけられるようにすることです。

したがって、アルゴリズムによる推奨では、情報を理解すること、人々を理解すること、そして人々がいつどこでこの情報を必要とするかを理解することという 3 つの問題を解決する必要があります。しかし、結局のところ、アルゴリズムによる推奨の核心は、人々を理解すること、つまり、人々の使用習慣、興味、趣味を理解し、アルゴリズムを使用して、ユーザーが興味を持つ可能性のある情報やトピックを予測し、重み付けされた推奨を行うことです。

ニュース情報の主な推奨アルゴリズムは、いくつかの数学的アルゴリズムから生まれています。主要なニュースおよび情報集約アプリケーションでは、主に次のアルゴリズムが使用されています。

1. コンテンツの推奨。これは情報推奨に最もよく使用されるアルゴリズムです。アルゴリズム システムはテキスト コンテンツにラベルを設定します。ユーザーが関連コンテンツをクリック、閲覧、いいね、コメント、共有などすると、システムは対応する興味タグでユーザーにタグを付けます。この方法では、関連するタグが付いたより多くのテキストをユーザー タグと一致させることができます。たとえば、「ブンデスリーガ」のコンテンツを視聴したユーザーには、「ブンデスリーガ」に関する詳細情報のプッシュが届きます。

ユーザーの興味タグ機能を事前に取得できない場合、コンテンツ推奨はコールドスタート問題に簡単に遭遇します。したがって、コンテンツの推奨以外にも他の推奨方法が必要になります。

2. 協調フィルタリングの推奨。これは、推奨システムで使用される最も初期かつ最も成功した技術の 1 つです。これは、「類は友を呼ぶ」という常識的な考え方を採用しており、つまり、ユーザーの友人や類似した特性を持つ他のユーザーを見つけて、そのユーザーが興味を持っているコンテンツをユーザーに推奨します。

協調フィルタリング推奨では、経験共有の方法を採用しており、不正確なコンテンツ分析やコンテンツ推奨における過度の単一性の問題を回避し、ユーザーが潜在的な興味嗜好のコンテンツを発見するのに役立ちます。

3. 人気のおすすめ商品。人気のおすすめは、従来のメディアの考え方から生まれたもので、主に現在注目されているニュースやトピックに基づいたコンテンツのおすすめです。従来のメディアのニュース編集者による手動の選別とは異なり、ニュース集約プラットフォームの自動アルゴリズム推奨は、データ統計を通じて、一定期間内にクリック数と注目度が最も高いニュースをユーザーにプッシュすることです。

さらに、ルール、有用性、知識、およびさまざまな組み合わせに基づいた一連の推奨アルゴリズムがあり、ユーザー向けにパーソナライズされた推奨を実現します。

言い換えれば、アルゴリズムによる推奨を使用するコンテンツ プラットフォームにとっては、情報不安や情報渇望の状態にあるモバイル インターネット ユーザーに対処するための「秘密兵器」を持つことに等しいのです。たとえあなたが初心者ユーザーで、プラットフォームがあなたについてあまり知らない場合でも、興味タグをカスタマイズしたり、さまざまな種類のコンテンツプッシュやABテストなどを試したりすることで、いわゆる「コールドスタート」をすぐに達成し、あなたの本当の趣味を見つけることができます。

しかし、根本的に言えば、Toutiao のようなコンテンツ プラットフォームには基本的な「原罪」があり、それは、ユーザーが基本的な情報を取得してすぐに離脱するのではなく、できるだけ多くのユーザーの時間と注意を引き付けることがプラットフォームの目的であるということです。

ニュース放送は定刻で終了しますが、これらのコンテンツプラットフォームはいつでも更新でき、無制限に供給できます。トラフィックの獲得が運営の要です。したがって、プラットフォームの推奨アルゴリズムは、ユーザーを満足させ、ユーザーの人間的な弱点を利用して情報を提供するために最善を尽くします。

これは、コンテンツ プラットフォームが頻繁に批判される問題でもあります。つまり、クリックベイトの蔓延、盗作の蔓延、そして人間の弱点をよく理解した下品なコンテンツの絶え間ない流れです。好奇心から関連コンテンツを閲覧すると、アルゴリズムはより関連性の高い情報を推奨するために最善を尽くします。これは、いわゆる「情報繭」の根本原因でもあります。アルゴリズムは人間の本性を甘やかし、人間の本性は認知を固め、ユーザーは慣れ親しんだ情報サークルに閉じ込められてしまいます。これは、多くの人がコンテンツ プラットフォームを嫌っているものの、それをやめられない深い理由でもあります。

しかし、コンテンツ プラットフォーム上のこれらの問題について、アルゴリズムによる推奨自体を責める必要はないことを指摘しておく必要があります。その理由は、「人がナイフで人を殺したとしても、責められるのはナイフではなく人である」という単純な理由です。実際、アルゴリズム推奨自体の進化により、ユーザーの情報「偏り」行動や「情報繭」の問題を排除することができます。

アルゴリズム推奨の自己啓発：人間と機械のコラボレーションが正しい方法

アルゴリズムによる推奨に対する批判がどれほど厳しくても、アルゴリズムによる推奨の人気と普及は議論の余地のない事実です。アルゴリズムによる推奨の真の進歩は、情報の配布方法を、集中型の「編集者によるレビュー」による配布方法から、ユーザーに合わせた機械によるインテリジェントな推奨に基づく「アルゴリズムによるレビュー」による配布方法へと変更することにあります。

この配信方法は、情報配信の効率を大幅に向上させました。もちろん、従来の権威ある専門メディアの配信「アルゴリズム」の失敗と、配信コンテンツの重みの低下にもつながりました。しかし、現在の視点から見ると、伝統的な権威あるメディアは、当初のような否定的で抑圧的な姿勢をとらず、むしろ前向きな姿勢で新しいメディアプラットフォームを受け入れ、アルゴリズム推奨トラフィックの競争に参加し、そのアイデンティティと専門的なコンテンツによって、新しいメディア時代にユーザーの認知を取り戻しつつあります。

アルゴリズムによる推奨が引き起こす「悪貨が良貨を駆逐する」という問題については、これは確かに以前のアルゴリズムによる推奨の弱点でした。初期の機械学習アルゴリズムや推奨アルゴリズムの中には、記事の内容がクリックベイト、フェイクニュース、盗作、下品さ、ポルノなどを含んでいるかどうかを識別できないものもありました。実際、こうした低品質のコンテンツは、プラットフォームが排除しようとしている隠れた危険なのです。

結局のところ、プラットフォームの発展はこれらのコンテンツだけで支えられるものではなく、むしろ多くの著作権問題、苦情、否定的な世論を引き起こすことになるでしょう。現在のプラットフォームでは、高リスクコンテンツ識別モデル技術の広範な使用や大規模な手動レビューと検証など、コンテンツセキュリティメカニズムの構築に向けた取り組みを強化しています。昨年、アルゴリズムによる推奨に同様にこだわるFacebookでさえ、フェイクニュースの蔓延を受けて、人間の編集者によるコンテンツのレビューを開始した。

「情報繭」については、北京師範大学の于国明教授が最近の論文「アルゴリズム推奨は必然的に『情報繭』効果をもたらすか？」で指摘したように、アルゴリズム推奨は「情報繭」の形成に必要な条件ではない。アルゴリズム推奨は「情報繭」が生成された後、相乗的な役割を果たさず、むしろ一定の解消の役割を果たす。

簡単に言えば、「情報繭」の存在はアルゴリズムによる推奨の出現によるものではなく、伝統社会における単一情報、厳格なメディア統制、個人情報の「ピックアップ」傾向など、すべてが「情報繭」の原因です。対照的に、アルゴリズム推奨の時代では、個々のユーザーは従来のメディアチャネル、ソーシャルメディアチャネルなどから複数の情報源を持っているため、この「情報繭」生成メカニズムを作成することはさらに困難になっています。同時に、アルゴリズム推奨技術の継続的な反復により、ユーザーの潜在的な情報ニーズも絶えず探求され、充実しています。

最終的には、アルゴリズムによる推奨と手動による編集による推奨のトレードオフにおいて、私たちは実際に「人間的合理性」と「技術的合理性」を備えた信頼できるアルゴリズムによる推奨システムを提唱すべきです。明らかに、アルゴリズムは依然としてユーザーに「没入型」の情報読み取り体験を提供する可能性が高く、アルゴリズムと人々の相互作用は本質的に「アルゴリズムの背後にある設計者の価値論理またはイデオロギーとユーザーとの相互作用」です。そのためには、アルゴリズム設計者が「情報繭」の潜在的な危害を認識した後、信頼できるアルゴリズム推奨システムを確立するために、より最適化されたソリューションを積極的に模索する必要があります。

最も重要なことは、アルゴリズムによる推奨に加えて、人間と機械のコラボレーションを主張することです。つまり、アルゴリズムによる推奨に基づいて、ジャーナリズムの専門性の概念の提供、より多くの公共問題の設定、より重み付けされた肯定的および否定的な視点情報の提供、よりランダムな視点情報の提供など、人間の編集者の役割を重視することです。

マイクロソフトのニュース部門のレイオフ問題に戻ると、以前のモデルでは AI アルゴリズムが人間のニュース編集者を支援していましたが、将来的には人間のニュース編集者が AI アルゴリズムを支援してコンテンツ推奨の品質を最適化する可能性が高くなります。当然ながら、AI アルゴリズムによる推奨は人間の編集者の作業を完全に置き換えることはできません。プラットフォームは、自らの評判やコンテンツの選択をすべて AI アルゴリズムに委ねることに不安を感じるでしょう。

技術の発明と応用は、人類の発展の歴史において常に促進剤や触媒としての役割しか果たしてきませんでした。

AIのアルゴリズムによる推奨に関しては、従来のメディアの存続基盤を破壊することも、人間を近視眼的で利己的な愚か者に完全に変えることもないだろう。

実際、よく観察してみると、周りの高齢者が一日中携帯電話を見つめ、街で起きているさまざまな出来事に注意を払い、政府が出すさまざまな政策を気にし、セルフメディアのさまざまな奇妙で血なまぐさい話を気にし始めていることに気づいたら、それは彼らの生活と精神にとって解放なのかもしれない。少なくとも視野が広がり、家庭内の些細なことに集中する必要がなくなる。

AIのおかげでキャリアを築いたメディア関係者は、悲観する必要はない。夜が静かになったら、止まることなく創作を始めましょう。これらのコンテンツ プラットフォームは、より明るい未来を約束してくれるかもしれません。