AppleとFacebookはなぜAIとフェイクニュースに関して異なる意見を持っているのでしょうか?

諺にもあるように、「聞いて信じる、見て信じる」です。しかし、AI技術の発展により、私たちが見聞きしたものはもはや真実ではなくなるかもしれません。

「ホットなニュースは手動で選別されるべきだと考えています」6月末、アップルのCEOティム・クック氏はサンフランシスコでこう語った。この発言が発表されるやいなや、シリコンバレーのテクノロジー界は騒然となったと言われている。

「ブルームズベリーのAIチームが参加することに同意したことをお知らせします」。1週間前、Facebookの広報担当者は喜びを語り、報道陣に「彼らがFacebookに加わることを楽しみにしており、歓迎します。一緒に何を作り上げることになるのか、今から待ちきれません」と語った。このニュースが報じられると、ザッカーバーグ氏のこのイギリスの新興AIテクノロジー企業を買収したいという願いは決まった。

ほぼ同時期に、AppleとFacebookはAIとフェイクニュースに関して非常に異なる見解を表明し、異なるアプローチも取った。最近、この問題に対する両大国の態度がなぜこれほど異なっているのでしょうか?

まず第一に、AI技術がフェイクニュースの発展を「引き起こしている」というのが現状です。

画像の場合、AI は「馬」を「シマウマ」に変換できます。音声の場合、AI は人の声をキャプチャして、プログラマーがその声で言いたい文章を綴ることができます。ビデオの場合、AI はプログラマーによって「入力」されたビデオを学習した後、ホットスポットと注目度に基づいて新しいニュース コンテンツを生成できます。

実際、普通のニュース読者が目の前のニュースが現実世界から来たものなのか、作り話の即興なのか、それともAI合成の結果なのか判断できないとき、「霧の中に花を見る」という詩が読者の気持ちを最もよく表現しているかもしれない。「どうか私に賢い目を貸してください。そうすれば、この混沌をはっきりとはっきりと見ることができます。」

ソーシャルネットワーキングの巨人であるFacebookは、この「賢い目」を最も熱望している。

今年3月17日、ニューヨークタイムズは、英国に拠点を置く企業ケンブリッジ・アナリティカが、データ分析を利用してターゲットユーザーに広告を配信し、政治分野で有権者の投票傾向をコントロールまたは誘導していたFacebookユーザーデータ5000万人分以上を漏洩したと報じた。

データ分析のためにユーザー情報を取得し、ユーザーの好みに合った方法でソーシャルネットワークに侵入し、ユーザーの心理的認知を変えるという目標を達成します。この手法は、インターネット分野におけるパーソナライズされた推奨機能では珍しいものではなく、かつてはビジネスにおける「効果的な」マーケティング手法の集合体として誰もが考えていたほどでした。

しかし、国や政治体制に重大な影響を及ぼす選挙運動にこの作戦を適用することは、政府機関や国民にとって受け入れがたい事実である。その結果、3月19日、Facebookの株価は4年ぶりの大幅な下落（6.77%下落）となり、時価総額は367億ドル減少した。

米連邦委員会と欧州連合はともに、フェイスブックのデータ漏洩に関する調査を求めている。もしこれが事実なら、Facebook の罰金は 2 兆ドルに達する可能性がある。この時点でFacebookの総時価総額は4,885億ドルでした。

火に火で対抗：FacebookはAIの「スマートアイ」を使ってフェイクニュースと戦いたい

ケンブリッジ・アナリティカに引きずり下ろされそうになったフェイスブックは、破滅が近いと思われた数か月の苦しい時期を過ごした。そして今、11月に2018年の米国大統領中間選挙が迫る中、フェイスブックは新たな大きな課題に直面している。次の選挙でフェイスブックのプラットフォーム上で再びフェイクニュースを流したとして非難されないよう、どうすればよいかだ。

今回、Facebook は AI の大ファンとして、偽造品対策に AI 技術を引き続き活用していく予定です。 AIを使って「火に火を付ける」つもりなのか、それとも人間の編集者が既存のソーシャルメディアで広く流布されているニュースの量とスピードに追いつくのが到底不可能だからなのかは不明だが、フェイスブックは6月4日、英国ロンドンに拠点を置くブルームズベリーAIを3000万ドル以下で買収することを提案した。

Bloomsbury AI は、コンピューターの自然言語処理機能を専門とするスタートアップ企業です。機能には、自然言語処理ツールの開発、テキスト ファイルの読み取り、テキスト コンテンツに関連する質問への回答、推論と統合の実行が含まれます。 Facebookは、プラットフォーム上のフェイクニュースやその他のコンテンツの問題に対処するために、ブルームズベリーAIチームが開発した「Cape」などのソフトウェアを使用する予定だ。

まず2016年8月まで遡ってみよう。ビッグデータと機械アルゴリズムが支配する人工知能を背景に、テクノロジー専制を唱えるフェイスブックが真っ先に矢面に立たされた。同社は主にプロのジャーナリストで構成された従来のニューヨーク契約編集チームを放棄し、話題のトピックの編集、推薦、ランキング付けを機械アルゴリズムに委ね、それを新たなニュースレビューチームでレビューした。

しかし、手動編集を中止してから3日目に、フェイスブックのプラットフォームに次のようなニュースが載った。「性差別問題でトランプ氏と議論したマギン・ケリー氏は、実は米民主党大統領候補ヒラリー・クリントン氏の秘密の支持者だったため、保守系フォックステレビ局から解雇された。」

このニュースは後に、模倣ニュースサイト「Ending The Fed」が発表したフェイクニュースであることが確認された。

しかし、このニュースがフェイスブックに取り上げられた後、マグイン・ケリーの知名度の高さと内容の機密性の高さから、このニュースはすぐにソーシャルメディア上で広く転送された。十分な参照と投稿があったため、このニュースは Facebook のアルゴリズムと人間によるレビュー チームのチェックを簡単に通過しました。

すべてのニュースの信憑性を確保したい場合、最も安全な方法は、プロの編集者に各ニュースのソースと内容の確認を依頼することです。

しかし、それに応じて増加するニュースの量を処理するために、より多くの人間の編集者を使用することは、プロのメディア企業に成長するための一歩のように思われましたが、それは当時のFacebookの計画には含まれていませんでした。フェイスブックのCEO、マーク・ザッカーバーグ氏は2016年のある質問に対して率直にこう述べた。「フェイスブックはテクノロジー企業であり、メディア企業ではない。」

その後、フェイクニュースの問題が再燃したことから、Facebookは2017年1月に「Facebook News Project」の設立を発表し、ユーザーがフェイクニュースにラベルを付ける機能を導入した。同時に、外部の報道機関と協力して、新しい製品の開発にも取り組んでいます。しかし、これらは一時的な解決策に過ぎず、根本的な解決策ではないようです。なぜなら、専門の報道機関以外の発行者が作成したニュースについては、一般のユーザーは、そのニュースが真実か虚偽かを判断し、ラベルを付けるのに十分な専門知識をまだ持っていないからです。

しかし、AIは本物と見間違うほどリアルなフェイクニュースを捏造する新技術を生み出す一方で、偽装を破る方法も提供してきた。例えば、テキストメッセージの内容を複数の信頼できる情報源と比較・検証する、ファイルの特殊なデジタル署名を確認して、ファイルが信頼できる組織からのものか、動画を最初に生成したデバイスからのものかを判断する、録画されたすべてのデータには、動画の録画時間、場所、録画デバイスなど、生成時のオリジナルデータが含まれている必要がある、写真の内容が撮影現場の時間と一致しているかどうか、「Google Earth」などのソフトウェアを使用して、写真や動画が撮影された場所の近くの自然環境の背景を確認し、証拠に記載されている内容と一致しているかどうかを確認する、などである。

Facebook の現在の AI によって生成されたフェイクニュースに対する戦略は、フェイクニュース対策として AI 技術を主な手段として使い、補助的な手段として手動によるレビューを行うことだということがわかります。

Apple: ホットなニュースはすべて手動で審査すべき

ニュースでは通常「量で勝つ」FacebookやGoogleとは異なり、常に「精緻なコンテンツ」路線を追求してきたAppleは、フェイクニュースの問題に対処する際には「質で勝つ」傾向が強い。

アップルのCEOティム・クック氏は6月末にサンフランシスコで行ったスピーチでシリコンバレーに騒動を引き起こしたが、本人は気にしていないようだ。クック氏は、人間による介入が増えることを期待するとともに、「私たちと違うやり方をする人たちを批判しているわけではない。アップルは常に管理基準を厳格に守ってきた。私たちは量よりも質を重視している」と強調した。

アップルは、米国中間選挙を控え、2016年の米国大統領選挙でフェイクニュースが深刻な問題となった状況を変えたいと考えている。

彼がこの発言をするわずか2日前の6月25日夜、アップルはニュースアプリ「Apple News」に2018年の中間選挙セクションを開設すると発表し、11月の中間選挙期間中、真実かつ信頼できるニュースと独占的に厳選されたハイライトを提供することをユーザーに約束した。

この機能では、Apple News チームの上級編集者が選んだ信頼できるニュースソース、分析レポート、解説記事が提供されると報じられています。同時に、Apple News は他のニュースソースを補完するニュースを書くプロのライターも雇用する予定です。

今回、テクノロジーに精通したAppleは「人工知能」に本格的に取り組む予定だ。

Google: 研修システムと報道機関およびジャーナリストとの連携強化

ただし、ユーザーのプライバシー問題に関しては、Google は現在 Facebook のようなすべての関係者から厳しく監視されているわけではありません。しかし、検索エンジン大手であり、ユーザーの日常的な検索の主な情報源の 1 つである Google は、慎重な姿勢も示しています。

3月にGoogleはGoogle News Initiativeの創設を発表し、今後3年間で3億ドルを投資して、正確なニュースを強調すること、誤報（特にニュース速報）と戦うこと、ビジネスの観点からニュースサイトが成長し続けるのを支援すること、ジャーナリストの仕事に役立つ新しいツールを作成することという3つの目標を達成することを約束した。

6月初旬、GoogleはインドのBooLead、DATALEADS、Internewsと提携し、ジャーナリストがフェイクニュースと戦うのを支援することを目的とした「Google News Initiative」トレーニングコミュニティを設立した。同コミュニティは今後1年間にわたり、英語とインドの他の6つの言語で8,000人のジャーナリストにファクトチェックのトレーニングを提供する予定。

「ジャーナリストがオンラインツールを使ってコミュニティと協力し、情報を検証すれば、偽情報の波と戦う信頼できるメディアの防壁を築くことができる」とグーグルニュースラボの責任者、アイリーン・ジェイ・リュー氏は語った。

技術的なエラー修正に関する Google の位置づけから、その考え方が Facebook とは少し異なることがわかります。検索エンジンとして、Google は主にインターネット上の情報をクロールします。したがって、ニュースの信憑性は、そのソース プラットフォーム上の情報の正確さに大きく依存します。

Google と元のニュース執筆者の間には直接の提携関係やメンバーシップ関係はありません。そのため、健全なニュース エコシステムを構築するプロセスにおいて、Google は主に独自のリソースやテクノロジーを使用してメディア業界がフェイク ニュースと戦うのを支援し、さらに独自のテクノロジーを使用してフェイク ニュースを特定しています。

【結論】

これらのテクノロジー大手の中で、おそらくFacebookとGoogleは、ニュースやコンテンツを主な事業の方向性にすることを考えたことがないだろう。しかし、コンテンツを重視し、それを新たな収益源として活用したいと考えているアップルにとって、ニュースの信憑性は主要戦略となるはずだ。現在、正確で真実かつパーソナライズされたニュースが、慎重に練られた事業の方向性となるでしょう。

3社のうち、アップルはニュースの正確性を確保するために最も慎重な道を選んだが、フェイスブックとグーグルはAI技術の活用に一部賭けている。

AIが生成したフェイクニュースと戦う責任は誰が負うべきなのか？「量が鍵」となる中で、フェイクニュースと戦えるのは誰なのか？こうした疑問は、海の向こうの中国にある多くのニュースコンテンツ配信プラットフォームも抱えている。

現時点では、偽造品対策を AI に完全に任せることには、ある程度のリスクがあるようです。なぜなら、他の画像認識や機械学習技術と同様に、AI を使用してフェイクニュースを検出することは原理的には実現可能ですが、複雑な意味分析、自然言語処理機能、およびデータトレーニングが依然として必要だからです。

Facebook がブルームズベリー AI チームを買収した後、米国中間選挙中にフェイクニュースの出現を防ぐために AI を使用できるかどうかは、今後見守る必要がある。