Facebook の応用機械学習チームを訪問: 研究と応用の間に橋を架けるにはどうすればよいでしょうか?

Facebook では、応用機械学習チームがソーシャル ネットワークの視覚、会話、理解を支援しており、フェイク ニュースの根絶にも貢献する可能性があります。

[[185769]]

Facebook 応用機械学習チーム、エンジニアリング開発リーダー、ホアキン・カンデラ氏

ホアキン・キニョネロ・カンデラ氏は、フェイスブックの応用機械学習チームを率いて、世界最大のソーシャルネットワークの人工知能への全面的な取り組みを推進するよう依頼されたとき、躊躇した。

それは、自らを「機械学習（ML）の人」と呼ぶスペイン生まれの科学者が、人工知能がFacebookにどう役立つか気づいていないからではない。実際、2012年に同社に入社して以来、彼は広告業務の変革を監督し、機械学習の手法を使用してスポンサー投稿の関連性と効果を高めてきました。注目すべきは、チームのエンジニアの一部に AI のトレーニングを受けたことがないにもかかわらず、エンジニアたちに AI を使ってもらうことでこれを実現し、広告部門の機械学習スキルを充実させることができたことです。しかし、彼は、広告を測定する明確な数字よりもはるかに漠然とした価値観に基づいて何十億もの人々がつながっているFacebookのより広い領域で、同じ魔法が機能するかどうか確信が持てなかった。 「この昇進は価値があると確信する必要があった」と彼は語った。

そのような疑問にもかかわらず、キャンデラはその役職を引き受けた。そして、2年も経たない今、彼の躊躇は不合理に思える。

それはどれほどばかげているでしょうか?先月、キャンデラ氏はニューヨークでの会議でエンジニアの聴衆を前に講演した。 「私は非常に明確な声明を出します」と彼は警告した。「AIがなければ、Facebookは今日存在していなかったでしょう。毎日FacebookやInstagram、Messengerを使うとき、気づかないかもしれませんが、あなたの体験はAIによって動かされています。」

昨年11月、私はメンロパークにあるフェイスブックの巨大な本社を訪れ、キャンデラ氏と彼のチームのメンバー数名にインタビューし、人工知能がいかにして突如フェイスブックの酸素となったのかを目の当たりにした。これまで、Facebookの人工知能分野における人々の注目は、主に同社を率いるFacebook人工知能研究チーム（FAIR/Facebook人工知能研究）に集中しており、チームのリーダーは有名なニューラルネットワークの専門家であるヤン・ルカン氏です。 FAIR と、Google、Microsoft、Baidu、Amazon、Apple (秘密主義の企業だが、現在では研究者に論文の発表を許可している) などの同等の組織は、人工知能分野のエリート卒業生にとって最も人気のある就職先である。これらの機関は、脳にヒントを得たデジタルニューラルネットワークの分野で画期的な成果を生み出す先駆者であり、コンピューターに見る、聞く、さらには話す能力を与えるという、コンピューターサイエンスの最近の発展の主な原動力となっている。 Candela の応用機械学習チーム (AML) の任務は、FAIR やその他の最先端の研究機関の研究成果を Facebook の実際の製品に統合することです。そしておそらくもっと重要なのは、同社のエンジニア全員が機械学習を仕事に統合できるように支援することです。

Facebook は AI なしでは生き残れないため、すべてのエンジニアが AI を使って開発できる必要があります。

私の訪問は、米国大統領選挙の2日後、フェイスブックのマーク・ザッカーバーグCEOが、フェイスブック上での偽ニュースの流布がドナルド・トランプ氏の選挙勝利を助けたことは「狂気」だと述べた翌日に行われた。これを言うのは、Facebook がニュースフィードでの誤情報の拡散に加担していると主張するのは、拡大する火災にタンクローリーを突っ込むようなものだと言っているようなものだ。こうした論争の多くはキャンデラ氏の専門分野外だが、フェイスブックがフェイクニュースに対して最終的にどう対応するかは、同氏のチームが携わる機械学習の取り組みにかかっていると彼は認識している。

しかし、インタビュー中に隣に座っていた広報担当者のプレッシャーを少しでも和らげるために、キャンデラは別のものを見せてくれました。それは、チームの仕事を紹介するプレゼンテーションでした。私を驚かせたのは、これが些細なガジェットのように見えたことです。これは、 写真やビデオストリームを、独特のスタイルを持つ画家による傑作のスタイルで再描画するのです。実際、これはSnapchatで見られるデジタルエフェクトを思い出させますし、写真をピカソのキュビズム風に変えるというアイデアは以前にも行われていました。

「この技術の背後にあるのはニューラル スタイル トランスファーと呼ばれるものです」と彼は説明した。「大規模なニューラル ネットワークをトレーニングして、特定のスタイルを使用して元の写真を再記述します」。彼は携帯電話を取り出して写真を撮影した。一度タップしてスワイプすると、ゴッホの「星月夜」に変身します。さらに驚くべきことに、再生中のビデオ ストリームにスタイルを適用できます。しかし、本当の違いは私の目には見えないものだと彼は言った。Facebook は携帯電話で動作するようにニューラル ネットワークを構築したのだ。

これもまた新しいことではない。Apple は以前から、iPhone でニューラル コンピューティングを実行していると自慢していた。しかし、Facebook にとって、この作業ははるかに困難です。ハードウェアを生産していないからです。キャンデラ氏は、チームの作業の積み重ねのおかげでこの小さなアプリを実現できたと語った。1つのプロジェクトが他のプロジェクトを容易にし、それらが一緒になって将来のエンジニアがそれほど多くのトレーニングを受けずに同様の製品を構築できるようにし、このようなものを迅速に開発できるのだ。 「開発を開始してから公開テストを実施するまでに 8 週間かかりました。これはかなりすごいことです」と彼は語った。

[[185770]]

(左から右へ) AML エンジニアリング ディレクターの Joaquin Candela、応用コンピュータ ビジョン チーム リーダーの Manohar Paluri、テクニカル プロダクト マネージャーの Rita Aquino、エンジニアリング マネージャーの Rajen Subba

同氏は、このような課題を達成するためのもう一つの秘訣はコラボレーションであり、これはフェイスブックの企業文化の基礎でもあると語った。この場合、Facebook 内のチーム間のアクセスが容易だったため、データセンターでのグラフィックのレンダリングから、その作業をモバイル フォンに実装する作業へと移行することができました。特に、モバイル チームは携帯電話のハードウェアに精通していたためです。この利点は、友人や愛する人の写真を「叫び」の女性のようなスタイルの映画に変えることができるということだけではありません。これは、Facebook のあらゆる面をより強化するための一歩です。短期的には、これにより言語の解析とテキストの理解からの応答が速くなります。長期的には、聞いたり見たりしたものをリアルタイムで分析できるようになるかもしれません。 「数秒かそれ以下の話です」と彼は言う。「リアルタイムでなければなりません。私たちはソーシャル ネットワークであり、少しのコンテンツに基づいて人々のフィードバックを予測するのであれば、システムは即座に反応する必要がありますよね?」

キャンデラは、ゴッホの絵画風に変身させたセルフィーをちらりと見ながら、誇らしげな様子が伝わってくる。 「携帯電話で複雑なニューラルネットワークを実行することは、AIをすべての人の手に委ねることを意味します。これは偶然ではなく、FacebookでAIを民主化する私たちの取り組みの一環です」と彼は語った。

「長い旅だった」と彼は付け加えた。

カンデラさんはスペインで生まれたが、3歳のときに家族がモロッコに移住したため、現地のフランスの学校に通った。彼は理科と文科の両方で優秀な成績を収めていたが、最も難しい科目である通信工学を勉強したいと考え、マドリードの大学に進学することを決めた。通信工学は、アンテナや増幅器などの物理的な物体に関する知識だけでなく、データを読み取る能力も要求される「クールな」科目である。彼は適応システムを解体する教授の魔法にかかっていた。

キャンデラ氏は、スマートフィルターを使用してローミング中の携帯電話の信号を改善するシステムを開発しました。同氏はこれを「ベビーニューラルネットワーク」と呼んでいます。 2000 年に彼はデンマークで 1 学期を過ごし、そこでの研究を通じて、単なるコードの勉強ではなく、トレーニング アルゴリズムにさらに興味を持つようになりました。そこで彼は、トロントで伝説の人物であるジェフ・ヒントン（機械学習の分野で「クールな子供」として知られる）と一緒に働いていた機械学習の教授、カール・ラスムッセンと出会った。卒業が近づくにつれ、彼はプロクター・アンド・ギャンブルの経営研修プログラムに参加する予定でしたが、ラスムセンから博士号取得への道に進むよう誘われ、機械学習を選択しました。

2007年、彼はイギリスのケンブリッジにあるマイクロソフト研究所に勤務しました。仕事を始めて間もなく、彼は社内の競争について知りました。マイクロソフトは Bing をリリースしようとしていましたが、検索広告の重要な要素、つまりユーザーが広告をクリックするタイミングを正確に予測する機能を改善する必要がありました。会社は社内コンテストを始めることにした。同社は各チームのソリューションが採用する価値があるかどうかをテストし、優勝チームのメンバーにはハワイへの無料旅行が贈られる。 19チームが競い合い、キャンデラのチームが勝利を収めました。彼は無料で旅行をプレゼントされたが、騙されたと感じた。マイクロソフトからのより大きな報酬は、テストに合格した後に自分の作品が無事にリリースされることだと考えていたのだ。

キャンデラの次の一連の行動は彼の決意を示した。会社にチャンスを与えてもらうために、彼は「クレイジーな探検」を始めた。彼は50回以上の社内会議を開き、自分のアルゴリズムの優位性を示すシミュレーターを作った。また、決定権を持つ副社長をストーカーし、ビュッフェを待っている間は彼の隣に立ったり、わざと彼と一緒にトイレを使ったり、小便器で自分のシステムを宣伝したりした。さらに、副社長のオフィスの隣の使われていないスペースに移動した後、何の前触れもなく副社長のオフィスに現れ、「私のアルゴリズムの方が優れているし、私の言葉は真実だ」と主張した。

彼はビュッフェの列に並んでいる男性の隣に立ち、トイレに行くタイミングを合わせ、隣の小便器から自分のシステムを勧めた。そして管理部門近くの使われていないスペースに隠れ、突然管理部門のオフィスに現れて「私がお金を賭ける限り、私のアルゴリズムの方が優れている」と主張した。

2009 年、Candela のアルゴリズムは Bing とともにリリースされました。

2012年の初め、キャンデラはFacebookで働く友人を訪ね、メンロパークのキャンパスで金曜日の一日を過ごした。同社の従業員は検査結果の検査権を申請する必要はなく、いつでも検査できると知り、彼は驚いた。それで3日後、彼はFacebookで面接を受け、その週末に採用のオファーを受けた。

キャンデラ氏はフェイスブックの広告チームに加わり、ユーザーに対してより関連性の高い広告を表示できるチームを率いる任務を負った。当時のシステムは機械学習を使用していたが、「私たちが使用したモデルは高度なものではなく、非常に単純なものでした」と彼は語った。

[[185771]]

Facebook ビル 20 内の様子。

フェイスブックに同時期に入社したもう一人のエンジニア（新入社員向け「コードブートキャンプ」に一緒に参加）はフセイン・メハンナ氏で、彼もまた同社のシステムに人工知能を組み込む取り組みが進んでいないことに驚いていた。メハンナ氏は次のように語った。「フェイスブックに入社する前、製品の質を見て、すべての技術が成熟していると思っていましたが、明らかにそうではありませんでした。仕事を始めて数週間以内に、私はホアキン氏にこう言いました。『フェイスブックに本当に欠けているのは、最先端の適切な機械学習プラットフォームです。機械はありますが、データからできるだけ多くのことを学習できるようにする適切なソフトウェアが欠けています。』」 （メハンナ氏は現在、Facebook のコア機械学習ディレクターであり、インタビューを受けた他のエンジニアと同様に Microsoft のベテランでもあります。これは偶然でしょうか？）

メハンナ氏が言う「機械学習プラットフォーム」とは、脳の働きに大まかに基づいたモデルを使用することを意味している。これは、人工知能を、前世紀の「考える機械」への初期の期待が薄れた不毛の「冬」から、今日の「開花」へと変革させたパラダイムである。広告業界では、Facebook は他社にはできないことを自社のシステムで実現する必要がありました。それは、特定の広告をクリックする人の数を瞬時に (しかも正確に!) 予測することです。そこでキャンデラ氏と彼のチームは、機械学習プログラムに基づいた新しいシステムの作成に着手しました。チームは、部門で働くすべてのエンジニアがアクセスできるプラットフォームとしてシステムを構築したかったので、モデリングとトレーニングを一般化および複製できるような方法でシステムを構築しました。

機械学習システムを構築する上で重要な要素は、高品質のデータにアクセスできることです。データが多ければ多いほど良いです。これは Facebook の最大の資産の 1 つです。毎日 10 億人を超えるユーザーが製品とやり取りしている場合、トレーニング セットとして膨大な量のデータを収集でき、テストを開始すると、ユーザー行動の例が無限に得られます。そのため、広告チームは、数週間ごとに新しいモデルをリリースするのではなく、毎週複数のモデルを出荷できるようになりました。さらに、これは他の人が社内で独自の製品を構築するために使用できるプラットフォームになるため、Candela は複数のチームで作業を行うようにしました。それは体系的な3段階のプロセスです。 「まずパフォーマンスに焦点を当て、次に実用性、そして最後にコミュニティの構築に焦点を当てるべきだ」と彼は語った。

Candela の広告チームは、Facebook で機械学習がいかに変革をもたらすかを実証しました。 「クリック、いいね、リツイートなどの予測に驚くほど成功しました」と彼は語った。当然のことながら、このアプローチをより大規模なサービスに拡張するというアイデアが生まれました。実際、FAIR の LeCun 氏はすでに、製品に AI を組み込むことに専念するチームを支援しており、具体的には、機械学習を社内でより広く利用できるようにすることを目指しています。 「私はこれに真剣に取り組んでいます。なぜなら、非常に才能があり、製品に直接焦点を当てるのではなく、複数の製品で使用できる基礎技術に焦点を当てたエンジニアのグループが必要だからです」とルカン氏は語った。

2015 年 10 月、キャンデラ氏は AML チームの新責任者に就任しました (しばらくの間、慎重を期して、両者のバランスを取るために広告部門の役職も維持しました)。彼はニューヨーク、パリ、メンロパークの FAIR と密接な関係を維持しており、そこでは研究者が AML エンジニアと対等な立場で働いています。

このコラボレーションがどのように機能するかを示す開発中の製品の 1 つは、Facebook に投稿された写真の音声による説明を提供することです。シーン内のオブジェクトを認識したり、写真が屋外で撮影されたか屋内で撮影されたかについて基本的な仮定を行うようにシステムをトレーニングすることは、ここ数年で人工知能の標準的な手法となっている。しかし最近、FAIR の科学者たちはニューラル ネットワークをトレーニングして、画像内のほぼすべての意味のあるオブジェクトを認識し、その位置と他のオブジェクトとの関係から写真の内容を判断できるようになりました。つまり、姿勢を分析して、写真に人が抱き合っているのか、馬に乗っているのかを判断できるのです。 「私たちはこれをAMLの人たちに見せました」とルカン氏は言う。「彼らはしばらく考えた後、『これは場合によっては非常に役立つかもしれない』と言いました」。その結果、視覚障害者が指を置くと携帯電話が写真の説明を読み上げる機能のプロトタイプが生まれた。

「私たちは常にコミュニケーションをとっています」とキャンデラ氏は兄弟チーム（FAIR）について語った。 「より大きな視点で見ると、科学理論を実際のプロジェクトに変えるには『接着剤』が必要であり、私たちはその『接着剤』なのです。」

Candela は、AI のアプリケーションを視覚、言語、音声、カメラ効果の 4 つの領域に分類しています。これらすべてが「コンテンツ理解エンジン」に役立つだろうと彼は語った。 Facebook は、コンテンツを理解する方法を習得することで、コメントの暗黙の意図を検出し、話し言葉からニュアンスを抽出し、ビデオに一瞬映る友人の顔を認識し、ユーザーの表情を理解して仮想現実マップのアイコン上にプロットしようとします。

「私たちがやっているのは人工知能の一般化です」とキャンデラ氏は語った。 「理解して分析する必要のあるコンテンツの量が爆発的に増えたため、そのコンテンツを識別できるラベルを生成する能力が追いつかなくなってしまいました。」解決策は、1 つのプロジェクトの作業を他のチームの関連プロジェクトで使用できるように、汎用システムを開発することでした。 「あるタスクから他のタスクに知識を転送できるアルゴリズムを開発できたら、本当に素晴らしいことですよね？」とキャンデラ氏は語った。

この知識移転は、Facebook が製品を生産するスピードにとって非常に重要です。たとえば、Instagram を見てみましょう。この写真サービス製品の発売当初から、ユーザーの写真は新しい順に表示されていました。しかし、2016 年の初めに、Instagram は関連性 sr'fa を使用して写真をランク付けすることを決定しました。幸いなことに、AML はすでにニュースフィードなどの製品で機械学習を使用しているため、「Instagram はゼロから始める必要がなかった」とキャンデラ氏は語った。 「Instagram には、さまざまなソートアルゴリズムに取り組んでいる他の数十のチームと連携した専任の機械学習エンジニアが 1 人か 2 人いました。こうすることで、ワークフローを再現し、質問があれば直接コミュニケーションを取ることができました。」結局、Instagram はこの大規模な製品変更をわずか数か月で完了しました。

AML チームは、ニューラル ネットワークのパワーを他のチームと組み合わせて「Facebook 規模」の機能を生み出すユースケースに常に備えています。 「私たちは、ユーザーを満足させるために、機械学習を使ってコア機能を強化しています」と、AML の認知チームの主任エンジニア、トマー・レイヴァンド氏は語る。 （彼は…やあやあ…マイクロソフト出身です。）

[[185772]]

Facebook テクニカルプロダクトマネージャー、リタ・アキノ

一例として、最近導入されたソーシャル レコメンデーション機能が挙げられます。 1年前。 AML エンジニアと Facebook 共有チームのプロダクト マネージャーが、ユーザーが友人に地元のレストランやその他のサービスのおすすめを尋ねる強力なソーシャル シナリオについて話し合っていました。 「問題は、この機能をどうやってユーザーに公開するかです」と、AML の自然音声チームのプロダクト マネージャー、リタ アキノ氏は語ります。 (彼女は以前プロダクト マネージャーでもあり、... で働いていました。) 共有チームは、推奨リクエストに単語を一致させようとしています。 「このアプローチは正確ではなく、1日10億件のメッセージには対応できない」とアキノ氏は述べた。ニューラル ネットワークをトレーニングし、実際の行動のモデルでテストすることで、チームは言語の非常に微妙な変化を監視し、ユーザーが特定の地域のレストランについて質問しているのか、靴を購入する必要があるのか​​を正確に検出できるようになります。リクエストは適切な連絡先のニュースフィードに表示されます。次のステップは、これも機械学習によって行われ、誰かが合理的な推奨を行ったかどうかを判断し、ユーザーのニュースフィードに店舗またはレストランの住所を表示することです。

アキノ氏は、フェイスブックで働いてきた1年半の間に、AIは製品のまれな部分から製品のコンセプトに深く組み込まれるものへと変化したと語った。 「人々は、自分たちが関わる製品がよりスマートになることを望んでいます」と彼女は語った。 「多くのチームがソーシャル レコメンデーションのような製品を見て、私たちのコードを見て、『この機能をどう実装すればいいですか?』と尋ねました。チームにこの種のユーザー エクスペリエンスを実験する能力を与えるのに、機械学習のバックグラウンドはそれほど必要ありません。」自然言語処理については、チームは他のチームが簡単にアクセスできる Deep Text というシステムを開発しました。このシステムは、毎日40億件以上のメッセージで使用されているFacebookの翻訳機能を支える機械学習技術の活用に役立ちます。

画像とビデオについては、AML チームは Lumos と呼ばれる機械学習ビジョン プラットフォームを開発しました。このプラットフォームは、当時 FAIR でインターンをしていた Manohar Paluri 氏によって始まりました。彼は、Facebook に投稿されたすべての画像と動画を処理して理解するためのツールである Facebook Visual Brain という大規模な機械学習ビジョン プロジェクトに取り組んでいました。 2014年のハッカソンで、パルリ氏と同僚のニキル・ジョリ氏は1日半で製品のプロトタイプを完成させ、興奮したザッカーバーグ氏とフェイスブックのCOOシェリル・サンドバーグ氏に披露した。 Candela 氏が AML を設立した後、Paluri 氏がグループに加わり、コンピューター ビジョン チームを担当して Lumos を開発し、すべての Facebook エンジニア (Instagram、Messenger、WhatsApp、Oculus を含む) がこの視覚脳を活用できるように支援しました。

Lumos を使用すると、「社内の誰もが複数のニューラル ネットワークの力を活用して、独自のユース ケースのモデルを構築し、その効果をテストできます」と、AML と FAIR で共同役職を務める Paluri 氏は述べています。 「途中で、別のチームの誰かが来て、システムを修正し、再トレーニングしてから稼働させることができます。その場合、AML チームの関与は必要ありません。」

Paluri 氏は、ラップトップで Lumos を起動し、ニューラル ネットワークのヘリコプター認識能力を最適化するというサンプル タスクを実行して、簡単なデモを見せてくれました。画面には、ヘリコプターの写真やヘリコプター以外の写真が満載のウェブページ（スクロールし続けると 5,000 枚）が表示されます。これらのデータセット（Facebook は公開されている画像を使用）の場合、画像は友人のみに制限されるか、他のグループには制限されないかという特性があります。私はエンジニアでもなく、ましてや AI の専門家でもありませんが、ネガティブ サンプルをクリックしてヘリコプターの画像分類器をトレーニングするのは難しくなく、まるでプロのようにできました。

最終的には、この分類手順（教師あり学習と呼ばれる）は自動化される可能性があり、企業は機械学習の究極の目標である「教師なし学習」を追求しており、ニューラルネットワークがすべての画像に何が写っているかを独自に判断できるようになる。 「私たちは進歩しています」とパルリ氏は言う。彼は、今後 1 年以内に手作業による注釈の量を 100 分の 1 に減らすことが私たちの目標だと語った。」

長期的には、Facebook は視覚野と自然言語プラットフォームを統合し、Candela 氏が言うところの一般化されたコンテンツ理解エンジンを開発する予定です。 「最終的には必ずこれらを組み合わせて、皮質を作ります」とパルリ氏は語った。

最終的に、Facebook は、その進歩に使用された中核原則が、たとえば出版物を通じて社外にまで広がり、その民主化手法によって機械学習がより広く普及することを期待しています。 「スマート アプリケーションの構築に何年も費やす代わりに、はるかに速くアプリケーションを構築できます」と Mehanna 氏は言います。「医療、セキュリティ、輸送への影響を想像してみてください。これらの分野のアプリケーションは 100 倍速く構築されると思います。」

[[185773]]

2017年2月6日、カリフォルニア州メンロパークのビル20にて、フェイスブックの応用コンピュータビジョンチームの責任者マノハル・パルリ氏。撮影：スティーブン・ラム

AML は Facebook の製品が見たり、聞いたり、説明したりできるように支援する壮大なプロセスに深く関わっていますが、ザッカーバーグ氏はこれをソーシャルグッドカンパニーになるという Facebook のビジョンにとっても非常に重要だと考えています。ザッカーバーグ氏は、未来のコミュニティの構築に関する5,700語のマニフェストの中で、「人工知能」という言葉を7回も挙げている。そのすべては、機械学習やその他の技術がいかにして未来のコミュニティをより安全で情報豊富なものにできるかという文脈で述べられている。

これらの目標を達成するのは容易ではありませんでした。それは、キャンデラ氏がそもそも AML 活動に参加することに懸念を抱いていたのと同じ理由です。何十億もの人々を結びつけ、彼らに主要な情報源を提供しようとすると問題が発生し、機械学習でさえもこれらの人間の問題を完全に解決することはできません。そのため、ユーザーのニュースフィードに何が表示されるかを決定するアルゴリズムは絶えず更新されています。それが何であるかを実際に知らない場合、最適な組み合わせを提供するようにネットワークをどのようにトレーニングするのでしょうか。 「この問題は解決不可能に近いと思います」とキャンデラ氏は言う。「ニュース記事をランダムにプッシュするということは、時間の無駄ですよね？ 1人の友人からのニュース記事だけをプッシュし、勝者がすべてを手に入れるのです。議論がぐるぐると続くことになりかねませんし、完璧な解決策はありません。私たちはそれを模索しています」。Facebookは今後も人工知能を使ってこの問題を解決し、人工知能は必然的にこの問題の普遍的な解決策となるだろう。 「機械学習と AI の分野では、適切なレベルの探索を最適化するための一連の研究が進行中です」とキャンデラ氏は期待を込めて語る。

もちろん、Facebook はフェイクニュースに関与し、非難されていることに気づいたとき、すぐに AI チームを呼び、サービスからフェイクニュースを削除しました。これは、アドバイザーとして頻繁に活用される長期的なビジョンを持つ FAIR チームも含めた、異例の共同作業でした。ルカン氏は語った。 FAIR の取り組みにより、この問題を解決するツールが誕生しました。World2Vec と呼ばれるモデルです (「vec」は専門用語のベクターの略です。http://www.pamitc.org/cvpr15/files/lecun-20150610-cvpr-keynote.pdf を参照してください)。 World2Vec はニューラル ネットワークに一種のメモリ機能を提供し、Facebook が各コンテンツに誰が投稿し、誰が共有したかなどの情報をタグ付けするのに役立ちます。 （私が最初に使用した Google の Word2Vec と混同しないでください。）この情報により、Facebook はフェイクニュースの特徴と共有パターンを理解し、機械学習戦略を通じてフェイクニュースを根絶することが可能になります。 「フェイクニュースを検証することは、ユーザーが最も見たいウェブページを見つけることとそれほど変わらないことが判明した」とルカン氏は語った。

キャンデラ氏のチームが構築したプラットフォームにより、Facebook はレビューを必要とする製品をできるだけ早くリリースできるようになります。実際にどのようなパフォーマンスを発揮するかはまだ分からない。キャンデラ氏は、これらのアルゴリズムがフェイクニュースを削減する能力があるかどうか議論するのは時期尚早だと述べた。しかし、これらの新しい対策が効果的であるかどうかにかかわらず、現在のジレンマは別の問題を提起します。問題を解決するアルゴリズムは、機械学習のものであっても、意図しない、あるいは有害な結果をもたらす可能性があります。 2016 年にはすでにこれが起こったと考える人もいます。

キャンデラ氏はこの見解を否定している。 「私たちは世界をより良い場所にしたと思います」と彼は言い、ある話を語った。インタビューの前日、キャンデラさんは一度だけ会ったことのあるフェイスブックユーザー、友人の父親に電話をかけた。彼はその男性がフェイスブックにトランプ支持の投稿をしているのを見て困惑した。そのときキャンデラは、自分の仕事はデータに基づいて意思決定を行うことであり、重要な情報が欠けていることに気づきました。そこで彼はその男性に連絡を取り、会話を求めた。相手が同意した後、電話でやり取りをしました。 「私の世界は変わりませんでしたが、物事をまったく違った視点で見ることを教えてくれました」とキャンデラさんは語った。 「フェイスブックのない世界では、私は彼と出会うことはなかったでしょう。」

言い換えれば、Facebook にとって AI は必要であり、決定的なものでもあるが、それが唯一の答えではない。「問題は、AI がまだ初期段階にあることです」とキャンデラ氏は語った。 「まだ始まったばかりです。」