これは陰謀論ですか？ AIさん、どう思いますか？

[[385257]]

ビッグデータダイジェスト制作

出典: iflscience

編集：赤道のパンダ

ボディカメラの映像は揺れていたが、音声は驚くほど明瞭だった。警察は、ピザ店のリビングルームで以前に発砲した手錠をかけた男を捜索し、なぜそこにいるのかと尋ねた。男は小児性愛者の組織を調査したいと語った。信じられない答えに直面して、警官は再度尋ねた。別の警官は「ピザゲートだ。彼はピザゲートについて話している」と言った。

2016年に起きた短くも恐ろしいやりとりで、長い間社会の片隅に隠されていた陰謀論が、非常に危険な形で現実世界に入り込んできたことが明らかになった。

重大な危害を引き起こす可能性のある陰謀論は、ソーシャルメディアで非常に人気があります。ソーシャルメディアでは、制限のないフォーラムを通じて、同じ考えを持つ人々がコミュニケーションをとることができます。ここで彼らは独自の理論を展開し、「発見した」脅威に対する対応策を提案することができます。

しかし、ソーシャルメディアで新たに登場した物語が根拠のない陰謀論であるかどうかは、どうすればわかるのでしょうか? 機械学習ツールを使用して物語の要素とつながりを引き出すことで、陰謀論と実際の陰謀を区別できることが判明しました。これらのツールは、現実世界に脅威をもたらすオンライン上の物語を当局に警告する早期警告システムの基礎となる可能性があります。

自動化された方法は、Vwani Roychowdhury 氏と私が率いるカリフォルニア大学ロサンゼルス校の文化分析グループによって開発されました。ソーシャルメディア上の会話が陰謀論の典型的な兆候を反映しているかどうかを識別できます。私たちはこれらの方法をピザゲート、COVID-19パンデミック、反ワクチンキャンペーンの研究に適用することに成功しました。

共同建設、迅速な形成

本当の陰謀論は故意に隠されており、現実の人々が自分たちの邪悪な目的のために協力しているというものである。対照的に、陰謀論はオープンな協力の中で構築され、発展します。

陰謀論は意図的に複雑になっており、包括的な世界観を反映しています。陰謀論は、一つのことを説明しようとするのではなく、すべてを説明しようとし、人間の相互作用の領域間の隠れたつながりを発見しようとします。それは主に、そのようなつながりが存在しないからです。

人間は本来陰謀論の影響を受けやすく、不確実な時代や高まる不安によってその影響を受けやすくなる可能性があります。

陰謀論者に対する一般的なイメージは、写真と赤い糸の間の不可解なつながりをつなぎ合わせようとする一匹狼だが、そのイメージはソーシャルメディアの時代にはもはや通用しない。陰謀論はインターネットに持ち込まれ、今や究極の集合的物語となっている。参加者は、物語の枠組みのパラメータ（物語の登場人物、場所、物、およびそれらの関係）を決定します。陰謀論のオンライン上での性質は、研究者に、一連の断片的な噂や物語から統合された物語に至るまで、陰謀論の起源から発展をたどる機会を提供します。 Pizzagate は私たちの活動にぴったりのテーマです。

ピザゲート事件は、大統領選挙前夜の2016年10月下旬に発生し始めた。 1 か月以内に、それは完全に形成され、民主党の政治、ポデスタ兄弟の私生活、カジュアルな家族の食事、そして悪魔の小児性愛取引など、それまで無関係だったさまざまな分野から登場人物が集められました。これらまったく異なる領域をつなぐ物語の糸は、2016年10月の最終週にウィキリークスが公開した民主党全国委員会の電子メールの空想的な解釈である。

AIによる物語分析

私たちは機械学習ツールのセットであるモデルを開発しました。人、場所、物、そしてそれらの関係に基づいて物語を識別できます。機械学習アルゴリズムは、大量のデータを処理してデータ内のもののカテゴリを判別し、特定のものがどのカテゴリに属するかを判断します。私たちは、2016年4月から2018年2月の間にRedditと4chanのフォーラムでピザゲートについて議論した17,498件の投稿を分析しました。モデルは、各投稿を隠されたストーリーの断片として捉え、物語を発見し始めます。このソフトウェアは、投稿内の人物、場所、物を識別し、どれが主要な要素でどれが二次的な要素であるか、またそれらがどのように関連しているかを判断できます。このモデルは、物語の主な層 (ピザゲート、民主党政治、ポデスタ兄弟、カジュアルダイニング、悪魔主義、ウィキリークスの場合) と、これらの層がどのように全体的な物語を構成するかを特定します。私たちのアプローチが正確な出力を生成することを確認するために、私たちのモデルによって生成された物語フレームワーク図とニューヨークタイムズに掲載されたイラストを比較しました。当社の図表はこれらのイラストと一致しており、人物、場所、物、およびそれらの関係についての詳細な情報も提供します。

確かな事実、フィクション

陰謀論と実際の陰謀を区別できるかどうかを確認するために、私たちは、ニュージャージー州フォートリー市長のスタッフに対してクリス・クリスティ政権が開始した政治的買収作戦であるブリッジゲートを調査しました。

2 つの別々のセットを使用して機械学習システムの結果を比較したところ、陰謀論の物語の枠組みの 2 つの注目すべき特徴が際立っていました。

まず、ブリッジゲートのナラティブグラフは2013年から2020年にかけて発展したのに対し、ピザゲートのグラフは1か月以内に完全に形成され、安定しました。第二に、ブリッジゲートのグラフは要素が削除された後も存続します。つまり、スキャンダルの主要人物や関係が削除されたとしても、ニュージャージー州の政治は単一のつながりのネットワークとして存在し続けるということです。

対照的に、ピザゲートグラフは、小さなサブグラフに簡単に分解できます。ウィキリークスの電子メールの説明から直接得られる人物、場所、物、関係性を除くと、グラフは現実の政治、カジュアルな食事、ポデスタ家の私生活、そして奇妙な悪魔主義の世界の間の相互に関連した領域に分解されます。

下の画像では、緑色の平面は物語の主要なレイヤー、点は物語の主要な要素、青色の線はレイヤー内の要素間の接続、赤色の線はレイヤー内の要素間の接続を表しています。紫色の平面には、すべてのレイヤーが結合され、すべてのポイントがどのように接続されているかが表示されます。 WikiLeaks 平面を削除すると、点が小さなグループでのみ接続された紫色の平面が生成されます。

ピザゲート陰謀論のさまざまな層が組み合わさって、右上にある物語を形成します。ウィキリークスが公開した電子メールの空想的な解釈という 1 つのレイヤーを削除すると、ストーリー全体が右下隅に広がります。

早期警報システム？

私たちの仕事は明らかに倫理規範に挑戦するものです。たとえば、私たちのアプローチでは、議論の物語の枠組みに適合する陰謀論の議論の投稿をより多く生成できます。同様に、どんな分野であっても、誰でもこのツールを使用して新しい陰謀論を思いつくことができます。

しかし、ソーシャルメディアフォーラムに関する当社の調査が示すように、こうした物語の武器化は、自動化された方法なしにすでに起こっています。研究コミュニティは、兵器化がどのように起こるかを他の人に理解させ、個人や組織が公共の安全と民主的な制度を保護するためのツールを開発する役割を担っています。

陰謀論の物語の出現と適応を追跡する早期警告システムを開発することで、人々がそれらの物語に基づいて取る行動について研究者や当局に警告することができます。おそらく、そのようなシステムが導入されていれば、ピザゲート事件で逮捕した警官は、なぜピザ店にAR-15ライフルを持っていたのかと尋ねられたときの銃撃犯の反応に悩まされることはなかっただろう。