マスク氏も騙された。AIの虚偽の内容が「リアル」すぎる

イスラエルとパレスチナの紛争が深刻化するにつれ、ソーシャルメディアのプラットフォーム上には現地の情景を映した動画が多数登場しているが、これらのコンテンツの信憑性はおそらく楽観的ではない。

ツイッターでは、イスラエルとパレスチナの紛争以降、ハマスの攻撃の動画に見せかけるように本物そっくりのゲーム動画や、イスラエルによるハマス弾圧の写真に見せかけたアルジェリア人が祝賀花火を打ち上げる写真、サッカー界のスーパースター、クリスティアーノ・ロナウドがパレスチナの国旗を振っている偽の写真、さらには3年前のシリア内戦の動画を再編集して最近撮影された新しい動画のように見せかけるなど、関連する偽コンテンツが大量に生み出されている。

その内容はあまりにも虚偽で、ツイッターのCEOイーロン・マスク氏さえ騙したほどだった。同氏は「イスラエルとパレスチナの紛争をリアルタイムで追跡したいなら、@WarMonitors と @sentdefender をフォローすることをお勧めする」とツイートした。しかし、真実は、これら2つのアカウントが偽情報を広めていることで悪名高いということだ。

なぜ偽情報はインターネット上でこれほど人気を博し、大量のトラフィックを獲得できるのでしょうか? ホットスポットがもたらすトラフィックに加え、伝送速度と規模におけるデジタルプラットフォームの利点も、偽情報のウイルス的拡散の「温床」となっています。さらに、今日ではさまざまなアルゴリズムのサポートにより、異なる信念や認識を持つグループによってもたらされる情報繭効果がさらに悪化し、「噂を広めるには口一つで十分だが、反論するにはあちこち走り回らなければならない」という状況が徐々に常態化し、反論の拡散は噂の拡散よりもはるかに弱く、噂の拡散ははるかに速く広範囲に及んでいます。

今年、ChatGPTに代表されるコンテンツ生成AIモデルの集中的な流行により、偽コンテンツが従来の誤認や根拠のない憶測の手法を突破し、何もないところから作り出されたコンテンツが大量に出現し始め、サイバー空間における真実の情報の発言力が狭まりつつある。

この記事では、情報繭効果を組み合わせて、ディープフェイクに代表される AI 技術のサポートにより、偽コンテンツが視聴者にどのような影響を与えるか、そしてその背後にはどのような深い操作があるのか​​を探ります。

情報の繭によって分断された視聴者

いわゆる情報繭とは、視聴者がすでに関心のある分野に集中し、同じ考えを持つ人々とのコミュニケーションをより積極的に行う傾向があることを意味します。時間が経つにつれて、視聴者は蚕のさなぎのように「繭」に縛られ、外の世界や生活に直面することを望まなくなり、異なる声にさらされると強い反発さえ生じます。

つまり、視聴者が一方的な情報や虚偽の情報に長期間浸かっていると、やがて「逆の調子で歌う」真実に抵抗し、それが作り出す「繭」に自ら陥り、そうした情報の共有者、発信者になってしまうのです。

中国では、多くのインターネット プラットフォームがユーザーの好みに基づいて特定のコンテンツをプッシュします。この形式は、ユーザーが初めてプラットフォームを使用するときに興味のある分野を手動でチェックすることから、ユーザーの行動を通じてビッグ データを構築し、より正確なユーザー ポートレートを概説し、プッシュされるコンテンツをさまざまなユーザーの好みにさらに合わせることに進化しました。ビジネスの観点から見ると、これは間違いなく視聴者と粘着性を高めるでしょうが、その結果生じる情報繭効果により、さまざまなグループの認識がますます分裂し、世論の分裂と対立につながっています。

少し前に、国内の有名なショート動画プラットフォームで同じ動画のコメント欄の内容がユーザーによって大きく異なることが明らかになった。男性と女性が口論しているビデオで、男の子は彼らが男性を支持しているのを見て、女の子は彼らが女性を支持しているのを見ました。その結果、動画やコメントの内容に基づいて、異なるグループがより客観的で包括的かつ合理的な判断を下すことが難しくなり、むしろ、単一のグループや認知バイアスが増幅されてしまいます。これについて一部のネットユーザーは懸念している。今後の動画では、さまざまなユーザーの心理にもっと合った内容が提示される可能性があり、それによって情報繭効果がさらに悪化する可能性がある。

国内のショートビデオプラットフォーム上の男性（左）と女性（右）のユーザーは、まったく異なるコメントを投稿している。

社会秩序の発展を促す出来事では、情報繭効果の害がさらに露呈する。例えば、最近注目を集めた成都の凶暴な犬の襲撃事件は、犬の飼い主、動物愛護主義者、犬嫌いの間の対立を再燃させた。情報繭効果は間違いなくこれらのグループ間の対立を激化させるだけであり、犬の飼育を規制し、各当事者の権利と利益を保護する上で建設的な役割を果たすことはない。むしろ、一部の地方の政策決定者が犬の飼育に手を抜いたり、直接的に画一的なアプローチをとったりする極端な状況に簡単につながるだろう。

AI時代には、さまざまな大規模モデルが間違いなく視聴者をより正確にセグメント化し、繭の中の集団はより断片化され、他の種類の情報や意見を受け入れることがより困難になることが予測できます。当然、繭の中の情報が偽りであれば、それを他の情報で裏付けることが難しくなり、偽りの情報が蔓延することになります。

分裂の続編：AIディープフェイクが偽コンテンツ制作プールに

ディープフェイクは、AI のディープラーニング特性を利用して、本物らしく見える偽の画像を作成することができます。今年はMidjourneyなどのAI描画ツールが人気を博し、トランプ大統領逮捕などのAI生成画像がSNS上で広く拡散した。背景の人物が6本の指を持っているなど予想外のシチュエーションがなかったら、そのリアルさはこれまでの自動画像生成ツールとは比べものにならないものだっただろう。

ミッドジャーニーが作成したトランプ逮捕映像

Twitter ユーザーが Midjourney を使用して架空の歴史的出来事を共有しました。2001 年 4 月、米国シアトルをマグニチュード 9.1 の壊滅的な地震が襲いました。街は完全に破壊され、救助隊が瓦礫の中から生存者を救出していました。

想像してみてください。そのリアルな偽造技術に感心する傍観者以外に、これらの写真を見て真実だと信じる人がいるでしょうか?情報繭は、さまざまなグループに外部からの情報を拒否したり、受け取らなかったりさせるため、偽情報を見分ける能力が大幅に低下します。生成AIに基づくこの種のディープフェイク技術は、間違いなく大量の偽情報を生成する機械になりつつあります。

AIが作り出した2001年のシアトル地震

進行中のロシアとウクライナの紛争では、ディープフェイク技術がすでにその威力を発揮し始めている。 2022年3月、ゼレンスキー大統領とプーチン大統領がそれぞれ降伏を発表した2本の偽動画がツイッターなどのソーシャルプラットフォーム上で拡散した。動画偽造技術自体は少々粗雑に思えたが、紛争で対立する立場をとる視聴者にとっては間違いなく歓迎すべき結果であり、ある程度はこれらの偽動画の拡散に貢献した。

2023年5月、米国のペンタゴンで起きた爆発をAIが撮影した画像が世界中のソーシャルプラットフォームで拡散し、米国の株式市場の下落を引き起こした。この写真にも肉眼で見える欠陥がいくつかありますが、アメリカに不満を持つ世界中の多くの人々にとって、アメリカに関する否定的な情報は、すぐに信じてしまう傾向があります。

AIがペンタゴン付近の爆発シーンを生成

AIによる情報操作

生成型AIは虚偽の情報を作り出し、観衆の認知を誤らせ、情報の繭効果により異なる集団間の分裂や対立を悪化させる可能性があるため、AIには情報操作能力があることを示しています。国際情勢がますます複雑化し、地政学的な問題が頻発する中、AIによって生成された虚偽の情報は現代の認知戦争における重要な武器となり、世界の平和と安定にかかわるだけでなく、国家の政治安全保障にも挑戦を突きつけています。

AIによって操作された選挙

これまで、米国を中心とする西側諸国は、大統領選挙などの主要な政治イベントの開催時に、多数の不正行為や、選挙操作の疑いさえも受けてきた。さて、この一連の「怪しい」作戦では、AI技術が重要な役割を果たすことになりそうだ。

2024年、米国では新たな大統領選挙が行われます。多くのメディアは、これが米国でAIツールが広く使用される最初の選挙になると予測しています。民主党と共和党の両党が、宣伝、資金調達などの活動にAI技術を使用するでしょう。例えば、ニューヨークタイムズは6月25日、一部の政治キャンペーンがAIを活用し始めたと報じた。この現象は数か月前まではゆっくりと浸透していたが、今では巨大な流れに収束し、世界的な民主選挙のゲームのルールを書き換え始めている。テクノロジー専門家は、米国の政治的二極化と、2020年の選挙で敗北した後にトランプ前大統領が選挙は「不正選挙」だと批判したことで、多くの有権者が政治や主流メディアへの信頼を失っていると警告している。誰かがこれを利用し、AI 技術を使って混乱を引き起こす可能性があります。

前述のように、AI 描画ツールはトランプ大統領逮捕のリアルな映像を生成することができました。このように、生成 AI ツールは選挙メール、ビデオ、その他の販促資料を素早く作成し、候補者になりすまして有権者を欺くことができます。 AP通信は、選挙運動中に仕掛けられた「AIトラップ」のいくつかを想像した。大統領候補の声で偽の音声を作成し、有権者に間違った日に投票するよう指示する、候補者になりすまして「犯罪」を認めさせたり人種差別的な発言をさせたり、ニュース報道のスクリーンショットに似た写真を広めたりすることなどだ。

紛争と戦争のきっかけ

国際関係において、戦略的相互信頼は国際安全保障と国際情勢の安定の中核的な柱であり、世界協力と多国間協力システムの構築に強固な基礎を築くことができます。しかし、AIベースのディープフェイクは、他の破壊的なデジタル技術と組み合わされ、世界および地域の多国間機関や国際関係の関係者間の信頼を大幅に低下させるでしょう。

2019年、インドとパキスタンの間で緊張が高まっていた時期に、ロイターは事件のディープフェイク動画30本を発見した。動画のほとんどは、2017年のインド・パキスタン紛争中にインドとパキスタンのいくつかの都市で人々が互いに抗議する様子を捉えたものだ。しかし、これらのビデオは AI 技術によって処理され、インドとパキスタンで撮影されたビデオクリップとして意図的に誤って説明されていました。これらのビデオはインドとパキスタン両国の民族主義者を大いに刺激し、事態の悪化につながった。事態が制御不能になることを恐れ、インドとパキスタンの当局は一部のソーシャルプラットフォームを一時的に閉鎖せざるを得なくなった。

国家の政治的安全保障に対する危険

現在、中国の急速な台頭は西側諸国の覇権に対する挑戦となっている。米国を筆頭とする一部の国は、中国を技術的に封じ込めようとしているだけでなく、世論の中で中国を中傷し、中国を分裂させようとしており、中国の国家政治安全保障にリスクをもたらしている。AI技術は、この状況に拍車をかける役割を果たしている。

2021年4月29日、ベルギー王国駐在の中国大使館は、米国を筆頭とする西側諸国が新疆関連問題に関して作り出したディープフェイクなどの虚偽情報を具体的に暴露する記事を発表した。記事では、米国の反中国勢力の操りの下、事実を歪曲する一部の「学術機関」、デマを流す「専門家や学者」、倫理を無視する「アマチュア俳優」が、現代の人工知能技術を使ってよりリアルな嘘を作り上げることを含め、嘘を捏造し、中国の新疆政策を誹謗することで国際社会の言論を誤導していることを暴露した。

例えば、英国放送協会（BBC）によるいわゆる「強制労働」に関する特別レポートでは、安徽省のカウンターパート支援プログラムが支援する新疆ウイグル自治区ホータン州ピシャン県での労働者募集に関するCCTVのレポートを編集・歪曲し、新疆ウイグル自治区のウイグル族の若者を中国本土で「強制的に」働かせている映像に変えていた。また、家族計画政策を通じて新疆でいわゆる「大量虐殺」政策を実施しているとして中国政府を中傷するディープフェイク動画もいくつかある。これらのディープフェイクコンテンツは、中国政府の新疆政策の信用を失墜させ、新疆関連の問題をいわゆる「人権」問題や中国政府の「大量虐殺政策」として構築している。これらは、外界の人々を誤解させ、中国外交をより悪い国際環境に直面させるだけでなく、新疆の平和、安定、民族の団結、将来の発展にも影響を与えている。

虚偽情報の問題はこれまでも議論されてきましたが、AI技術によって虚偽情報の特定がさらに困難になったことは間違いありません。また、視聴者の心理をより正確に推測し、特定の意志に従って真実を歪曲して火に油を注ぎ、国を複雑な国家間の競争や紛争に巻き込む能力も向上しています。情報繭の原型が認知バイアスと集団差別化によって引き起こされたとすれば、AI技術は異なる繭の間に火薬の匂いのする霧の層を追加し、対立を激化させ、真実を見えなくする。インターネット時代においては、AI技術によってもたらされる誤った情報に対して、私たちは十分に警戒しなければなりません。