AIはイスラエルとパレスチナの紛争の偽画像を生成し、それが非常にリアルであるためメディアで引用されている

イスラエルとパレスチナの紛争が続く中、関連ニュースが次々と報道され、中には虚偽の内容も混じり始め、真実と虚偽の区別がつきにくくなっている。最近、イスラエルとパレスチナの紛争の様子を映したAI生成写真が、有名な写真ライブラリAdobe Stockに登場し、一部の報道機関で使用された。

Adobe Stockは生成型人工知能を積極的に取り入れる画像ライブラリとして、2022年から投稿者がAIによって生成された画像をアップロードして販売できるようにします。ただし、アップロードの際には「AIによって生成されたかどうか」を明記する必要があります。正常に出品されると、画像にも「AIによって生成された」と明記されます。この要件以外、提出ガイドラインは、違法または著作権を侵害するコンテンツのアップロードの禁止を含め、他の画像と同じです。

しかし、オーストラリアのウェブサイトCrikeyによると、Adobe Stockでイスラエル、パレスチナ、ガザ、ハマスに関連するキーワードを検索すると、AIが生成した画像が大量にヒットするとのこと。例えば、パレスチナを検索すると、最初の結果に「人工知能が生成したイスラエルとパレスチナの紛争」というタイトルの画像が表示される。他の画像には抗議活動や地上での衝突、さらには爆発から逃げる子供たちの様子も映っていたが、これらもすべてAIによって生成されたものだった。

図1: Adob​​e Stockでイスラエルとパレスチナの紛争を検索すると、大量のAI画像が見つかる

懸念されるのは、これらの画像がAIによって生成されたものであることが明記されずに一部のオンラインニュースメディアやブログに掲載されており、メディア側がそれが偽物であることを知っていたかどうかは不明だ。

図2：一部のメディアは、イスラエルとパレスチナの紛争を報道する際に、図1の左上隅にあるAI生成画像を使用しています。

その後、Adobe は、ライセンス申請時にすべての生成 AI コンテンツに適切なラベルを付ける必要があると述べたが、購入して使用する際に「これは生成 AI ツールによって作成された画像である」ということを顧客が認識することも同様に重要であると強調した。

真偽の画像を識別するのは複雑な作業です

専門家は、人工知能がネット上で偽情報を拡散するのに利用されるだろうと繰り返し警告しており、より本物そっくりなコンテンツがネット上に投稿され共有されるにつれて、この問題に対処することがますます困難になっている。

AI生成画像の使用を研究しているRMIT上級講師のTJ・トムソン博士は、AI画像の使用における透明性と、視聴者がそれを認識できるだけの文化的知識を持っているかどうかについて懸念があると述べた。

「コンテンツ真正性イニシアチブ」と呼ばれる取り組みの下、Adobe、Microsoft、BBC、ニューヨーク・タイムズなどのテクノロジーおよび報道機関は、ファイルのメタデータを使用して、画像が実際に人間によって撮影されたものか、AIによって生成されたものかを問わず、画像の出所を強調するコンテンツ認証を試験的に導入している。

ただし、コンテンツ認証情報はまだ現実世界の環境に導入されておらず、意図したとおりに機能するには、ソーシャル ネットワーク、パブリッシャー、アーティスト、アプリ、ブラウザー、生成 AI の開発者との連携が必要です。