研究：AIが生成した顔は本物の顔よりも信頼性が高い

今週、米国科学アカデミー紀要に発表された新たな研究は、ディープフェイク技術がどれだけ進歩したかを示す指標を提供している。この調査結果は、実際の人間は機械で生成された顔に簡単に騙され、実際の人間よりも信頼できると解釈する可能性があることを示唆している。

データマップ

「合成顔は非常にリアルで、本物の顔よりも信頼性が高いと認識されていることがわかった」と、研究の共著者でカリフォルニア大学バークレー校の教授、ハニー・ファリド氏は述べた。「この結果から、合成顔が悪意ある目的に利用された場合、非常に効果的である可能性があるという懸念が浮上する」

「我々は確かにディープフェイクの危険な世界に足を踏み入れた」と、論文には関与していないイタリアのスイス大学の准教授ピオトル・ディディク氏は述べた。ディディク氏は、同様に複雑なビデオを作成するのはより困難であるにもかかわらず、彼のツールがすぐに一般的に使用されるようになると信じている。

この研究における合成顔は、生成的敵対ネットワークと呼ばれるタイプのネットワークの一例である 2 つのニューラル ネットワーク間の双方向の相互作用によって作成されました。ジェネレーターと呼ばれるネットワークの 1 つは、進化する合成顔のセットを生成します。ディスクリミネーターと呼ばれるもう 1 つのネットワークは、実際の画像でトレーニングされ、生成された出力を実際の顔のデータと比較して評価します。

ジェネレーターはランダムなピクセルでトレーニングを開始します。識別器からのフィードバックにより、徐々によりリアルな顔が生成されます。最終的に、識別器は本物の顔と偽物の顔を区別できなくなります。

このネットワークは、以前の研究でより一般的だった白人男性の顔とは対照的に、黒人、東アジア人、南アジア人、白人男性と女性の顔を表す一連の実際の画像でトレーニングされました。

研究者らは、本物の顔400枚と合成顔400枚を照合した後、315人に128枚の画像から本物と偽物を見分けるよう依頼した。別の219人の参加者グループは、顔を識別しながら偽物を見分ける方法についてのトレーニングとフィードバックを受けた。最後に、3 番目のグループ (223 人の参加者) が 128 枚の画像の信頼性を 1 (非常に信頼できない) から 7 (非常に信頼できる) のスケールで評価しました。

最初のグループは、本物の顔と偽物の顔を区別する平均精度が 48.2% で、コイン投げと同程度の成績でした。 2 番目のグループは、参加者の選択に関するフィードバックがあったにもかかわらず、劇的な改善が見られず、わずか 59 パーセント程度のスコアしか得られませんでした。信頼性を評価したパネルは、合成顔に、実際の顔の 4.48 と比較してわずかに高い平均スコア 4.82 を与えました。

研究者たちはこうした結果を予想していなかった。 「当初、合成顔は本物の顔よりも信頼性が低いと考えていた」と研究の共著者であるソフィー・ナイチンゲール氏は語った。

この発見は、この技術のアクセシビリティに関する懸念をさらに高めるもので、この技術により、ほぼ誰でも偽の静止画像を作成できるようになる可能性がある。 「フォトショップやCGIの専門知識がなくても、誰でも合成コンテンツを作成できます」とナイチンゲール氏は語った。もう1つの懸念は、このような発見により、ディープフェイクが完全に検出不可能になるという印象を与えるだろうと、南カリフォルニア大学視覚情報・マルチメディア分析研究所の創設所長ワエル・アブド・アルマギード氏は述べた。アルマギード氏はこの研究には関与していない。彼は科学者たちがディープフェイクへの対抗策の開発を諦めるかもしれないと懸念している。

「こうした検出ツールを積極的に改善していく方法について、研究コミュニティ内で十分な議論が行われていない」と、ディープフェイクを見分ける方法にも重点を置く人権団体WITNESSのプログラム戦略・イノベーション担当ディレクター、サム・グレゴリー氏は言う。同氏は、人々は偽造品を見分ける能力を過大評価する傾向があり、「偽造品が悪用される状況を国民は常に認識する必要がある」ため、検出キットの作成は重要だと述べた。

この研究には関与していないグレゴリー氏は、著者らがこれらの疑問に直接答えていることを指摘した。彼らは、生成された画像に永続的な透かしを作成することを含む 3 つの可能な解決策を強調しています。たとえば、「指紋を埋め込んで、それが生成プロセスから生成されたものであることがわかるようにする」などです。

研究者らは、ディープフェイクの欺瞞的使用は今後も脅威となるだろうと強調した後、厳しい結論で締めくくっている。「したがって、こうした技術を開発する人たちには、関連するリスクがそのメリットを上回るかどうか検討するよう勧めます。もしそうなら、それが可能であるという理由だけで技術の開発を控えるよう勧めます。」