IEEE: ディープフェイク技術のより深い理解

ほとんどの人は本物と偽物を区別できると自信を持っていますが、ディープフェイクの台頭により、この能力はますます困難になる可能性があります。

ディープフェイクは、音声、ビデオ、静止画像を含み、非常にリアルに見える人工知能 (AI) によって作成されたデジタル コンテンツです。登場人物が真実ではないことを言ったり行ったりしているように描写されることがよくあります。サイバーセキュリティの専門家や技術専門家は、こうしたコンテンツが詐欺や誤情報の拡散など、さまざまな悪意ある方法で使用される可能性があると警告を強めている。

リスクの特定

ディープフェイクの増加について専門家が警告している分野の一つは有名人や政治家だが、攻撃は個人を標的にすることもできる。

IEEE 会員のレベッカ・ヘロルド氏は、ディープフェイクのリスクを示す逸話を共有しました。 「ある友人は出張中、妻から電話を受けました。妻はひどく動揺して泣きながら、事故に遭ってレッカー車を呼ぶお金がないと彼に話していました」とヘロルド氏は語った。「友人は、その電話が妻の声に聞こえたので、ほとんど信じてしまいました。しかし、妻にレッカー会社に電話する必要があると伝えて電話を切った後、妻の番号にもう一度電話をかけました。声が本物だったので、騙されそうになったと言っていましたが、妻は無事でした。」

私は何本の指を立てているでしょうか?

ディープフェイクは非常に説得力がありますが、本物ではないかもしれないという微妙な手がかりがあることも少なくありません。

「現時点では、ディープフェイクは本物の動画と完全に区別がつかないわけではないが、その段階に近づいている」とIEEE会員のエール・フォックス氏は言う。「ほとんどの人は、まだディープフェイク動画だと認識できる」

• AI は他人の肯定的なイメージを作り出すのが非常に上手になってきています。しかし、横や後ろから見たときの人物の見え方など、細かい部分ではまだ問題が残っています。必ずあらゆる角度から画像を見てください。ディープフェイクの写真や動画には、実際の人間よりもはるかに多くの歯が含まれていることがよくあります。誰かが笑っていたり、歯を見せていたら、よく見てみましょう。

• ディープフェイクの写真や動画では、人差し指が多すぎたり少なすぎたりすることがよくあります。写真やビデオの被写体に指が何本あるか注意深く数えてください。

• ディープフェイクでは、人物の横顔や斜めの視点でも問題が生じます。ライブビデオで誰かとコミュニケーションを取っていて、それがディープフェイクだと思ったら、相手に横を向くように頼んだり、「ねえ、あなたの後ろの壁にかかっているあの絵、好き。作者は誰？」のように、相手が振り向くような質問をしてみましょう。

• ディープフェイクの写真や動画には、照明、反射、影などの不一致が含まれることがよくあります。

• ディープフェイク動画には、速いながらも不自然な動きが含まれることがよくあります。たとえば、異常なぎくしゃくした動きや時間の飛びがあるように見える動きを探します。

• ディープフェイクの音声は、音質がやや不自然であったり、一貫性がなかったりすることが多く、時折発生することがあります。

新しい技術を求める競争

ディープフェイクが社会に危害をもたらす可能性を背景に、政府、大学、民間企業による検出ツールの研究が活発化している。

いくつかの技術では、疑わしいコンテンツ自体を評価します。たとえば、一部のツールでは、人の顔の血流を評価して、不自然な混ざり合いやぼやけを探すことがあります。あるいは、人の目の反射を見て、それが周囲のものと一致するかどうかを確かめて、本物かどうかを確認します。 IEEE 信号処理学会が主催した包括的なディスカッションでは、これらの技術のいくつかが実際にどのように使用されているかが示されました。

他のツールでは、ファイルのメタデータを評価して操作の兆候を検出する場合があります。

「同様に、ディープフェイクを作成する脅威アクターは、検出アルゴリズムから学び、それに応じて独自の手法を調整する可能性が高い」とIEEEシニアメンバーのケイン・M・グラッドリー氏は述べた。「ここで重要なのは、ビデオやオーディオコンテンツの大手配信者が、誤報や偽情報の拡散を防ぐために、これらのソリューションを大規模に導入することに投資することです。」