AI不正対策！ディープフェイク音声・動画検出技術がCESでデビュー、精度は90%以上

真実とは程遠いが、アメリカの消費者向けニュースおよびビジネスチャンネルCNBCのロゴ入りのビデオでは次のように述べられている。

「ヨーロッパ人はChatGPTを通じて1週間に3,000〜4,000ユーロを稼ぐことができます。」

「投資プラットフォームはAI、具体的にはGPTを使用して企業の株式やオンライントレンド情報を分析します。この情報を使用して、プログラムは自動的に株式を売買し、プラットフォームユーザーに利益をもたらします。」

わあ、ChatGPT を使ってお金を稼ぐのはこんなに簡単なの？ ?

心配しないでください。CES 2024で発表されるディープフェイク音声検出技術が、偽物と戦うために登場します。

上記動画の字幕で赤くマークされている内容はすべて偽物であり、下図のように緑でマークされている部分が本当の情報です。

もちろん、動画の右側にあるリアルタイム監視チャートですでにすべてが説明されています。偽のコンテンツに遭遇すると、縦軸が急激に上がります。

これは、有名なウイルス対策ソフトウェア会社 McAfee の「Project Mockingbird」と呼ばれる偽造防止技術です。

AI技術の発展に伴い、インターネットにはAI合成された音声や動画が大量に溢れています。その情報には真実と虚偽が混在しており、区別が難しい場合もあります。犯罪者の中には、詐欺や世論操作に利用する者もいます。

現在、マカフィーは、AIによって偽造された音声や動画を識別する精度が90％を超えると言われる技術を発表しました。

アラバマ物語

マカフィーが2023年12月に実施した調査によると、ディープフェイクに対する米国人の懸念はますます大きくなっており、回答者の約68％が昨年よりもディープフェイクを心配していると答え、33％がディープフェイク詐欺に遭遇したか、関連する状況を認識していると答えています。

下記の「テイラー・スウィフトがファンにポットを無料でプレゼント」のような、AIによって合成された偽の動画が多くの人を騙してきました。

そこでマカフィーはプロジェクト・モッキンバードを立ち上げました。この名前は、マネシツグミが他の鳥、昆虫、両生類の鳴き声を真似るのが得意な鳥であることに由来しています。

彼らの戦略は、AI を使って AI を倒すことです。

Project Mockingbird は、AI を活用したコンテキスト、動作、カテゴリ検出モデルを組み合わせて、ビデオ内のオーディオが AI によって生成されたものであるかどうかを識別します。

具体的には、音声またはビデオがモデルに入力され、分類モデルは音声およびビデオデータから、分析されたコンテンツが特定の事前定義されたカテゴリに属する​​かどうかを判定し、偽造された音声の開始位置を判定して偽造された部分をマークすることができます。

マカフィーのCTO、スティーブ・グロブマン氏は、研究チームがプロジェクト・モッキンバードのコア技術モジュールを構築しており、この技術を製品ラインに活用していると語った。

この技術が正式に発表された後、CNBCのインド支局CNBC-TV18もこれを再投稿して宣伝した。

参考リンク: https://www.mcafee.com/en-us/consumer-corporate/newsroom/press-releases/press-release.html?news_id=509b05a3-65e9-46d4-9f17-2dbc606e111a.