AIによる顔を変える技術によって危害を受けるのではないかと心配ですか?怖がらないで！ディープフェイク偽造対策チームが到着

ディープフェイクは登場以来、人間性の暗い側面へと向かっています。

Bステーションのユーザーは、陸小玲童の顔で蔡旭坤をアイドルプロデューサーのセンターポジションにデビューさせました。アマチュアの技術専門家は、AI の顔を変えるチュートリアルをすでに楽しんでいます。しかし、誰もが被害者になる可能性も高まっています。誘拐ビデオを偽造して金銭をゆすったり、わいせつなビデオを偽造して評判を落としたり、テロリストのビデオを偽造して混乱を引き起こしたりすることが、ディープフェイクのオープンソース技術のおかげで、かつてないほど容易になっています。

TED は、有名人のグループをブッシュの表情写真に置き換えました。PS が写真に対する国民の信頼を破壊した後、ディープフェイクは動画に対する国民の信頼を破壊しています。誰も、自分が言っていないことをインターネット上で言っている自分の顔を見たいとは思わない。多くの人的傷害は、衝撃がそれほど重大ではないため、苦情を申し立てることができません。

米国はディープフェイク偽造対策チームを結成している。大学の研究室や研究センターがディープフェイクの欠陥を探しているだけでなく、スタートアップのトレンドも生まれている。

しかし、これは偽物を作る AI と偽物を検出する AI の間の競争であり、「あなたには計画があり、私には壁を越えるはしごがあります」というものです。ディープフェイクを検出する論文が出るたびに、偽造技術は自らの抜け穴を修正し、より高いレベルに到達するよう促されるようだ。

ディープフェイクのパンドラの箱を閉じることはできるのでしょうか?

ディープフェイクでビジネスを始める

シバ・キンタリ氏は、4年間講師を務めたプリンストン大学のコンピューターサイエンス学部を辞め、シリコンバレーで偽のビデオを識別するビジネスを立ち上げている。彼はシリコンスターに対し、パートナーには警察、ジャーナリスト、保険会社などが含まれていると語った。彼は機械学習を使って偽の動画の欠陥を見つけ、ブロックチェーン技術を使って身元確認に役立つ情報を記録している。

キンタリ氏のウェブサイトではすでに、画像、音声、ビデオをアップロードして、改ざんの兆候があるかどうかを分析・検出できるようになっている。彼はまた、人工知能を使用して画像に時間と場所の透かしを追加し、画像の元の情報をブロックチェーンに印刷するモバイルカメラアプリケーションも開発しています。拡散された画像の情報が元の写真と一致しなければ、その真偽を判断するのは簡単です。

これらの製品は、ジャーナリスト、メディア企業、政治キャンペーン、法執行機関（FBI、NSA など）、保険会社（偽の事故写真による保険金請求問題に直面している）、大企業（Facebook、Twitter、Reddit、PornHub など）が、プラットフォーム上での偽の動画、音声、写真の拡散を防ぐのに役立つことを期待しています。

ディープフェイクはビデオの偽造の閾値を下げるからです。検証が難しい動画を前に、記者はそれを公表すべきか分からず、保険会社は賠償金を支払うべきか、詐欺として警察に通報すべきか分からず、警察が証拠を集めた後には、写真や動画の信憑性を検証するための専門的なツールも必要となる。

現在出回っているフェイク動画のほとんどは「浅はかなフェイク」ですが、その数が多いため、数え切れないほどのトラブルを引き起こしています。スタンフォード大学の研究者たちは、鑑定会社から、彼らを悩ませている3つの大きな問題について学びました。それは、量が多すぎること、鑑定に使える時間が短すぎること、標準化されたツールが不足していることです。

そのため、研究者たちは大規模に適用できる偽造防止方法を模索しています。 FacebookやTwitterなどのソーシャルネットワーク上で写真や動画が爆発的に拡散したことにより、噂を反駁する時間はますます短くなっている。また、一般の人が専門家を雇って身元確認を行うことも不可能です。

初の商用画像検証プラットフォームであるTruepicが、スマートカメラアプリケーションをリリースしました。ユーザーが撮影した画像はサーバーにアップロードされ、写真や動画は作成時に認証され、固有のコードが取得されます。カメラ アプリはデバイスのセンサー データをキャプチャし、送信前に写真やビデオを暗号化し、20 を超える画像フォレンジック テストを実行し、数秒以内に画像の暗号署名をパブリック ブロックチェーンに印刷して、情報を不変にします。

これは「無実を証明する」方法であり、電子商取引プラットフォームや市民ジャーナリストなどのユーザーに適しています。ユーザーが受信者に写真を送信する場合、Truepic を使用すると、受信者は画像の出所とメタデータの整合性を確認できます。 2 回目に配信されるマルチメディア資料は、ブロックチェーン上の元の情報と比較して、真偽を判断できます。

ディープフェイクの脅威の下、写真や動画の真偽を識別することがカメラアプリのセールスポイントとなっている。しかし、これらの営利目的の製品は、ユーザーの間で新たなプライバシーの懸念を引き起こしています。結局のところ、Truepic が悪事を働かないことを誰が保証できるのでしょうか?

アルゴリズム対アルゴリズム

シリコンバレーのSRIインターナショナルAIセンターは、偽造の兆候をより正確に識別できるよう、アルゴリズムを偽のビデオで訓練することで「火に火をつけて戦っている」。人々がソーシャル ネットワーキング サイトにビデオをアップロードする場合、プラットフォームはビデオを再エンコードする必要があります。今は偽の動画を検出するのに最適な時期です。

しかし、ディープフェイクの脆弱性が最適化されるにつれて、アルゴリズムを使ってアルゴリズムに対抗することがますます困難になってきています。

偽造防止 AI はもともと偽造 AI のトレーニングの一部であり、この 2 つは生成的敵対ネットワークの両端に位置します。悪魔は生成者であり識別者であり、常に善よりも強い。

ディープフェイクの技術はデータを改ざんすることなので、識別側はデータの改ざんの痕跡を探しています。 1 つの方法は、ピクセルベースのビデオ検出です。ビデオは実際には、連続して再生される数千フレームの画像です。各ピクセルの変化の痕跡をすべて詳細に検出するのは、大規模なプロジェクトです。

さらに、偽の表情には現在欠陥があります。偽の表情は顔の他の部分と一致しないことが多く、コンピューター アルゴリズムは画像やビデオでそのような不一致を検出できます。

カリフォルニア大学バークレー校の研究者が本物の顔と偽物の顔を比較

たとえば、第一世​​代のディープフェイク動画の登場人物は、やや奇妙な点滅をしていました。

ニューヨーク州立大学アルバニー校のコンピューターサイエンス准教授であるSiwei Lyu氏は、成人のまばたきの間隔は2～10秒で、1回のまばたきには10分の1秒から4分の1秒かかると書いています。これは通常のビデオのキャラクターが持つべき点滅頻度ですが、ディープフェイク ビデオの多くのキャラクターはこれを実行できません。

当時は、目を閉じた画像データが不足していたため、アルゴリズムのトレーニングが完璧ではなく、動画内の登場人物の顔に「何かおかしい」という違和感が常にありました。

ただし、目を閉じた顔の画像やビデオシーケンスを使用してトレーニングすることで、まばたきの間隔を改善できます。偽のビデオの品質は常に向上しており、研究者はそれらの脆弱性を検出する方法を見つけ続ける必要があります。

南カリフォルニア大学の研究者ワエル・アブド・アルマギード氏は、ソーシャルネットワークはアルゴリズムを使って大規模にディープフェイクを識別することができると述べた。このプロセスを自動化するために、研究者らはまず、人間が話すときの動きの重要な特徴を「学習」するニューラル ネットワークを構築しました。研究者らはこれらのパラメータを使用して、偽のビデオの積み重ねられたフレームを AI モデルに入力し、時間の経過に伴う不一致を検出しました。

パデュー大学の研究者も同様のアプローチを採用した。彼らは、モデルのトレーニングに使用されるディープフェイク動画データの量が増えるにつれて、モデルの精度が高まり、偽の動画を検出しやすくなると考えている。

2020年の米国大統領選挙が近づく中、研究者たちの差し迫った懸念の一つは、ディープフェイクが下品な娯楽から世論操作へと進化するのをいかに防ぐかということだ。ワンクリック偽造防止のスピードがワンクリック顔変更のスピードに追いつくことを願っています。