ディープフェイク動画が急速に広まっている。ブロックチェーンがこの「疫病」を阻止できるかもしれない

「フェイクニュース」という言葉が今話題になっているが、ディープフェイク（本物に見えるが実は偽の動画を加工する行為）は国民とメディアの不信の危機をさらに悪化させるだろう。技術者たちは、ブロックチェーンの本来の特性を利用して信頼システムを再構築し、人々が見たり聞いたりするものに対する信頼を取り戻せるようにしたいと考えています。

今日、真実は徐々に比較的有効な表現になりつつあります。誰もが自分なりの真実を持っていると、民主主義は無意味になります。ディープフェイクの出現は社会全体に大きな打撃を与えました。ますます多くの人々が、自分の見解や目的に基づいて事実を簡単に作り上げることができるようになったのです。わずか数年で、私たちの目や耳では、ビデオやオーディオのコンテンツが本物かどうかを判別できなくなります。つまり、人類社会は新たな課題に直面しているのです。

「ディープラーニング」と「偽造」を組み合わせると、ディープフェイクが生まれます。これは、人工知能によってサポートされるスーパーPSテクノロジーとして理解できます。既存の主題に関連する十分なデータ（または資料）が提供できる限り、ディープフェイクアルゴリズムを使用してビデオコンテンツを操作することができ、人間が欠陥を検出することはほぼ不可能になります。

ディープフェイクの社会的影響

ディープフェイクは世論を変えたり、選挙結果を左右したり、人種間の暴力を引き起こしたりする可能性がある。個人攻撃レベルの偽のプロパガンダ手法は目新しいものではないが、ディープフェイクの出現により、情報偽造の手段は新たなレベルに達した。 AI技術の急速な発展とソーシャルメディアの急速な普及により、ディープフェイクは人類の発展を脅かす最も恐ろしい技術の一つとなるかもしれない。

ディープフェイクには、2つの理由からゲームのルールを変える力もあります。まず、ディープフェイクは現在の AI テクノロジーが実現できる複雑さのレベルを表しています。第二に、そしてより重要なのは、テクノロジーへのアクセスが急速に民主化していることです。

ディープフェイクの重要性は社会的なものではなく、非常に個人的な行動として現れる可能性があります。匿名のRedditアカウントがディープフェイク技術を使用して、有名人の偽動画（主にポルノビデオ）を大量に作成していることが広く知られるようになった。著者のサブレディットは2018年2月にすでに禁止されていたが、彼のビデオ作品は今でもインターネット上で広く流通している。

しかし、ディープフェイクの人気により、新たな応用分野が生まれています。もはや有名人だけが潜在的な被害者ではありません。今日ではアクセスが非常に広く、参入障壁が低いため、誰でも「復讐」ビデオを作成できます。

ソフトウェアエコシステム

それ以来、ディープフェイク詐欺の解決に特化したスタートアップ企業が数多く市場に登場しており、Ambervideo.co はその中でも最も優れた企業の 1 つです。偽のビデオにより、本物の記録が正当な証拠として機能することがますます困難になっていることを考慮して、Amber は悪意のある変更を検出するための中間層を構築したいと考えています。さらに、検出および検証技術ソリューションの開発にも力を入れています。

これを検出するために、Amber にはビデオトラックとオーディオトラック、およびその中のさまざまな要素を調べて、変更の兆候がないか調べるソフトウェアツールがあります。 Amber は、ビデオ修正プロセス中に残された特定のパターンに適応できるように独自の AI モデルをトレーニングしています。

このアプローチの問題点は、AI は過去に発生したパターンからしか学習できないため、反応メカニズムに大きく依存していることです。この認識方法では、新しいディープフェイクアルゴリズムをほとんど検出できないため、この検出方法は長い間、最先端の世代技術に遅れをとることになると一般に考えられています。

この問題を解決するために、Amber は、録画直後に暗号化された指紋をビデオに追加する検証技術を開発しました。 Amber Authenticate はブロックチェーンインフラストラクチャを利用して 30 秒ごとにハッシュを保存するため、これらのハッシュに影響を与えるアクティビティはすべて改ざんとみなされる可能性があります。

ディープフェイク問題に対処するには、Amber などのソフトウェアソリューションに加えて、ハードウェアソリューションのサポートも必要です。 Signed at Source などの企業は、関係者にカメラ統合製品を提供することで、キャプチャされたデータの署名を自動化しています。ディープフェイク動画は、自動的にキャプチャされたデータと同じ署名情報を提供する可能性は低いため、どのカメラが動画を録画したかを証明でき、追跡可能性と偽造識別作業が完了します。

実際の使用例

2019年10月3日、米国法執行機関向け技術サプライヤーであるAxon Enterpriseは、携帯カメラ向けの新たなデータ追跡技術を研究しており、ブロックチェーン技術を使用して警察官の携帯機器で撮影された動画の真正性を検証すると発表した。

ディープフェイク関連の問題に取り組んでいる組織は Axon だけではない。国防高等研究計画局（DARPA）のメディアフォレンジックプログラムは、「画像やビデオの完全性を自動的に評価する技術」を開発しています。ビデオが改ざんされたかどうかを証明するのに役立つように、Factom Protocol は Off-Blocks と呼ばれる新しいソリューションを考案しました。 Factom Protocolのマーケティングディレクター、グレッグ・フォアスト氏は次のように述べています。

「ニュース、コンテンツ、文書の正確さを検証する中で、ディープフェイク技術の台頭は私たちの社会にとって大きな脅威となっています。ディープフェイク技術が普及し、よりアクセスしやすくなるにつれ、動画形式で提示されるものすべてを信頼することが難しくなるかもしれません。これはデジタルアイデンティティの境界を曖昧にする危険な傾向であり、私たちはこの課題を最も厳格なセキュリティ対策に組み込む必要があります。」

フォースト氏は、開発者、ブロックチェーンの伝道者、サイバーセキュリティの専門家も、ディープフェイクによって引き起こされる被害を軽減するためのさまざまな方法の模索に注力すべきだと考えている。真正性を証明するデジタルソリューションの能力は、偽造コンテンツを排除するために不可欠です。残念ながら、このようなソリューションでは、現時点ではデジタルメディアの履歴や公開を追跡する機能は提供されていません。

ブロックチェーンは救世主になれるのか？

Axiom の法執行機関のランダムカメラを例にとると、ビデオはソースレコーダーでフィンガープリントされます。これらの指紋は不変のブロックチェーンに書き込まれ、デバイスによってダウンロードされ、クラウドにアップロードできます。これらのイベントはスマートコントラクトに記録され、監査証跡インデックスのコンパイルを担当します。

[[280157]]

Axiom が使用する技術は「制御キャプチャシステム」と呼ばれ、その用途は警察のカメラだけにとどまりません。コンテンツソースから署名を抽出し、暗号的に署名することで、ビデオ録画を検証可能にすることができます。

しかし、ビデオはエンコードされていることが多いため、理想的な状況下でも元のデータを取得することは困難です。さらに、ビデオが少しでも変更されると、署名は有効ではなくなります。問題はエンコードだけではありません。誰かが元のカメラ以外のものを使用してビデオを書き起こした場合、元のビデオデータへのアクセスも失われます。

Google のコンテンツ ID は実行可能な解決策となる可能性があります。このサービスはもともと著作権侵害を発見するために開発されたが、後にディープフェイク活動の検出にも使用できることがわかった。 Google はシステム開発に 1 億ドル以上を投資し、ユーザーがアップロードした動画を登録済みの参照動画のセットと照合するアルゴリズムを作成し、部分的な一致や軽微な変更による信頼性への影響を排除しました。

しかし、このアルゴリズムはディープフェイクコンテンツがオリジナルのコピーと非常に類似している場合にのみ機能します。さらに、多数の指紋を維持し、変化するアルゴリズムを適応させることは、データと計算の要件に大きな影響を与えます。ブロックチェーン技術がディープフェイクの脅威に対処できるかどうかについて議論し、ファクトムのフロスト氏は次のように付け加えた。

「ブロックチェーン技術は、ディープフェイクに関してユニークなソリューションとなる可能性を秘めています。ブロックチェーン上で動画コンテンツを作成し、検証タグやグラフィックを組み合わせることで、ディープフェイク行為のハードルを高く設定できます。…デジタルアイデンティティは、コンテンツのソースと作成者を強調する必要があります。ニュース業界や映画業界がこのソリューションを検討していることはわかりますが、潜在的な操作者は正当なユーザーとして登録し、ディープフェイクファイルをシステムに挿入できるため、状況はまだかなり難しいです。ブロックチェーン上であっても、悪いデータは悪いデータのままです。そのため、私はソリューションを組み合わせて使用することを好みます。」

通常、拡散と影響が非常に速いため、既存の検出技術が機能しないことがよくあります。ディープフェイク動画によって引き起こされた公共イメージのダメージは修復が困難になる可能性があり、人種や民族間の対立は急速にエスカレートし、事件が検証される前に個人間の関係さえも完全に崩壊する可能性があります。つまり、最大の問題は、今日では情報が広がるスピードが制御不能になっていることです。

ディープフェイクと戦うために協力する

Purple Quarter の COO 兼検索テクノロジー責任者 Roopa Kumar 氏は、テクノロジー自体の有害性を強調することが重要だと考えています。

「原子力エネルギーを例に挙げましょう。原子力エネルギーは何百万人もの人々に電力を供給するために使用できますが、悪意のある人の手に渡れば、一瞬にして何百万人もの人々を殺害することもできます。テクノロジー自体には道徳観念はありませんが、人間にはあります。ディープフェイクは、誰もが携帯電話で使用できる楽しいアプリケーションを作成するために使用できます。ただし、悪意のある人の手に渡ると、同じアプリケーションが私たちの慣れ親しんだ日常生活や社会構造さえも覆す可能性があります。」

今日、多くの人々は政府や銀行などの大規模な中央集権的な機関を信頼しなくなりました。ブロックチェーンの基本原則は、この不信の精神を強調しています。しかし、ブロックチェーン（およびテクノロジーエコシステム全体）だけでは、ディープフェイクと戦う責任を完全に担うには不十分です。

したがって、ディープフェイクと戦うにはすべての関係者が協力しなければなりません。ディープフェイク技術に取り組む開発者は、第三者が相互チェックできるようにコードをオンラインで公開することが義務付けられている。さらに、規制当局はこの分野をより適切に監督する方法を検討すべきである。最も重要なことは、一般の人々がこの技術を十分に理解し、情報を受け入れる前に合理的な判断を下せるようにすることです。

【編集者のおすすめ】