研究者らは、業界の偽造防止技術を促進するために、ディープフェイクAIによる音声偽造攻撃と防御の綱引きを開始した。

7月10日、DeepFakeは特定の人物の写真、動画、音声を生成できる一連のAIモデルの総称であると報じられた。モデルが生成したさまざまな情報は、さまざまな企業や組織の認識システムを比較的簡単に回避できる。そのため、DeepFakeを軸にしたブラック産業も数多く存在し、DeepFakeが生成したコンテンツをいかに正確に判別するかが課題となっている。

IT Homeは、カナダのウォータールー大学の研究者2人、アンドレ・カシス氏とウルス・ヘンガルトナー氏が、音声認証システムを99%の確率で欺くことができる新しい音声ディープフェイクソフトウェアを開発したと報じた。このソフトウェアは機械学習ソフトウェアを使用し、非常にリアルな音声をシミュレートするのに5分間の音声録音のみを必要とする。

ユーザーが音声認証で登録すると、特定のフレーズまたは文章を繰り返すように求められます。

システムはユーザーの音声に基づいて声紋（音声指紋）を抽出し、サーバーに保存します。

今後認証を試みると、別のフレーズを話すように求められ、そこから抽出された特徴がシステムに保存されている音声指紋と比較され、アクセスを許可するかどうかが判断されます。

▲ 画像出典: uwaterloo ウェブサイト

他のセキュリティ研究者もこの新しい音声ディープフェイクソフトウェアに反応しており、 Amazonの研究者は音声サンプルをチェックしてその信憑性を判断しようとしている。

▲画像出典：Pindropウェブサイト

カシス氏とヘンガルトナー氏は、合成音声内のマーカーを識別し、AIにとって重要な部分を自動的に削除してシステムが区別できないようにすることで、Amazonの仕組みを回避する方法を開発した。

一方、音声認証セキュリティメカニズムの開発を専門とするPindropは、このメカニズムは信頼性が高くないと考えています。つまり、「攻撃者は生成された音声クリップ内のAI機能を備えたセグメントを削除できますが、防御者はIPアドレスの検出、特定の音声情報の要求など、同時に複数の角度からオーディオセグメントの真正性を判断できます」ため、DeepFakeを使用する攻撃者は依然として検出される可能性があるということです。

▲画像出典：Pindropウェブサイト

しかし研究者のピンドロップ氏は、ディープフェイク音声に対抗するために使用されている既存のシステムには多くの欠陥があり、安全なシステムを構築する唯一の方法はハッカーのように考えることだとも指摘した。また、本人認証に音声のみに依存している企業は、詐欺に遭って金銭的損失が発生するのを防ぐために、追加の認証手段を導入すべきだとも提案した。