ディープフェイクが流行中！誰かがこれを使ってロシアの野党の人物を真似し、ズームで欧州の国会議員を「からかう」

[[399266]]

ビッグデータダイジェスト制作

著者: 王 イエ

最近、欧州の一部の上級議員は困惑している。

彼らは何人かの「ロシアの野党関係者」からビデオ会議の招待を受け、クリミア問題などの政治問題について真剣に議論した。これらのいわゆる「ロシアの野党関係者」は、全員、ディープフェイクを使って顔を置き換えた他人のなりすましであることが判明した。

犠牲者にはラトビア議会の外交委員会委員長リハルト・コルス氏やエストニアとリトアニアの議員が含まれていた。英国の外交特別委員会の委員長トム・トゥーゲントハット氏も、自分が標的になっていると語った。

ディープフェイクは、エンターテインメント業界から国際政治にまで浸透しました。

チャットの後、彼は騙されたことに気づいた。ラトビア議会の外交委員会の委員長はツイッターで不満を述べた。

今月初め、ボルコフ氏を名乗る人物がラトビア議会の外交委員会のリハルト・コルス委員長に電子メールで連絡し、ロシアの政治とクリミア半島について議論するために短いビデオ会議を行った。

リハルト・コールズさんは、自分がハイテクいたずらの被害者だったかもしれないと気づいたのは後になってからだったと語った。

リハルト・コールズ氏はツイッターに2枚の写真を投稿した。左は本物のロシア野党指導者レオニード・ヴォルコフ、右はビデオ会議でディープフェイクによって生成されたレオニード・ヴォルコフだ。

「これは非常に痛い教訓だが、おそらく、この偽ヴォルコフがリトアニアとエストニアの同僚である私たちにこの教訓を教えてくれたことに感謝すべきだろう」と彼は書いた。 「いわゆる真実の崩壊、あるいはポスト真実・ポスト事実の時代が、国内的にも国際的にも、国家、政府、社会の安全と安定を深刻に脅かす可能性があることは明らかだ。」

ヴォルコフ氏は当然ながら、他人になりすまされたことに憤慨しており、ツイッター上で西側諸国の政府関係者を頻繁に狙うロシアのいたずら「専門家」２人組、ウラジミール・クズネツォフ氏（ヴォーバン）とアレクセイ・ストリアロフ氏（レクサス）がこの事件の背後にいると非難した。

[[399267]]

多くの国の政治家をパロディー化したウラジミール・クズネツォフ（ヴォーヴァン）とアレクセイ・ストリャロフ（レクサス）

アレクセイ・ストリアロフ（レクサス）はフェイスブックでリハルド・コルスに連絡を取り、リハルド・コルスと話したことを否定せず、「このことは秘密にする」と述べた。彼は、自分をボルコフに似せるためにディープフェイクを使用したことを否定し、「ボルコフが誤った情報を受け取った可能性が非常に高い」と書いた。

顔を変える技術を支えるディープフェイク

北京テレビが呉秀波の顔を差し替えたことから、顔を変えるアプリ「Zao」の急速な衰退、そして今や国際政治の「濁流」に至るまで、ディープフェイクの背後にある技術は、AI界では長らくよく知られた名前となっている。

ディープフェイクとは、AIのディープラーニングを利用して、写真に写っている人物の顔を別の人物の顔に置き換える技術です。この技術により、非常にリアルな「偽の」ビデオや写真を作成できるため、「フェイススワッピング」という名前が付けられています。

研究者たちは、このアイデアを実現するためにオートエンコーダニューラルアーキテクチャを使用しました。基本的な考え方は非常にシンプルです。顔ごとに、エンコーダーと対応するデコーダーのニューラル ネットワークのセットをトレーニングします。エンコード時には一人目の人物の写真が使用されます。デコード時には、2 番目のパーソナル デコーダーが使用されます。

トレーニングの部分では、この料理に挑戦するには、各人のさまざまなポーズの写真を何百枚も集める必要があります。呉秀波のようなスターをトレーニングに使うのは簡単です。結局のところ、インターネット上には公開されている写真やビデオが大量にあるからです。

画像が不十分な場合は、既存の動画から抽出することもできます。ニューラル ネットワークがトレーニングされ、各人の顔の特徴を学習すると、その人がまだとっていないポーズを自ら予測できるようになります。

たとえば、John Oliver を生成するためのトレーニング。

[[399269]]

この技術が登場する前は、顔を変えたい人は手動のPSに頼るしかありませんでした。これには多くの人手と時間が必要であり、すべてのフレームを変更する必要があるため、ビデオ内の顔を変更するのはさらに困難です。

しかし、「ディープフェイク」と呼ばれるソフトウェアが匿名でオープンソースとして公開されて以来、すべてが変わりました。

同様の顔を変えるソフトウェアとして、「DeepFaceLab」というものがあります。

[[399270]]

Github でオープンソースを公開 👇

リンク: https://github.com/iperov/DeepFaceLab

ディープフェイクが政治をかき回す、テクノロジーは最後の防衛線か？

2019年、ナンシー・ペロシ米下院議長との会話を撮影したディープフェイク動画がソーシャルメディアに登場した。この動画はトランプ大統領によってシェアされ、フェイスブックで250万回以上再生された。

これに先立ち、オバマ大統領の顔がトランプ氏を攻撃するために「借りられ」、その動画もウェブサイト上で480万回再生された。

トランプ氏自身もこの災難から逃れることはできなかった。シアトルのテレビ局はかつてトランプ氏の演説のディープフェイク動画を放送した。動画の中でトランプ氏は顔を赤らめ、時折おかしな表情を浮かべていた。ディープフェイク技術は大統領を含むあらゆる公務員に対して使用できるため、米国の両党は、この技術が米国や他の西側諸国に対する偽情報戦争の最新兵器となることを懸念し始めている。

2019年6月13日、米国下院情報委員会は人工知能ディープフェイクに関する公聴会を開催し、ディープフェイク技術が国家、社会、個人に及ぼすリスクや、その予防・対応策について公開討論した。

法律や規制は正式な企業の技術を制限することしかできませんが、個人の行動を防ぐことは困難です。例えば、今回は誰かが「ロシアの野党勢力」を装い、欧州の上級議員グループを騙した。今のところ、誰も犯行声明を出していないし、誰がその背後にいるのかはわかっていない。

おそらく、魔法を打ち破ることができるのは、やはり魔法だけでしょう。ディープフェイクは技術的な手段で検出できるのでしょうか? 答えはイエスです。

ディープフェイクがオープンソース化された直後、フェイスブックの最高技術責任者マイク・シュローファー氏はブログ記事を公開し、同社がマイクロソフトやMIT、オックスフォード、その他の大学の研究者らと協力し、データセットとベンチマークテストを通じてディープフェイクの顔を入れ替えた動画を検出する方法を探る「ディープフェイク識別チャレンジ」を主催すると発表した。

米国国防総省も、フォレンジックと呼ばれる画像識別技術を開発しました。彼らのアイデアは、一貫性のない照明、影、カメラのノイズなど、画像やビデオの不一致を探すことです。

カリフォルニア大学リバーサイド校の学者らも、ディープフェイク画像を検出するための新しいアルゴリズムを提案した。繰り返しになりますが、アルゴリズムの 1 つのコンポーネントは、一種の「リカレント ニューラル ネットワーク」であり、問​​題の画像を小さなパッチに分割し、それらのパッチをピクセルごとに調べます。ニューラルネットワークは何千ものディープフェイク画像を検出するように訓練され、単一ピクセルレベルで偽物の特徴のいくつかを発見した。

清華大学人工知能研究所が育成したRealAIチームは、ディープフェイクによって生成された偽の動画は「不自然な」質感を持つため、大量の動画でニューラルネットワークをトレーニングし、通常の状況での質感の特徴を学習させ、これを使って偽の動画の不一致な質感を検出していると主張した。この技術を使用すると、偽のビデオをフレームごとに 90% 以上の精度で検出できます。

しかし、欧州議会議員と偽の「ロシア反体制派」の人物とのこのビデオ会議はZoomで行われたが、どうやらZoomにはオンラインでディープフェイクを検出する技術的手段がまだ備わっていないようだ。

[この記事は51CTOコラムBig Data Digest、WeChatパブリックアカウント「Big Data Digest（id: BigDataDigest）」のオリジナル翻訳です]

この著者の他の記事を読むにはここをクリックしてください