AIディープフェイク技術の2つの側面

著者 | 李世馨

翻訳者 | 朱 仙中

編纂者：Qianshan

人工知能に関する議論にはしばしば論争が伴います。人工知能ディープラーニング分野の一分野として、ディープフェイク技術が近年急速に登場しました。この技術は、「百聞は一見に如かず」ということを如実に示しています。当初、この技術は主に娯楽目的で使用され、友人にいたずらをしたり、有名人をからかったりしていました。その後、ディープフェイクは徐々に「政治に進出」し、政治的中傷、軍事的欺瞞、経済犯罪、さらには国家間のテロ行為のための新しいツールを提供しました。

導入

今年3月初旬、ウクライナのウォロディミル・ゼレンスキー大統領の「ビデオ」が広く出回った。ゼレンスキー大統領はビデオの中で、ウクライナ軍に対し武器を捨ててロシアとの戦いを放棄するよう呼びかけた。このビデオはすぐにネット上で拡散したが、すぐにディープフェイクの頭部交換「ビデオ」であることが暴露された。このビデオは、戦争状態にある国家元首をターゲットにした初のディープフェイクビデオであり、新しい形の世論戦を予兆するものである。

コインの表裏

ディープフェイク技術は役に立つのか？確かに。たとえば、パーキンソン病患者は音声クローンを使ってコミュニケーションをとることができるようになります。例えば、患者のプライバシーを保護するために、医療用ビデオデータ内の顔をディープフェイクして別人に似せることで、患者が病気であることが無関係な人に知られないようにすることができます。また、プライバシーに関わる医療データセットを公開することもできるため、医療AI研究者にとって利便性が高まります。

しかし、世の中のコインには必ず表と裏がある。ディープフェイクには「悪」の側面もあります。

ディープフェイク技術の進歩により、音声フィッシングの試みはこれまで以上に信憑性が高くなっています。ディープフェイク音声技術を利用することで、脅威の攻撃者はターゲットになりすまし、音声認証メカニズムなどのセキュリティ対策を回避して不正な取引を承認したり、被害者の連絡先を偽装して貴重な情報を収集したりすることができます。

さらに深刻なのは、国家安全保障のレベルで、ディープフェイクが世論を改変し、社会的対立を煽り、選挙を操作するために意図的に使用される場合、そのような技術は社会全体の民主主義を損なう可能性があるということです。

上の画像はワシントン大学の研究者が作成したバラク・フセイン・オバマに関する詳細な研究を示しています。報告書では、研究者らが人工知能技術を使い、第三者を通じて偽のオバマ演説動画を偽造し、演説動画内のオバマ前米大統領の顔の動きを真似ることに成功したとしている。

混乱を引き起こす

ディープフェイクは生成的敵対ネットワークに基づいて実装されます。生成的敵対ネットワークは、2 つのニューラル ネットワークを互いに競合させることで学習する教師なし学習の方法です。

生成的敵対ネットワークは、生成ネットワークと識別ネットワークで構成されます。生成ネットワークは潜在空間からランダムにサンプルを入力として取得し、その出力はトレーニング セット内の実際のサンプルを可能な限り模倣する必要があります。判別ネットワークの入力は、実際のサンプルまたは生成ネットワークの出力です。その目的は、生成ネットワークの出力を実際のサンプルと可能な限り区別することです。生成されたネットワークは、識別ネットワークを可能な限り欺く必要があります。 2 つのネットワークは互いに競合し、パラメータを絶えず調整します。最終的な目標は、判別ネットワークが生成されたネットワークの出力結果が真であるかどうかを判断できないようにすることです。

ディープフェイクの背後にある技術は複雑に聞こえるかもしれませんが、この「頭部交換技術」を使用して偽物を作成するのは実際には非常に簡単です。 Faceswap や ZAO Deepswap など、ディープフェイク効果を数分で生成できるオンライン アプリケーションはすでに市場に数多く存在します。

Google Colaboratory は、複数のプログラミング言語のソース コードを保存するオンライン コード リポジトリです。オープン コードには、偽の画像や偽のビデオを生成するために使用できるソース コードの例が含まれています (https://colab.research.google.com/github/AliaksandrSiarohin/first-order-model/blob/master/demo.ipynb)。

このソフトウェアは世界中でアクセス可能なので、多くの一般ユーザーが潜在的なセキュリティリスクを認識せずにディープフェイクを使用して、さまざまな程度、あるいは深刻な損害を社会にもたらしているという事実は容易にわかります。

Deep Nostalgia のような企業が提供する顔交換アプリやオンライン サービスが広く普及していることは、ディープフェイクがいかに急速に一般大衆に広く受け入れられるかを示している。 2019年だけでも、ディープフェイク技術を使って偽造された動画が約15,000本検出された。明らかに、この数は急速に増加すると予想されます。

ディープフェイクは、検証に時間のかかる、信じられる偽ニュースを作り出すことができることから、偽情報キャンペーンに最適なツールです。同時に、偽造品によって引き起こされる損害、特に人々の評判に影響を与える損害は、永続的で取り返しのつかないものになることが多いです。

百聞は一見に如かず？

ディープフェイクの最も危険な結果は、政治キャンペーンで虚偽の情報を提供するために利用されることであると言えるでしょう。

その強力な例は、ドナルド・トランプ氏が、好ましくないメディア報道を「フェイクニュース」と呼んでいることである。批判者たちがフェイクニュースを広めていると非難することで、トランプ氏は偽情報を利用して自身の悪行を正当化し、プロパガンダの道具として利用することができるのだ。

トランプ氏の戦略は、「実際の出来事や話はフェイクニュース、あるいは偽物だ」と主張し、不信感と偽情報に満ちた環境の中で支持を維持することを可能にしている。

その結果、政府やメディアの信頼性が損なわれ、不信感という悪影響が生じています。偽造品や粗悪品が増加する中、政治家が新たなスキャンダルの責任を否定するのは簡単だ。ビデオ内で本人が身元を否定した場合、どうやって本人確認をすればいいのでしょうか?

一方、民主主義国家は言論の自由を守ろうと努めているが、虚偽の情報と闘うことは常に課題となっている。人間とロボットを組み合わせるなどの技術は、人間が情報を検証できるようにすることで、偽造のリスクの増大に対処するのに役立ちます。さらに、情報を偽造し他人になりすます偽造品の製造者を処罰するために、新たな法律を導入したり、既存の法律を利用したりすることも検討できるだろう。

さらに、民主主義社会を偽情報から守るためには、国際政府、国家政府、民間企業、その他の組織を巻き込んだ学際的なアプローチが不可欠です。人工知能が国家安全保障に与える影響は、世界中の国々にとって重要な焦点および研究課題となっています。

翻訳者紹介

Zhu Xianzhong 氏は、51CTO のコミュニティ エディターであり、51CTO の専門ブロガー兼講師であり、濰坊の大学のコンピューター教師であり、フリーランス プログラミング コミュニティのベテランです。初期にはさまざまな Microsoft テクノロジに注力し (ASP.NET AJX および Cocos 2d-X に関連する 3 冊の技術書を編纂)、オープンソースの世界に 10 年近く携わってきました (人気のフルスタック Web 開発テクノロジに精通)。OneNet/AliOS+Arduino/ESP32/Raspberry Pi をベースとした IoT 開発テクノロジや、Scala+Hadoop+Spark+Flink などのビッグデータ開発テクノロジを理解しています。

元のタイトル: ディープフェイクは騙されないと思っていませんか? 残念ながら、それは間違いです

リンク: https://thenextweb.com/news/deepfakes-fool-you