AI によってビデオの偽造が容易になるのでしょうか?

ああ、あの時のビデオテープが本当にあればよかったのに！ジェームズ・コミー氏は6月8日、上院情報委員会で激怒した。コミー氏が嘘をついていると非難されたときにそのような考えを抱いたとしても不思議ではない。元FBI長官がこのテープを欲しがったのは、私たちの社会では音声や映像の記録が真実を体現するものだと信じているからだ。目撃者の一方的な証言はビデオ映像よりもはるかに信憑性が低い。

[[220590]]

今日では、政治家が賄賂を受け取っていたり、兵士が戦争犯罪を犯していたり​​、有名人がエロチックに描かれていたりと、編集の明らかな兆候がないビデオを見ると、視聴者はそれが実際に起こったことだと推測できます。しかし、「百聞は一見に如かず」というこの世界は、AIによって覆されようとしている。

将来的には、データ分析と機械学習によって真実と虚偽を区別できるようになるという考えに私たちは慣れてきました。これらのテクノロジーが実際に嘘をつくのに役立つことに気付いている人は多くありません。音声およびビデオ詐欺は、AI の助けにより飛躍的な進歩を遂げました。近い将来、リアルな偽のビデオや音声が私たちの生活に時々登場するようになるだろう。真実は、真偽を問わず写真、録音、ファイル、ビデオの海に溺れており、人々が何を信じるべきかを知ることが困難になっています。

Lyrebird は、モントリオールを拠点とするディープラーニング技術のスタートアップ企業です。同社は、イントネーションやさまざまな声のトーンに至るまで、人間の声をリアルにシミュレーションすることに専念しています。たとえば、トランプ、オバマ、ヒラリーの声で話すことができます。さて、Lyrebird の模倣は非常に優れていますが、合成音声の歪みと機械的な性質は一般の人でも聞き取ることができます。いずれにせよ、技術は急速に発展しています。クリエイティブソフトウェア大手のAdobe社も、オーディオ版Photoshopの開発を目指して同様の製品の開発に取り組んでいる。

一方、スタンフォード大学の研究者たちは、ビデオ偽造技術において驚くべき進歩を遂げました。 AI ソフトウェアは、簡単にアクセスできるウェブカメラだけを使用して、YouTube 動画の人物の表情や唇の動きをリアルに変えることができます。

他の AI 研究グループは、画像認識技術を逆転させ、テキストの説明のみで画像を自動的に合成する方法を実証しました。この技術を開発した研究者の一人、ジェフ・クローン氏は記者団に対し、「今では、人々が本物の写真を送ってくると、それが偽物ではないかと疑い始める」と語った。そして、偽の写真が投稿されると、それが本物のように見えると感じます。なぜなら、最近の偽の写真の品質と基準は非常に高いからです。」

こうした安価で高品質な偽造技術は憂慮すべきものです。現在の開発速度では、2～3年以内に一般の人々が偽の音声を識別することは困難になり、5～10年後には、そのような偽の技術が少なくとも一部の法医学アナリストを騙すことができるようになるでしょう。 CGI に匹敵するかそれを上回る高品質のビデオ偽造ツールが一般に公開されると、偽造が情報エコシステムの大部分を占めることになります。この技術の発展は、ジャーナリズム、司法、政府のコミュニケーション、さらには国家安全保障に大きな影響を与え、証拠と真実に対する私たちの理解を変えるでしょう。

ロシアの諜報機関は現在、ニュース記事、ソーシャルメディアのコンテンツ、主流のウェブサイト上のコメントを捏造するために何千人もの常勤職員を雇用している。これらのトロールは数百万のソーシャル メディア アカウントを管理しています。彼らはこれらのボットアカウントを使用して政治的なツイートを投稿し、国の政治的議論を形成しています。オックスフォード・インターネット研究所のプロパガンダ研究プロジェクトは、ロシアで定期的に政治討論を推進するTwitterアカウントの半数がボットであることを発見した。これはロシアに限ったことではない。米国では、ロシアのソーシャルメディアボットが主流メディアにフェイクニュースを流す能力を示しており、その影響は米国の株価にも及んでいる。

これらのロボット軍団がフェイクニュースを捏造するだけでなく、本物と区別がつかない高解像度のビデオを自動的に生成できるとしたら、その結果は悲惨なものとなるだろう。テクノロジー業界と政府は、ただ座視すべきではない。技術開発によってもたらされる脅威は多面的です。だから私たちはそれについて何かしなければなりません。

これらの解決策の一部は技術的なものになります。犯罪者が PS を使用して偽造紙幣を作成するのを防ぐための技術的な手段があるのと同様に、AI 偽造技術の悪影響を軽減する方法や手段もあるかもしれません。ビットコインを保護するために使用されるブロックチェーン技術は、暗号化原理の保護により、各取引に暗号化された安全な記録が残り、同じ通貨が繰り返し使用されないようにするという可能性を提供します。ブロックチェーンの原理を利用することで、ビデオが作成された瞬間を間違いなく記録できるカメラとマイクを設計できます。ビデオの編集や改ざんを完全に防ぐことはできませんが、このテクノロジーにより、少なくともビデオが最初に作成された瞬間を安全かつ暗号化して保存できるため、専門家はその日以降のバージョンが変更されている可能性が高いことを認識できます。

その他の解決策としては、法律や規制の制定と実施が挙げられます。警察官や検察官は、ビデオや音声の証拠を収集するための基準を再考する必要があるかもしれない。匿名の電子メールに含まれるビデオ ファイルは、目撃証言を含む匿名の電子メールが今日では信頼できないのと同じように、無関係な情報とみなされる可能性があります。電話やビデオ通話はデジタル的に傍受されるだけでなく、デジタル的に偽装される可能性もあるため、近い将来、すべての業界で対面でのコミュニケーションが復活するかもしれません。

19 世紀後半、カメラと蓄音機が発明されて以来、社会は真実を探求するためにこれらの技術を活用し始めました。ニックス大統領はウォーターゲート事件について何も知らないと主張したが、テープによって彼の嘘が暴露された。しかし今、政府と業界が何もしなければ、私たちは真実を判断する基準のない社会で暮らすことになるでしょう。おそらく10年後には、ジェームズ・コミー氏の願いが叶い、トランプ氏との会話の録音テープが明らかになるだろう。しかし、その時までに、一般の人々も歴史家たちも、同じ疑問を自問することになるだろう。これらの録音は真実の証拠なのか、それとも単なる AI の偽造なのか？