来年1月1日からAIフェイク動画は自由に公開できなくなる

新しいルールが登場します。

今回公布された「オンライン音声・動画情報サービス管理規則」では、ディープラーニングが直接4回言及されており、基本的にはAI偽動画に対する標的型規制とみなすことができます。

2017年末にディープフェイクの顔を変える技術が登場して以来、AI技術を使ったさまざまな偽動画が次々と登場している。さらに、技術の進歩により、偽動画は真偽の判別がますます困難になっており、これも世界中で懸念を引き起こしている。

今では、AI テクノロジーを悪用することはできません。

中国の友人の皆さん、AIによる顔の修正やその他の操作でビデオを制作する場合は、これらの新しい規制に注意してください。

一般ユーザーの場合:

非実際の AI オーディオおよびビデオを公開する場合は、目立つようにマークする必要があります。
AI技術をフェイクニュースの作成に使用してはならない。

サービスプロバイダーの場合、上記の要件に加えて、次の要件もあります。

AI オーディオおよびビデオサービスを開始する前に、セキュリティ評価を実施する必要があります。
非正規の音声およびビデオ識別テクノロジーを導入します。
明確にマークされていない非現実的な AI オーディオおよびビデオコンテンツの配信を適時に停止します。
噂を反駁する仕組みを構築し、改善する。

関連する規制および条項のスクリーンショットを以下に掲載します。

新しい規制は来年1月1日から施行される。

「オンライン音声・動画情報サービスの管理に関する規則」の詳細については、次のページをご覧ください：http://www.cac.gov.cn/2019-11/29/c_1576561820967678.htm

[[284289]]

ディープフェイクは世界を「変える」

世界はディープフェイクなどのディープラーニングベースのAI技術に対処する方法を模索しています。

結局のところ、この技術は顔を変えるために使うことができます。

体を偽造するためにも使用できます。

Twitterは今月、ディープフェイク対策戦略の初版を公開し、一般からのフィードバックを求めた。草案によれば、ディープフェイクコンテンツが個人の安全を脅かしたり、重大な危害を引き起こす可能性がある場合は削除される。

マイクロソフトやグーグルなど海外企業も、顔を入れ替えた動画を自動的に判別する方法を研究している。

AIによる偽動画は、ここ数カ月、米国議会で最も議論を呼んでいる話題の一つでもある。これに先立ち、戦略国際問題研究所（CSIS）は、インターネットを通じて偽情報が急速に広がり、民主主義のプロセスを損なっているとする報告書を発表した。

人民日報の報道によれば、

ディープフェイクは民主主義を弱体化させるツールだと考えられている。米国の諜報機関が発表した2019年の世界的脅威評価では、悪意のある攻撃者や戦略的競争相手がディープフェイク技術や同様の機械学習技術を使用して、本物そっくりだが偽の画像、音声、動画ファイルを作成し、米国とその同盟国に対する活動の影響を増大させる可能性があると警告した。
CNBCは報道の中で、「ディープフェイク」は「2020年の米国大統領選挙における一大イベント」になるだろうと述べた。 2016年の「フェイクニュース」と同様に、「ディープフェイク」動画は2020年の米国選挙でさらに激しい流血を引き起こすだろう。

2019年10月、カリフォルニア州知事ギャビン・ニューサムは、政治家の言動について国民に誤った、または有害な印象を与える虚偽の情報を流布することは犯罪であると明確に規定したAB-730に署名した。

7月には、米国バージニア州もディープフェイクの乱用を禁止する条例を発令した。写真や動画が本物か偽物かに関わらず、関係者の許可なく他人のヌード動画や写真を共有することは違法となる。

今年6月、スタンフォード大学、プリンストン大学などの大学が新たな研究結果を発表した。それは、どんなテキストでも与えられれば、動画の登場人物のセリフを自由に変更できるというものだ。さらに、キーワードを変更した後でも、改ざんの兆候がまったくなく、キャラクターの唇の動きが信じられないほど正確に一致します。

AI はビデオ詐欺だけでなく、音声詐欺も可能です。

実際の事例を見てみましょう。

誰かがAI技術を使って上司の声を偽造し、送金依頼の電話をかけた結果、ある会社が騙されて173万元を失った。この会社は英国に本社を置くエネルギー会社です。

一度不正行為をした直後に二度目の不正行為をしようとしていなかったら、この詐欺はこんなに早く発覚しなかったかもしれない。

完璧な顔の変化

ディープフェイクの威力をまだ見たことがないなら、ネットユーザーによる最高の作品をいくつか紹介します。

以前、「変顔兄さん」という名のビリビリユーザーが、『射雕英雄伝』でアテナ・チュウが演じた黄容の顔を楊冪の顔に差し替え、加工した動画をビリビリに投稿した。

これに似ているのは、徐錦江がアクアマンとして演じる、顔を変える役柄だ。

「帰宅の誘惑」の男性主人公の顔が、「ピンルーの服を着ている」女性キャラクターのエリーの顔に置き換えられました。

[[284292]]

今のところこれ以上の例は挙げません。

AIが自分の声を真似する感覚を試してみたい場合は、Sogou入力方式の「音声変更」機能をお試しください。