インターネット大手が一斉に禁止、AIによる顔の改造はどこまで可能か？

​​

昨年、微博で話題になった動画を覚えている人はどれくらいいるだろうか。『射雁英雄伝』で朱茵娜が演じた「黄容」の役を楊冪が代用したのだ。変顔後、「黄容」の面影はなく、輪郭がはっきりし、表情も自然で、変顔したことは誰にも分からないほどだった。

​​

ここ数日、TwitterやFacebookなどのインターネット大手は、AIによる顔の入れ替えなどの偽動画を取り締まると発表した。たとえば、「明らかに欺瞞的に編集または捏造された」写真やビデオには、「虚偽」の警告が表示されます。これに先立ち、アルファントのYouTubeは、技術的に改変され「重大な危害のリスク」をもたらす可能性のあるコンテンツはすべて削除すると発表していた。

過去2年間、中国ではAI顔変換技術が大変人気を博している一方で、アリペイなどのソフトウェアによる顔認識技術の使用を中心に、一般の人々の間でプライバシーパニックも引き起こしており、AI顔変換技術がもたらす脅威を人々が再検討するきっかけとなっている。

AIによる顔の改造が本格化

実は、AIによる顔を変える技術は新しい技術ではありません。2017年末に、ディープフェイクと呼ばれるソフトウェアが中国で導入されました。このソフトウェアは、動画や写真の顔を任意の顔に置き換えることができ、リアルなレベルを実現できます。

有名な映画スター、スカーレット・ヨハンソンがポルノ映画のヒロインになったのは、このためでした。

[[315201]]

スカーレット・ヨハンソン

同様に、幅広い男性ユーザーファンを持つPornhubでは、AIによる顔変えが長年にわたりあらゆる主要女性有名人に使用されており、統計によると、Pornhubで最も関連性の高い作品はスカーレット・ヨハンソンに関するものだという。さらに、AIによる顔の変形技術を使って映画やテレビ番組を「翻案」するブロガーも、一部のウェブサイトに登場し始めている。

この悪風は中国にも波及し、多くのアクセスを集めた「アテナ・チューがヤン・ミーに変身」のほか、「徐錦江がサノスと戦う」や「洪世賢がエリーに変顔」など、ほとんどすべての古典的な映画やテレビのシーンがAIによる変顔で再生され、これらの動画はビリビリで広く流通し、驚異的な再生回数を記録している。

AIによる顔を変える動画を制作するソフトウェア「ZAO」もWeChat Momentsで話題となり、大人気となっている。これまでは、一部の動画愛好家だけが関連する操作スキルを習得し、動画上で顔を変える演出を施し、それを公開して誰もが見られるようにしていました。これらのビデオの制作プロセスは通常、面倒で複雑であり、一般ユーザーにとっては時間がかかり、面倒な作業です。

[[315202]]

ZAO を使用するためのハードルは非常に低く、プログラミング、データセット、AI 関連の知識、さらにはコンピューターさえも必要ありません。操作に必要なのは携帯電話と自撮り写真だけです。

AIによる顔の変身がもたらす前例のない参加感、体験感、インタラクティブ性は、ユーザーにとって大きな魅力です。結局のところ、自分の顔を映画やテレビ作品に登場させ、アイドルと「ライバル関係」を築くことができるということは、多くのスターを追いかける女の子たちを興奮で叫ばせるのに十分です。たとえそれが偽物であっても、興奮に満ちています。

[[315203]]

変顔動画やZAOなどのソフトの登場により、AI変顔技術は一般大衆にも知られるようになりました。一般の人々が好奇心や目新しさを満たすために使っている一方で、そこに「ビジネスチャンス」を見出している人も少なくありません。この技術を通じて、違法行為が増加し、人々のこの技術に対する疑念も高まっています。

AIによる顔の改造に関連するブラック産業

私たちの印象では、AIによる顔を変える技術は、登場以来、実質的な良いことを何も「行っていない」ようです。たとえば、ディープフェイクの誕生以来、偽造されたフェイク動画のほとんどはポルノ業界で使用されています...前述の映画スター、スカーレット・ヨハンソンの顔がAIによって置き換えられ、ポルノに使用されたことに加えて、ますます多くの女性スターの顔が、AI技術を通じて個人やウェブサイトによって悪用されています。

​​

​​

​​

女性キャスターがディルラバ・ディルムラト、トン・リヤ、タン・ヤンに顔を変えた

今日のモバイルスマート製品の普及により、プライバシーはほぼ不可能になっています。調査の結果、AIによる変顔によってもたらされた闇産業は、現在、下流ではポルノ製品、中流では個人向けにカスタマイズされたビデオ、上流ではソフトウェアやチュートリアルを提供する完全な産業チェーンを形成していることが判明した。

​​

「15本未満の場合は1本あたり4元、15本以上の場合は1本あたり3元、80本でも68元のみ…」「カスタマイズされた「顔を変える」ビデオは1分あたり50元、2分で95元、3分で135元、カスタマイズは3分から…」このような「広告スローガン」は多くのウェブサイトに掲載されています。タオバオや仙遊などのプラットフォームでこの種のビデオを販売している商人を見つけることはほとんど不可能ですが、取引のためのさまざまなウェブサイトを通じてWeChatやQQなどのソーシャルソフトウェアにトラフィックを誘導することで、彼らはしばしば大金を稼ぐことができます。

テクノロジーの力で、誰もが薄着のポルノ映画の主人公になれる。これは恐ろしいことだ。現在、こうしたブラック産業が本格的に発展し、その「繁栄」は想像を絶する。

AIによる顔の改造後も、一部の人々の興奮の欲求を満たすことはできず、AIによる脱衣アプリが登場し始めている。このアプリケーションも海外の技術チームによって開発されました。このソフトウェアのユーザーは女性の写真をアップロードするだけで、ソフトウェアが自動的に写真の女性の服を「脱がせて」裸の体が見えるようにします。

さらに、deepnudeは女性の写真に対して「ワンクリックで服を脱ぐ」ことしかできない。現在、テイラー・スウィフトやカーダシアンなど、女性有名人の「裸の写真」がインターネット上にはたくさんある。このソフトウェアは大きな注目を集めた後すぐにオフラインになったが、この技術が普及し、適切に管理されなければ、どれほど多くの一般女性が被害を受けるか想像してみてほしい。AIによる顔の変形やAIによる脱衣などの技術の組み合わせは、女性に想像を絶する危害をもたらすだろう。

娯楽は危険を伴うので、顔を変えるときは注意してください

インターネット技術の急速な発展と情報爆発の時代に生きる一般人は、テクノロジーの使用を放棄しない限り、プライバシーについて「敏感」になる資格はもはやありません。多くの人がプライバシー保護やデータセキュリティについて叫んでいますが、インターネットのデータへの渇望と同じように、彼らの体はそれを正直に使用しています。このような環境では、それは疑問の余地がなく、理解できます。

しかし、これに対して法律は無力なのでしょうか?

スカーレット・ヨハンソンはワシントン・ポスト紙のインタビューでディープフェイクに対する憤りを表明した。彼女は「各国には独自の法律があります。たとえ自分の画像の著作権を所有していたとしても、他の国では適用されない可能性があります。インターネットに溢れているAIによる顔を変えるポルノを前に、彼女と彼女のチームは無力です」と語った。

技術オタクたちは女性スターの顔を交換するだけでなく、米国大統領トランプを楽しませることさえある。かつて誰かがトランプ大統領の顔を映画スターのニコラス・ケイジの顔と交換したことがある。

フェイスブックのスタッフは国民に警告するために、AIで顔を置き換えたトランプ氏とビデオ通話する偽の「記者会見」も開いた。このプロセスでは、事前に偽物だと知らなければ、ビデオの信憑性を疑う人はいないだろう。

この技術が政治的脅迫や恐喝などの犯罪に利用されたら、そのリアルさゆえにどれほどのパニックを引き起こすことになるのでしょうか。そのため、この技術の規制は差し迫っているようです。 Twitter、Facebook、Instagramなどのインターネット大手はいずれも対策を講じている。

Reddit フォーラム上のすべての元のディスカッション ボードは削除されます。新しく開設されたセクションでは、ディープフェイクに関連するディスカッションエリアの前に SFW (職場で閲覧可能) というラベルを付ける必要があります。

[[315207]]

米下院特別情報委員会の委員長も公聴会で、ソーシャルメディアは利用者が偽情報に騙されないよう保護するための対策を直ちに講じるべきだ、と公に述べた。

米国防総省はAIによる顔入れ替え動画の検出に数千万ドルを投じており、動画の真贋を鑑定できる企業も米国内に数多く登場している。しかし、横行するAIによる顔入れ替え偽動画に対しては、こうした対策はほんの一握りに過ぎない。

これに先立ち、カリフォルニア州はディープフェイクに関する2つの新しい法律に署名した。まず、候補者の顔写真を使った顔入れ替え動画の公開は、今後の大統領選挙の2か月間は禁止されると規定されている。ディープフェイク技術を使って動画が偽造されたと考える候補者は、賠償を請求できる。

別の条項では、ディープフェイク技術を使用したポルノ映画に自分の画像が使用されたカリフォルニア州の住民は誰でも訴訟を起こすことができるとしている。

中国では、AI変顔動画に関する関連法規の詳細な規定が比較的遅れており、現在これに関する特別な立法は存在しない。しかし、いくつかの主要な法規によって制限されることもある。例えば、他人の写真や動画を本人の同意なくAI変顔に使用することは、他人の肖像権や名誉権を侵害する可能性があり、刑事犯罪を構成する可能性もある。

2017年3月、我が国の民法通則にも個人情報保護に関する内容が盛り込まれました。同年6月には「中華人民共和国サイバーセキュリティ法」が施行され、個人情報保護に関する項目も盛り込まれました。最高人民法院と最高人民検察院も、国民の個人情報に関する適用法に関するいくつかの問題について解釈を発表しました。

[[315208]]

AIによる顔を変える技術はまだ初期段階ですが、その影響は誰の目にも明らかであり、その発展の可能性は予測不可能で捉えどころがありません。新しい技術の出現と普及に直面したとき、私たちは技術的リスクを回避するために法的手段も用いるべきです。デイビッド・ハミルトン判事が述べたように、法律はテクノロジーとテクノロジーの進歩によってますます推進される社会生活に対応しなければなりません。