3日でAppleの無料リストのトップに立った「ZAO」、このままでは死んでしまう

8月30日夜、「ZAO」と呼ばれるAI顔変更ソフトウェアがソーシャルメディアを席巻した。ユーザーは正面からの写真を用意するだけで、動画内の人物を自分の顔に置き換えることができる。

「写真１枚で世界レベルのショーの主役になれる」という「ZAO」が正式版のリリースから２日後、App Storeのダウンロードランキングで１位を獲得した。

天眼茶のデータによると、「ZAO」の背後にいる大ボスは、実は有名なオンラインデートソフトウェア「Momo」である。その実質的な支配株主は、それぞれMomoの共同創設者でゲーム事業部門の社長である雷小良と、Momoの共同創設者でCOOである王立である。

同時に、AIによる変顔技術は、エロビデオの闇産業チェーンでも利用されており、疑惑を呼んでいる。 「ZAO」に対するプライバシーやセキュリティへの不安も急速に高まり、一部のネットユーザーが集まってアカウントの削除を要求した。 App Storeでの「ZAO」の評価も4.6から1.9に下がった。

現在、WeChatはZAO顔変換アプリをセキュリティリスクがあるとしてブロックしています。実際、顔認識は非常に重要なセキュリティ認証技術であり、一度悪用されると、結果は深刻になります。

これに対し、「ZAO」の公式Weiboアカウントは9月1日に「プライバシー問題に関する皆様の懸念は十分に理解しています。皆様から寄せられた質問はすべて受け止めています。十分に考慮されていない部分については変更を加えますが、これにはしばらく時間がかかります」と回答した。

AI顔変え「ZAO」！よく考えるとユーザー契約って怖い

ソフトウェアの紹介文によると、AI技術を使用することで、誰でもアプリに写真をアップロードするだけで、自分の顔を「レオ」、「チョウ・ユンファ」、「マリリン・モンロー」、「スカーレット・ウィッチ」などの顔に置き換えることができるという。融合効果は非常に優れており、本物とほとんど区別がつきません。

写真1枚で誰でも憑依できる！▼

たった一枚の写真で、世界中の誰もがスターになる夢を叶えることができます。

公開データによると、このアプリは8月11日に限定的な社内テストを開始し、23日にApple Storeの審査に合格し、30日の夜には一夜にして有名になり、一時サーバーがクラッシュしたという。

ZAOをめぐる紛争は、主に、ユーザーの必要な許可に関するユーザー契約の部分に焦点を当てています。「ZAO」とその関連会社は、「あなたまたは肖像権保有者の肖像に正式な変更を加える技術を使用する」権利を有し、その権利は世界中で完全に無料で、取り消し不能、永久的、再ライセンスおよび再ライセンスが可能です。

これらの規約により、ユーザーは、自分の肖像が顔認識環境で違法に使用されたり、顔認証による支払いに使用されたりして直接的な経済的損失が発生したり、自分の肖像が違法なビデオ制作に使用され、名誉権が損なわれるのではないかと心配することになります。

左側は物議を醸している利用規約で、右側は新しいバージョンの利用規約です。

疑念の圧力を受けて、ZAOは9月1日の朝、緊急に利用規約を改訂し、主に上記の条項を含む元の利用規約の一部の条項を変更しました。

同時に、顔認証による不正カード取引のリスクに対して、アリペイも即座に対応した。

「ZAO」の技術的原理は何ですか？

実際、AI による顔の改変は常に倫理的なリスクを伴います。この技術は2017年に米国で人気になりました。その年、「deepfakes」という名のユーザーが、Redditフォーラムに自らが作成した顔を変えるビデオを投稿し、その技術をオープンソース化した。

この技術を国内で初めて採用したのはビリビリだ。今年初めに話題になったビリビリUPの司会者「変面兄さん」が制作した1994年版射雁英雄伝説の変面動画もこの技術を使ったものだ。

写真やビデオの顔を「PSの痕跡なし」で任意の顔に置き換えることができます。

当時、「ディープフェイク」はエロティックな映画のヒロインをガル・ガドットなどのハリウッドスターに置き換えた。その後、多数の被害者からの苦情により、Redditフォーラムは圧力を受けて「deepfakes」のアカウントを禁止せざるを得なくなったが、この禁止により「deepfakes」はプロジェクトを直接オープンソース化することが可能になった。

ディープフェイクはオープンソース化されてから、簡単にインストールでき、初心者でも「人の顔を変える」ことができる公開ソフトウェアパッケージになった。

「ディープフェイク」技術は、人工知能分野のディープラーニングに基づいています。ディープラーニング技術により、強力な GPU と十分なトレーニング データがあれば、誰でもリアルな顔の置き換え効果を作成できます。

DeepFakes コードの中心にあるのはオートエンコーダーです。オートエンコーダーは、入力を受け取り、それを小さな表現、つまりエンコードに圧縮し、エンコードから元の入力を復元する方法を学習するディープ ニューラル ネットワークです。

ディープフェイク顔変換技術の基本プロセスの概略図

AIによる顔入れ替えは、一般的な写真編集とは異なります。プログラムは2つの顔の共通点を見つけ、ニューラルネットワークを構築して人間の顔を学習するため、入れ替えた顔は元の顔の表情を鮮やかに模倣し、元の顔と区別がつかなくなります。ソース マテリアルの品質が十分に高ければ、顔の変形はほぼシームレスになります。

少し前に、AIによる顔変え技術を使って合成した動画を格安で販売し、「カスタマイズ顔変え」のサービスを提供している掲示板が暴露された。購入者が有名人の写真やプライベートな写真を提供する限り、販売者はアダルトビデオの主人公を「置き換える」ことができます。

インターネット上の女性は、彼氏が逃げ場を失わないように、彼氏のパソコンにあるポルノ動画をすべて自分の顔に置き換えるつもりだと語った。ポルノの分野でAIが最も進んでいるとは思いもしませんでした。

「ZAO」はブロックされたが、ユーザーのプライバシー権を無視したことは反省に値する

AI フェイススワッピングにはリスクが伴いますので、注意してご使用ください。インターネット上で瞬く間に人気となったこの顔を変えるビデオアプリケーションは、ユーザーの「プライバシー規約」の「大規模な」設定により、必要以上に注目を集めている。

以下はWeiboユーザーからのコメントです。

利用契約の関連条項は改正されたが、世間の注目が薄れる中、今回の事件がもたらした警告的意義は無視できない。

国民からの抗議を受けて、ZAO の利用規約にある「高圧的な条項」の多くは削除され、抑制されました。しかし、もしその製品が人気を博し、大きな注目を集めていなかったら、そのような「高圧的な条件」が永続的に「合理的に」存在していたことになるのでしょうか？

論理的に言えば、インターネット ユーザーのプライバシー保護の境界に関してまだグレーゾーンがいくつかあるとはいえ、ユーザーのプライバシー保護についてそれほど「無知」な企業はないでしょう。

この点では、この製品のロジックやその背後にある収益モデルは、当初からユーザーのプライバシー保護を無視していた可能性があります。

近年、メディアはユーザーのプライバシーを侵害していると疑われるインターネット利用契約を数多く暴露してきたが、ユーザーのプライバシー情報をこれほど露骨かつ自信を持って「貪欲」に「入手」する行為は珍しい。

こうした「高圧的な条項」は、実際にはある程度、プライバシー侵害に対する社会の「寛容さ」を試す役割を果たしている。一般の人々や業界からの広範な苦情、疑問、一致した批判から判断すると、答えは自明です。

実際、どのような新製品でも、法的レベルですでに「標準的な回答」が存在するため、何らかのエラーや「テスト」が何度も発生することはありません。

情報セキュリティ技術個人情報セキュリティ仕様の規定に従い、個人情報管理者は個人情報処理活動を行う際に「最低限十分な原則」に従う必要があります。また、サイバーセキュリティ法では、ネットワーク事業者が個人情報を収集および使用する際に、合法性、正当性、必要性の原則に従う必要があると規定されています。

言い換えれば、ユーザーのプライバシー保護に関してリスクを冒すことは、ユーザーに対する侵害であるだけでなく、法律に対する挑戦でもあります。

一般的に、スタートアップ企業は自社のイメージと「コンプライアンス」に細心の注意を払います。しかし、同社の最初の一歩は明らかに大きすぎた。スタートアップ企業として、「最初のボタン」を間違って留めてしまうと、それは会社の将来にとって「大きな賭け」となってしまいます。

一般的に製品の品質とサービス態度を第一とする伝統的な業界とは異なり、インターネット企業の「プライバシーの概念」は、ある程度、関連アプリケーションの市場価値を決定するための基礎となっていることに注意する必要があります。この基礎が間違っていれば、製品設計がいかに「革新的」であっても、ユーザーに見捨てられる可能性があります。

一言で言えば、ユーザーのプライバシー情報を「だます」ことに熱心な企業は、失敗する運命にある。

AIなど新たな個人情報保護環境を前に、利用者のプライバシー保護に関する法律や制度には、まだまだ改善・改良の余地があることは否めません。

しかし、長期的な発展を目指すまともな企業であれば、「弱いプライバシー保護」という火に油を注ぐようなことや、弱いプライバシー保護という「ボーナス」の上に企業の将来を築くようなことを避ける責任がある。

今回の業界内での「ZAO」に対する批判や反省は、業界全体の目覚めを意味するものでもあるかもしれない。これを教訓にしてください！AIによる顔の改造についてどう思いますか？