「許してバオ」に続き、「ワンクリック脱衣」が再び登場。テクノロジーの悪の問題をどう解決するのか？

DeepNude、DeepFake、Forgiveness Bao のストーリーは、テクノロジーが簡単に人間に力を与えることができることを物語っています。テクノロジーはビッグデータを通じて一般人の生活を操作し、恐怖を感じさせ、プライバシーを公開商品に変えることができます。

DeepNudeアプリの登場はアメリカの女性たちを恐怖に陥れた。 4日間でこの恐怖は広がり、世界的なパニックに発展した。

このアプリは、アルベルトというプログラマーが開発しました。 DeepNude に女性の写真を渡すと、ニューラル ネットワーク テクノロジーの助けを借りて、自動的に女性の服を「脱がせて」、女性の「裸体」を見せることができます。

DeepNude は男性に直接危害を与える可能性があるのか​​と疑問に思う人もいます。現状から判断すると、いいえ。女性の画像のみ処理できます。男性の画像をアップロードしても、最終出力画像の主要なプライベート部分は女性として表示されます。

「低レベルの要件に基づいて作成されたアプリケーションは本質的に罪深いものです。」

DeepNudeは、ソフトウェアのダウンロード方法と使用方法を段階的に説明したウェブサイトで6月23日に初めて公開された。

DeepNude には無料版と 50 ドルの有料版があります。無料版で取得した写真には大きな透かしが入りますが、有料版では大きな透かしは入りませんが、写真の左上隅に小さな「FAKE」ロゴが追加されます。

ユーザーは専門知識がなくても簡単に使用でき、テクノロジーによって参入障壁が低くなりました。好奇心から「DeepNude はどうやって生まれたのか？」と尋ねる人もいます。

2年前、開発者のアルベルトは人工知能の可能性を発見し、この技術の基礎を研究し始めました。人工知能技術によって昼間の写真を夜間の写真に変換できることを知った彼は、服を着た女性の写真を別の見た目に変えることができることに気づいた。

アルベルト氏はマザーボードに対し、DeepNudeはカリフォルニア大学バークレー校の研究者らが開発したオープンソースアルゴリズムpix2pixに基づいて作成され、裸の女性の画像1万枚を使ってトレーニングされたと語った。このアルゴリズムは、人工知能による顔を変える技術で使用されているDeepFakeアルゴリズムに似ており、無人運転車の技術で使用されているアルゴリズムにも似ています。

この写真はGitHubコミュニティのアカウント「yuanxiaosc」から引用したものです。

彼はこの発見の結果を楽しさと熱意として理解しました。これら2つの原動力で、彼は服を着た女性の写真を「脱がす」ことを試み、そこから「興味深い結果」を得た。

しかし、これが彼が DeepNude を作成した主な理由ではありません。一体何が彼に物議を醸すアプリケーションを作成させたのでしょうか?

マザーボードのレポートがこの疑問に答えてくれます。

以前、アルベルトは事業に失敗し、経済的困難に直面しました。「このアルゴリズム技術で金儲けできるだろうかと自問しました。」

答えはイエスです。

わずか5日間で、50万人がDeepNudeを使用しました。かつてはトラフィックが膨大だったためサーバーが不安定になり、支払いに問題が発生しました。同氏はソーシャルメディアのツイッターで「支払いに問題が発生しました。後ほどお試しいただくか、暗号通貨をご利用ください」とユーザーを安心させている。

DeepNudeAppのTwitterアカウントインターフェースのスクリーンショット

6月26日、利用者数の増加によりサーバーをシャットダウンせざるを得なくなった。また、問題が解決するまで支払いは受け付けないとも述べた。

DeepNude がリリースされてから 4 日後、アルベルトは誰かがそれを悪意のある目的で使用していることに気づいていませんでした。 6月27日には、チームがDeepNudeのダウンロードと支払いチャネルの修復に懸命に取り組んでいることを説明するツイートが5件連続で投稿された。「しばらくお待ちください。今後、より安定したバージョンをリリースします。」

それでも、彼らはオフラインで、人々はDeepNudeをダウンロードできなかった。禁止されたからではなく、「これほど多くのアクセスがあるとは予想していなかったので、サーバーを強化する必要があった」からだ。

DeepNudeはとても人気があります。たとえ合成されたものであっても、有名人のプライバシーを簡単に見ることができるようになります。アルベルト氏が妥協を余儀なくされ、DeepNude を閉鎖することを決断したのは、6 月 27 日の遅くになってからだった。

「DeepNudeは毎月、制御可能な形で少量ずつ販売できると思っていた」が、「まさかウイルスになって制御不能な状態にまで発展するとは思っていなかった」「悪用される可能性が高すぎるので、この方法で金儲けをしたくない」「今後、DeepNudeは他のバージョンをリリースせず、誰にも使用させない」と述べた。

DeepNudeウェブサイトの部分スクリーンショット

アルベルトの口頭による禁止は効果がなく、DeepNude は今もインターネット上で出回っています。

ニュースが発表されるわずか数時間前、彼はまだ「世界はDeepNudeの到来に備えていない」と考えていた。

「『世界はまだ準備ができていない』？つまり、『私たちは、基本的に人々のプライバシーを悪用し侵害する、非常に不快で不気味なアプリを作成したので、申し訳なく思っている』という意味だと思います」とあるツイッターユーザーは怒りの表情でアルベルト氏の発言に反対した。

「低レベルのニーズのために作られたアプリケーションは原罪を犯している」。国内のネットユーザー「潘一氏」は、DeepNudeは正当なニーズを満たしていないと非難した。生成された写真が実際の画像と非常に似ている場合、それは女性のプライバシー権を侵害することになります。そうでない場合は、女性の名誉権を侵害する可能性があります。

世界は DeepNude のようなアプリを受け入れる準備ができていないはずですし、そうあるべきではありません。

しかし、DeepNudeがボイコットされる直前には、DeepFake（ディープフェイク、主に顔を変えるために使用される）技術もまた論争に満ちていた。

楊冪と蔡旭坤は顔が変わった

昨年12月、マーベル映画『ワンダーウーマン』の主演女優ガル・ガドットをフィーチャーした「アダルト短編映画」が、Tiebaに似た米国のオンラインコミュニティRedditで広まり、多くのネットユーザーが視聴した。この動画を作ったのはプロの写真家ではなく、「deepfakes」というオンライン名を持つプログラマーです。

彼は余暇にディープフェイク技術を学び、インターネット上の無料でオープンなツールや素材を使ってガル・ガドットの顔をポルノ男優の顔に「移植」した。ガル・ガドットと「成人向け短編映画」の関わりは合意に基づくものではなかった。

しかし、そのプログラマーは明らかに中毒になっていた。テイラー・スウィフト、エマ・ワトソン、スカーレット・ヨハンソン、メイジー・ウィリアムズなど、米国でよく知られている女性有名人の顔が入れ替わっている。

女性有名人の顔を変える同様のオンライン事件は中国でも発生している。それは今年の初めに起こりました。

楊冪を変面スキャンダルに巻き込んだ張本人は、微博に「変面兄」というアカウントを開設した。 2月末にはヤン・ミーさんを巻き込んだ動画をインターネット上に投稿し、激しい議論を巻き起こした。動画の主人公はもともと『射雁英雄伝』で黄容を演じた朱寅だったが、ディープフェイク技術を使って朱寅の顔を楊冪の顔に差し替えた。

[[269677]]

一方では、多くの人が同じ技術に巻き込まれ、他人に操られるのではないかと心配し、彼を非難し始めた。他方では、彼を見つけて、顔を変える技術で彼らが助けられることを期待する人もいた。その多くは違法犯罪に関係していた。その後間もなく、彼は楊冪の公式スタジオと連絡を取り、関連動画を削除した。

最も有名な顔交換パロディーの流行は、今年初めの「チキン、美しすぎる事件」で起きた。蔡旭坤が趣味を披露する動画がネットユーザーによって顔交換され、次々と新たなパロディーバージョンが公開された。蔡旭坤氏はなりすましを避けるため、弁護士による警告状も送った。

[[269678]]

蔡旭坤の変顔主人公は有名なゲームキャスターの呉武凱

DeepFake は開発されてからそれほど長くはなく、2017 年末に登場したばかりです。主流メディアで深く議論されたのもその頃でした。数か月後、Reddit は合意のないポルノのアップロードを禁止し、他のサイトも合意のないポルノにディープフェイクを使用することを禁止しました。

その危険性の一つは、テクノロジーの力は制限がなく、狂犬のように捕まえた者を噛みつき、テクノロジーの反対側にいる人々に人々が支配されやすくなることだ。

女優のスカーレット・ヨハンソンは、世界で最も高額な報酬を得ている女優の一人です。彼女はマーベル・シネマティック・ユニバースでの役柄で最もよく知られており、「ブラック・ウィドウ」として知られています。彼女はディープフェイクの犠牲者になった。

[[269679]]
スカーレット・ヨハンソン

ワシントン・ポスト紙は、匿名のオンライン「クリエイター」たちが、無料の人工知能ソフトを使って本物そっくりのビデオを制作し、彼女の顔が何十もの生々しいセックスシーンに移植されたと報じた。本物の「流出」映像とされる偽のビデオが150万回以上視聴されている。

彼女は現代の名声の暗い現実をほとんどの人よりもよく知っている。 2011年に彼女のプライバシーがハッカーによって漏洩され、ハッカーは後に懲役10年の刑を宣告された。

ネット上で偽のポルノ写真が作られる現象は数十年前から存在しています。彼女はワシントンポスト紙のインタビューで、女性を嫌がらせしたり辱めたりするために使われてきたディープフェイクの増加は、インターネット上で自分を守ろうとする女性たちにとって新たな苛立たしい課題を突きつけていると語った。彼女はこの現象について懸念を表明し、インターネットを「自らを食い尽くす巨大な暗いワームホール」と表現した。

英国ではディープフェイクの制作者は嫌がらせ行為で起訴される可能性があるが、特定の犯罪については厳重な取り締まりを求める声もある。ガーディアン紙が報じたところによると、嫌がらせ対策法案の修正案では、実在の人物の写真を基に偽ポルノ画像を作成することは刑事犯罪となるべきだと、学術専門家が主張している。

米国では、個人情報窃盗からサイバーストーカー、リベンジポルノに至るまで、さまざまな罪状で人々が追及されており、より包括的な規制が議論されている。現在、米国バージニア州は、ディープフェイクのこうした新たな用途に対する対策を主導しており、「リベンジポルノ法」の適用範囲を拡大している。改正法は現地時間7月1日に施行された。

2014年、バージニア州はリベンジポルノを「強制、嫌がらせ、脅迫の意図を持って、全裸または半裸の他人のビデオや静止画像を悪意を持って流布すること」と定義した。この法律には現在、機械学習を使用して作成または操作された動画や画像である「ディープフェイク」も含まれる。

現在の規則では、本物か偽物かを問わず、誰かのビデオのヌード写真を本人の許可なく共有することは違法とされている。 DeepFakeに加え、Photoshopなどのツールを使用して作成された偽の写真やビデオも含まれます。

現状では、この法律は主に女性を保護しています。統計によれば、およそ1,000万人のアメリカ人がリベンジポルノの脅迫を受けたり、被害者になったりしている。米国の研究機関による2016年の調査によると、女性が男性から脅迫を受ける可能性は男性の2倍だという。

なぜ女性はいつも傷つくのでしょうか？

「ディープフェイク」技術を使って人々を楽しませる

2018年8月13日、「許しバオ」と呼ばれるプロジェクトが注目を集めた。Weiboユーザーの「記憶を深く埋める」は、同僚のプログラマーが予備フィルタリングを行うのを支援するために、数人の友人と協力して、1024や91などのウェブサイトでビデオや写真に顔照合用のタグを付けたと書いた。

プログラマーのコミュニティでは、多くのプログラマーは毎日仕事に時間を割いており、生まれつき感情的知性が乏しく、ガールフレンドを見つけることを考えているために、ガールフレンドを見つけるのがあまり得意ではないという言い伝えがあります。これにより、一部のプログラマーが「特別な従業員」や「セックスフレンド」である可能性のあるガールフレンド、または密かに写真を撮られた女性などを見つける状況が発生する可能性があります。

発起人は、「Forgive Bao」の機能の一つは、相手が1024やPronHubなどの専門ウェブサイトに載っているかどうかを特定することだと述べた。

使い方は難しくありません。「Forgive Bao」に写真をアップロードすると、システムが自動的に1024やPronHubなどの専用ウェブサイトのデータと照合します。結果が「不合格」と表示された場合は、その人の容姿が専用ウェブサイトに掲載されていることを意味します。「合格」と表示された場合は、「幸運な合格」を意味します。

ニュースが報道されるや否や、数え切れないほどの質問と非難が殺到した。 「許宝」は開発目的が「正直者を守るために生まれた」ことと「引き継ぐ者への朗報」であり、愛における信頼関係を解決できると弁明した。

5月27日、「記憶を深く埋める」は「半年間で1024、91、sex8、PronHub、xvideosなどのウェブサイトから収集したデータとFacebook、Instagram、TikTok、Douyin、Weiboなどのソーシャルメディアを比較し、100TB以上のデータを収集し、世界中の言語に絶する業界で働く10万人以上の若い女性を特定することに成功した」と明らかにした。

「これらの資料は何年分の判断材料になるか知っていますか？」このメッセージを見た人が尋ねました。

「何が違法か知っていますか？まず、私は現在いかなるデータも公開していません。第二に、私は誰かのプライバシーを漏らすクエリインターフェースを公開していません。」 「記憶を深く埋める」は微博で自らを弁護し、「私はドイツに住んでいますが、ポルノ産業は合法です。」

「思い出を深く埋める」という傲慢さは、一向に弱まる気配がない。世論が頂点に達し、数え切れないほどの人々が彼の個人Weiboホームページに集まり、彼を非難した。 「Bury the Memories Deeply」は「このプロジェクトを削除します」「30分以内に100TB以上のデータが完全に消去されました」と謝罪した。

問題はそれだけでは終わらなかった。『許包』がアプリの形で復活するというニュースが流れた。『記憶を深く埋める』は「モバイルアプリはリリースしていない」と述べ、この件から距離を置いた。しかし、これらのデザインの背後にある動機は当然女性をターゲットにしており、女性を支配し、屈辱を与えることさえ意図しています。

私たちは多くのことに慣れています。ソーシャル メディアに慣れた私たちは、テクノロジーの世界から長い間、テクノロジー自体には何の問題もないという概念を受け入れてきました。テクノロジーが羊の皮をかぶった狼のように偽装されていたとしても、それは人間のせいです。テクノロジーは悪にも善にもなり得るのです。しかし、今年に入って、テクノロジーを善のために使うという価値観が徐々に主流になってきています。この概念は非常に漠然としていると批判する人もいるかもしれませんが、現段階では人気を止めることはできません。

しかし、ディープヌード、ディープフェイク、そして許しの宝の物語は、テクノロジーがかつてないほど簡単に人々に力を与えることができることを物語っています。テクノロジーはビッグデータを通じて一般人の生活を操作し、恐怖を感じさせ、オンライン上のプライバシーをすべて公衆にさらされた商品に変えることができます。これはもはや単なる技術的な問題ではなく、社会的な信頼の問題です。個人的な信頼からニュースの信頼まで、私たちはメディアの内容が真実であるかどうか確信が持てない時代に陥っているのかもしれません。

「ディープフェイク」技術はますます人気が高まっています。Tik TokやKuaishouのアニメ特殊効果であれ、ビューティーカメラの猫耳であれ、彼らは皆、人々を喜ばせるための新しい方法を考案しています。技術そのものが中立的であるならば、道徳の存在は、技術が容易に「自らを食い尽くす巨大な暗黒のワームホール」とならないように導くものである。

マザーボードがカリフォルニア大学バークレー校のコンピューターサイエンス教授、ハニー・ファリド氏にディープヌードを見せたところ、同氏はディープヌードがどれだけ進歩しているかを知って衝撃を受けたという。

同氏は、学者や研究者はより批判的な視点を持ち、技術が兵器化されたり有害な方法で使用されたりしないように技術を進歩させる方法について考える必要があると述べた。

多くのAI研究者もDeepNude事件について発言しており、そのほとんどは非難している。

3月、アンドリュー・ンと娘/写真はアンドリュー・ン氏のTwitterアカウントより

「ディープヌードが消滅してよかった。人間として、父親として、これは人工知能の最も忌まわしい応用例の一つだと思う」。バイドゥの元主任科学者で、スタンフォード大学の非常勤コンピューターサイエンス講師のアンドリュー・ン氏はソーシャルメディアへの投稿で怒りを表明した。

彼はまた、AIコミュニティに向けてこう語った。「皆さんはスーパーパワーを持っており、皆さんが構築するものは重要です。皆さんの力を、世界を前進させることができる価値あるプロジェクトに活用してください。」