本物そっくりの「人工顔」は顔認識を騙せるのか？

[[360561]]

過去数年間に自分の写真をオンラインに投稿したことがあれば、Clearview の AI がその写真を保存し、31 億枚を超える画像からなる同社の膨大な顔認識データベースに追加している可能性が高い。ニューヨーク・タイムズ紙は、クリアビュー社が「いわゆるプライバシーを終わらせる」可能性があると報じた。 1 月に Clearview AI プロファイルを入手したのですが、驚きました。

Clearview は数多くの法的課題に直面しています。アメリカ自由人権協会は、同社に対する画期的な集団訴訟の中で私の論文の一つを引用した。しかし、たとえ議員らがクリアビューを規制したとしても、オンライン顔認識をブロックするのはモグラ叩きをするようなものだ。常に別の企業がその地位を占めるのだ。

顔認識がオンラインで普及するにつれ、消費者は大規模な監視データベースに自分の顔が収集されるのをどう防ぐことができるだろうか。合成コンテンツのスタートアップ企業であるG​​enerated Mediaは、ニューラルネットワークで作成されたハイテクな偽の顔に自分の顔を置き換えるという解決策を提案している。偽の顔はあなたの外見を人々に知らせますが、あなたの本当の顔は見せません。

この会社は人工顔を専門に扱っています。彼らは、2つのニューラルネットワークを互いに対戦させる生成的敵対的ネットワーク（GAN）と呼ばれる技術を使用しました。 GeneratedMedia を例にとると、2 つのネットワークが互いに競合するにつれて、一方のネットワーク (生成ネットワーク) の顔生成の性能がどんどん向上します。 GAN は、リアルな顔を作成できるほど進歩しています。

同社は最近、人工顔の背後にある技術に関するニューヨークタイムズの記事で大きな話題を呼んだ。

GAN は大規模に人工の顔を生成することもできます。 Generated Media は設立されてまだ 1 年も経っていませんが、すでに 200 万を超える人工顔を生成しています。顔はあらゆる年齢や外見の人々を表しています。それらは完全に本物のように見えますが、描かれている人物は実際には存在せず、これまで存在したこともありません。 GeneratedMedia は、これらの画像をストック写真としてサイト上に存在させ、他の AI システムのバイアスを減らすためのトレーニング データとして使用します。

大量の顔画像データを活用して、Generated Media は消費者に注目しています。本日リリースされた「Anonymizer」というツールを使用すると、ユーザーは自分の顔の実際の画像をアップロードして、本物そっくりの顔をたくさん手に入れることができる。ユーザーは、ソーシャル メディアや、公共のインターネット上に写真を投稿する必要があるその他の場所で、実際の顔の代わりに人工の顔を使用することができます。偽の写真は個人使用に限り無料で、透明な背景を使用するオプションも付いています。

GeneratedMedia によれば、これらの人工の顔は実在の人物と非常によく似ているため、信頼性が高いとのことです。しかし、これはユーザーの本当の顔ではないため、Clearview や他の顔認識企業がユーザーの人工の顔をデータベースに追加した場合、これらの企業は偽の顔から実際のユーザーを見つけることができなくなります。

GeneratedMediaは、ユーザーは「少なくとも毎日」自分の写真を偽造写真に置き換えることで、本物の顔認識では得られないプライバシーを享受できると述べた。

ジェネレーテッドメディアの戦略責任者タイラー・ラストビッチ氏はインタビューで、自身が「個人的にリンクトインを使用していて、プロフィール写真に合成写真を使っている人を目にした」ことと、同社が「ツイッターのプロフィールで画像が使われることが増えている」ことに気づいたことがきっかけで、アノニマイザーを設計したと語った。抗議者や活動家のプロフィール写真を変更し、オンラインで彼らの身元を隠すためのAIベースのツールを作成しようとする人々もいる。

しかしクリアビューはニューヨークタイムズ紙に対し、そのツールでは自社のシステムを騙すことはできなかったと語った。 GeneratedMedia で生成されたような完全に偽造された写真の方が、より安全な解決策になるかもしれません。

私はカリフォルニア州サンラモンの高級ピザレストランで撮った写真をアップロードして、Anonymizer をテストしました。

Anonymizer では、類似した画像が約 20 枚表示され、さらに表示することもできます。画面をスクロールして、最も似ている偽の顔を選択しました。

画像ソース: Generated Media

次に、ポイントごとの比較を行います。偽の顔の背景は透明になっており、本物の写真が撮影された高級ピザレストランで撮影された写真に重ね合わせることができる。

そんな感じですか？いいえ、私はそんな髪型にはしません。しかし、この2つの画像は非常に似ているため、親しい友人や家族以外の人が偽の顔を本物の人物と間違える可能性がある。特に、プロフィール写真が49×49ピクセルしかないTwitterなどのソーシャルメディアサイトで使用された場合、その可能性は高くなる。

コンピュータも同じ間違いを犯す可能性があります。実際の人物と AI の写真がどの程度似ているかをテストするために、顔認識ソフトウェアである face++ が提供する、広く使用されている顔比較 API を使用して 2 つの画像を比較しました。 Face++は、実際の人物と写真が「通常の確率」で一致していると結論付け、同一人物である可能性は64％であると推定した。

数字は完璧ではありませんが、コンピューターで作成された人工の顔としてはかなり良い数字です。そして、結果は時間の経過とともに改善されます。 Anonymizer は、ユーザーの顔を分析し、Generated Media の既存のデータベースから最も近い顔を見つけることで機能します。同社がより多くの人工顔を作成すればするほど、信頼性の高い一致が見つかる可能性は高まる。

この実験で著者は、顔を認識するのが容易になればなるほど、人工の顔を偽造するのが困難になることを発見した。これをテストするために、ドナルド・トランプの写真をアップロードしましたが、結果は実際の彼の姿とは全く異なっていました。いずれにせよ、私は過去4年間、自分の顔よりもトランプ氏の顔をたくさん見てきた。

非常に馴染みのある本物の顔（トランプ氏の顔など）と偽物の顔を比較すると、人工の顔の欠陥は非常に明白です。あまり馴染みのない顔の場合、人工的な顔のほうが無視されやすく、より説得力があるように見えます。

これはシステムの別のアプリケーションシナリオを示しています。アノニマイザーの敵対的プログラミングでは、必ずしもユーザーの顔に似ているほど説得力のある顔が作成されるとは限りません。むしろ、このシステムは、ユーザーが自分の実際の容姿を明かさずに、自分を見たことのない人に自分の容姿を知らせたい場合に最適なのかもしれません。

Generated Media によると、出会い系アプリが良い例だそうです。ユーザーがオンラインデートプロフィールを作成する場合、Anonymizer から偽の画像を取得し、それを実際の顔の代わりに使用することができます。写真は見た目を良くしますが、特別な人と会って本当の顔を見せたい場合、恥ずかしがらないほうがよいでしょう。

しかし、ユーザーが本当の顔を明かすことを選択しない限り、人工の顔は、出会い系サイトをよく利用するストーカーがユーザーの本当の容姿を拾い上げてターゲットにすることを阻止できる可能性がある。

同様のケースでは、同社は調査報道ジャーナリストと協力し、同様のツールを使用して匿名を希望する諜報員の人工顔を作成した。人工の顔により、ジャーナリスト（および読者）は諜報員の年齢、肌の色、髪の長さ、その他の外見の重要な側面を理解することができ、同時に彼らの真の身元が保護されることが保証される。

Clearview AI はニュース記事やソーシャル メディア サイトから何百万もの画像をダウンロードするため、機密記事に人工の顔を使用することは、Clearview が諜報員の顔を検索して機密記事にリンクするのを防ぐのに適した方法です。

ユーザーがデリケートなトピックについて投稿するつもりであれば、同様のアプローチを取ることも検討できます。つまり、偽の顔を使用して別のソーシャルメディアアカウントを作成するということです。こうすることで、センシティブなコンテンツが実際の顔にリンクされず、Clearview のようなプラットフォームで顔を検索している可能性のある人々の目に留まらなくなります。

偽の顔をアップロードする前に、必ずソーシャル ネットワークの利用規約を確認してください。たとえば、Twitter では偽の顔を欺く目的で使用することは許可されていませんが、自分の表現の自由を守るために偽の顔を使用する場合は、ほとんどの場合問題ありません。

しかし、プライバシー擁護者全員が Anonymizer のようなシステムが有効であると確信しているわけではありません。 「偽の顔が匿名性を守るという主張については、まったく確信が持てません」とハーバード大学ケネディスクールのショレンスタインセンター研究員で活動家のクリス・ギリアード氏は私に語った。

データ共有は、インターネットに公開写真を投稿するだけにとどまりません。 「ソーシャルメディアであれ、DMVから情報収集であれ、規制が不十分なのが一因です。人々が自分のデータに無頓着なため、多くのデジタルツールが人々の写真を入手できるのです」と彼は私に語った。彼はこれを技術的な問題ではなく社会的な問題であり、「テクノロジー」で解決できるものではないと考えている。

偽りの顔にもリスクはあります。ニューヨーク・タイムズ紙によると、こうした偽の顔は「諜報機関に潜入しようと魅力的な顔を装うスパイ、偽のプロフィールや写真などに隠れる右翼のプロパガンダ活動家、友好的な表情のターゲットを探しているネット上の嫌がらせをする人などがマスクとして使うことができる」という。今年初め、誰かが偽の顔を使ってハンター・バイデンに関する偽情報を流した。

悪意のあるユーザーの手に渡れば、匿名化ツールによってこのような偽の情報が作成される可能性があります。しかし、人工的な顔を作りたいという隠れた動機を持つ人にとっては、もっと簡単な方法があるかもしれない。ウェブサイト ThisPersonDoesNotExist.com は、写真をアップロードする必要なく、Generated Media テクノロジーと同様に、GANs テクノロジーを使用してブラウザー内で偽の顔を生成できます。

また、顔を生成する GAN のコードは広く入手可能であるため、最も洗練された犯罪者であれば、特定の企業にまで遡ることができる顔に頼るのではなく、独自の顔生成システムを構築する可能性が高いでしょう。なぜなら、そうしたシステムを見つけられる可能性があるからです。 GeneratedMediaは、ユーザーは「画像を使用して他人になりすましたり、違法行為を行ったりすることはできない」と述べた。

監視されることを心配せずに個人情報をオンラインに投稿したい場合、または連絡先の人があなたをどの程度知っているかテストしたい場合は、Anonymizer を使用して Twitter のプロフィール写真を偽の顔に変更し、誰かが気付くかどうかを確認できます。少なくとも、自分の仮想クローンを見るのは楽しいです。

センシティブなコンテンツをオンラインに投稿したり、ストーカーの標的になることを心配したり、単に自分の本当の身元を誰が知っているかを制御したい場合、Anonymizer は単なるおもちゃではなく、潜在的に強力なツールです。

この記事はWeChatの公開アカウント「Reading the Core」から転載したもので、以下のQRコードからフォローできます。この記事を転載する場合は、Duxinshu の公開アカウントにご連絡ください。