「たった一枚の写真で世界最高のショーに出演」がZAOのスローガンです。多くの人がリアルな顔の変化効果に驚嘆する一方で、心配し始める人もいます。この技術が不純な目的を持つ人々によって使用されれば、「たった 1 枚の写真」で、ポルノ映画の俳優や犯罪者の主人公、あるいはなりたくない人物にされてしまう可能性があるのです。偽物と見間違うほどリアルに見えるこれらの資料は、新たなタイプの恐喝や詐欺に便利なツールになる可能性が非常に高い。ネットユーザーが懸念している通り、ビデオ詐欺はすぐに最も一般的な犯罪方法となり、詐欺を見分ける能力の低い高齢者にとっては非常に致命的となるだろう...

ZAO をアンインストールすると (多くの人がそうしています)、心配事がいくらか軽減されるかもしれません。しかし、厳しい現実は、ZAO 以外にも、私たちの顔データを収集して使用する機関や企業がますます増えているということです。たとえば、あなたの写真アルバムを読み取る権限を持つアプリ、顔認証によるロック解除機能を提供する携帯電話メーカー、あなたの身元認証や顔検出を実行する金融アプリや教育アプリ、さらにはオフィスビルの顔スキャンによる入退室システムや、いたるところに設置されている防犯カメラなどです。利便性のため、当社は新しいテクノロジーを備えたより多くの組織に顔データを無料で提供しています。この傾向は非常に圧倒的であるため、個人はそれに抵抗できないようです。

個人情報の売買はほぼ毎日行われており、今では私たちは自分の顔さえ守ることができません。前述の AI による顔の変形がもたらす詐欺リスクに加え、顔認識システムへの攻撃や他人へのなりすましによってもたらされる財産、評判、個人の安全に対する潜在的なセキュリティリスクも無視できません。3D プリント技術の成熟により、映画「ミッション: インポッシブル」の顔の変形シーンが現実のものとなりつつあります。さらに恐ろしい結果は、顔のデータが他の個人データと結びつくと、私たちは最終的に「裸の時代」に突入するということです。つまり、あなたが街を歩いているとき、データを管理する人はあなたを一目見るだけで、あなたの身元、職業、収入、好み、性格など、あなたに関するすべてを知ることができるのです。

データの奴隷になりたくないのであれば、私たちは今日から「顔」を真剣に考えなければなりません。

あなたの顔は他人の事になりつつある

北京の中関村にあるカフェで、劉佳氏はRan Financeに自身の起業プロジェクトを披露した。

ユーザーは写真をアップロードするだけで、数秒以内に12ページの「キャリアレポート」が自動的に生成されます。このレポートでは、個人の性格特性、内面的資質、外面的特性などを詳細に分析・評価し、適切なキャリアやマネジメントスタイルを診断します。何度か異なる顔で試してみたところ、その正確さに驚きました。

「これは決してAI占いではありません」劉佳氏はRan Financeに対し、自社の製品は遺伝学、心理学、医学などの科学に基づいており、AIやビッグデータなどの最先端技術を組み合わせていると繰り返し強調した。今後、劉佳さんはキャリアだけでなく感情や健康などの分野にも分析の範囲を広げたいと考えている。私の意見では、Liu Jia のプロジェクトの最終的な目標は、たった 1 枚の写真であなたのすべてを知ることである可能性が高いです。

驚きと恐怖が同時に起こりました。

劉佳氏のプロジェクトは、顔認識の波の中で起こった小さなさざ波に過ぎない。私たちが認めなければならない事実の一つは、私たちの顔が他人にとってビジネスになりつつあるということです。

少し前、人工知能企業Megvii Technologyが香港証券取引所に目論見書を提出した。 Megvii Technologyは2011年に設立され、顔認識からスタートしました。コンピュータービジョンの分野では、SenseTime、Yitu Technology、CloudWalk TechnologyとともにCV（コンピュータービジョン）の4つの小さなドラゴンの1つとして知られています。 2016年、2017年、2018年の営業利益はそれぞれ6,780万人民元、3億1,300万人民元、14億2,700万人民元であった。情報によると、Megvii TechnologyはOPPO、vivo、Lenovoなどの有名企業に顔認識関連サービスを提供している。

Megvii Technologyが上場を目指す背景には、顔認識技術がパブリックドメインからコンシューマードメインへと急速に拡大していることがある。これまで、技術革新が不十分で、応用の推進が限られており、コストが高かったため、顔認識は一般の使用に限定され、より広範な商業用途には導入されていませんでした。

スマートフォンが顔認識技術を採用する前は、顔データを収集するシナリオは主にコミュニティ、街路、地下鉄、オフィスビル、ショッピングモール、観光地などの公共の場所であり、収集は主にセキュリティと管理の目的で使用されていました。例えば、昨年、ジャッキー・チュンは全国コンサートツアーを開催し、コンサートの前後で合計10人以上の逃亡者が逮捕されました。その「ヒーロー」となったのは顔認識技術で、ジャッキー・チュン自身も「我が国は本当に先進的すぎる」とため息をついていました。

近年、この状況は逆転しました。スマートフォンの劇的な増加、モバイル決済習慣の発達、そしてスマートホームに対する人々の熱意が、モバイル消費者向け顔認識アプリケーションの爆発的な増加を直接的に促進しました。この観点から、当社はますます多くのメーカーの顔データ収集を支援しています。

2017年、Appleは顔認証ロック解除に対応した新型iPhone Xを発売した。Xiaomi Note3やvivo V7+などのスマートフォンも顔認証機能を導入した。同年、Alipay、JD.com、Suningも顔認証決済機能を導入した。顔認識の消費者向けアプリケーションシナリオは継続的に拡大し始めています。指紋認識、虹彩認識、音声認識などの他の生体認証技術と比較して、顔認識は利便性が非常に高く、セキュリティも良好で、その応用シナリオは絶えず増加しています。

出典/中国ビジネス産業研究所

中国ビジネス産業研究所の報告によると、生体認証技術は2019年に大規模応用の段階に入るという。わが国の生体認証技術（顔認識技術を含む）産業の市場規模は2020年に300億元を超えると予測されています。顔認識を中心に、基本層（チップ、アルゴリズム、データ）、技術層（ビデオ顔認識、画像顔認識、データベースの比較と検証）、アプリケーション層（ハードウェア、アプリケーション、アプリケーションソリューション）で構成される完全な産業チェーン構造が形成されています。

よく観察してみると、オンラインでもオフラインでも、顔認識機能がますます多くのシナリオに追加されていることがわかります。

顔認識の過度の使用は懸念される

ZAO危機はまだ過ぎ去っておらず、Megvii Technology危機が到来しました。

教室で顔認識が使用される

数日前、「Megvii」のロゴが入った監視カメラの画像がソーシャルネットワーク上で広まった。写真には、監視されている2人の学生の様子だけでなく、テーブルに横たわる回数、携帯電話で遊ぶ回数、眠る回数、講義を聞く回数、本を読む回数、手を挙げる回数などの行動データも写っている。しかし、Megvii Technologyは、これは単なる「コンセプトのデモンストレーション」であると回答した。しかし、プライバシーに関する議論は圧倒的です。ほとんどの人は、テクノロジーは良いものだが、適切な場所で使われるべきだと信じています。

顔認識の応用について、マイクロソフト会長のブラッド・スミス氏は昨年の技術セミナーで次のように警告した。「規制と監督が行われなければ、顔認識技術は人々のライフスタイルを完全に変え、プライバシーを失わせることになるだろう。」

これは大げさな話ではありません。テクノロジー企業が何を計画しているかを見てみましょう。

教育は顔認識にとって「大きな打撃を受ける分野」です。多くの教育テクノロジー企業がMegviiと同様の監視機能を立ち上げており、授業中の生徒の行動を分析し、異常な行動に関するリアルタイムのフィードバックを提供できると主張している。 「スマート教室行動管理システム」を主張するシステムの説明は次のとおりです。

システムは30秒ごとにスキャンし、読む、手を上げる、書く、立つ、聞く、机に横になるなどの6つの行動と、喜び、悲しみ、怒り、嫌悪などの表情に基づいて、授業中の生徒の状態を分析します。現時点では、テーブルの上に横たわることがマイナスポイントを受ける唯一の行動です。このような不注意が一定のスコアに達すると、システムはディスプレイ画面にリマインダーを表示し、教師はそのリマインダーに基づいて指導を管理できます。

教室に加え、大学のいわゆる「スマート校門」、教室のドア、寮の出入り口にも顔認識システムが設置されている。しかし、改札口は単なる入り口に過ぎません。より多くのソリューションプロバイダーが AI を使って教育プロセス全体を再構築することを望んでおり、上のようなシナリオが生まれています。 「2019年中国スマート教育産業市場発展及び動向調査報告書」のデータによると、スマート教育の市場規模は2018年に5,000億人民元を超えた。多くのAI技術企業や教育シナリオ企業が配当獲得競争に参入している。

巨大企業も例外ではありません。 JD.comはかつてAIベースの「スーパーメガネ」を発売した。報道によると、「スーパーメガネ」をかけた店員は顧客の会員情報、ユーザーの肖像画、買い物の傾向などの重要な情報を見ることができ、「顧客の考えを知り、顧客の好みに応える」ことを完全に実現できるという。 JD.comは2017年に独自の無人コンビニエンスストアも立ち上げ、顔認識を通じて顧客の購買嗜好を記録し、この消費者行動情報を保持しています。

Baidu は Baidu Wallet のアカウント検索機能に生体認証技術を使用しており、Tencent WeBank はアカウント開設プロセスにそれを使用しています。 WeBank の生体検出では、カメラの前にいるユーザーがテキストを読み、音声認識検出に協力する必要があります。顔認証や顔決済などのブラックテクノロジーの仕掛けにより、顔情報を収集できるアプリケーションが普及しました。最近では、顔認識アプリケーションがエンターテイメント性を高め、顔データを収集するハードルが徐々に下がってきています。

エンターテインメントは、メーカーがユーザーの顔データを収集するためのハードルを大幅に下げました。

もちろん、Apple CEO のクック氏は「テクノロジー自体には良いことも悪いこともありません。すべては私たち人間が決めるのです」と述べています。

顔認識の応用範囲の境界がどこにあるのかは、すべての実践者にとって検討する価値があります。百度の創業者ロビン・リー氏はかつて「中国人は利便性と引き換えにプライバシーを犠牲にする覚悟がある」と発言し、世間から批判されたことがある。テクノロジーの良し悪しを判断するには、テクノロジー大手の姿勢も重要だ。

恐ろしい結果

元CIA技術アナリストのスノーデン氏は、2017年の初めに、携帯電話のロック解除に代表される顔認識アプリケーションの出現により、顔のスキャンが常態化し、最終的には顔認識の悪用につながるだろうと予測していた。

最近では、顔データがクラウドにアップロードされるケースが増えており、データ漏洩や不正利用の可能性が大きく高まっています。 ZAOを例に挙げてみましょう。ZAOが人気を博した主な理由の1つは、AIによる顔変換の利用の敷居を下げたことです。しかし、この技術は偽りのプロパガンダにも利用される可能性がある。例えば、富をひけらかすのが好きな零細ビジネスマンは、オバマ大統領と握手するために自分の写真をフォトショップで加工するのが好きだった。将来、彼らは本物そっくりの握手動画を投稿するのだろうか？かつては「ジャック・マーの発言」を利用してさまざまな詐欺プロジェクトを支援しようとしていた小規模ビジネスが、今度はジャック・マーが「個人的に支持する」ビデオを直接投稿するのだろうか？

恐喝や詐欺にも注意が必要です。 2017年末、「deepfakes」というIDを持つ海外のネットユーザーが初めてAI顔変更アルゴリズムを使用し、それ以来このアルゴリズムはdeepfakesと名付けられました。その後、海外のRedditフォーラムではAIによる顔を変える動画が多数制作された。しかし、その後この技術が悪用され、一部の人々は顔を変える技術を使ってポルノ作品の主人公を有名人の顔に置き換え、有名なポルノ動画共有サイトPornhubにアップロードし始めました。将来、誰かが私たちの顔をポルノ映画の俳優、犯罪の主人公、誘拐された人質の顔に置き換えたり、私たちのふりをしてビデオ通話（音声シミュレーション技術と組み合わせて）を行い、これを利用して親戚や友人を脅迫したり詐欺したりした場合、結果は同様に悲惨なものとなるでしょう。

デイリーメール紙は最近、今年3月に詐欺師がAI音声模倣ソフトウェアを使用して会社の上司になりすまし、イギリスのエネルギー会社のCEOにドイツ会社の上司と電話で話していると信じ込ませ、22万ユーロをだまし取ったと報じた。今後、同様の詐欺が顔を変える動画と組み合わされば、詐欺の成功率はさらに高くなるだろう。

FaceTimeはAppleの携帯電話に内蔵されているビデオ通話ソフトウェアです。多くのネットユーザーは、通話が接続された後、相手の画面が真っ黒になると報告しています。スパム広告を送りつけるだけでなく、相手があなたの顔写真を撮影して顔認識システムを破る可能性もあり、考えてみると恐ろしいです。

タオバオで「偽顔」を検索すると、チョウ・ユンファ、アンディ・ラウ、チャウ・シンチーなどの有名人のラテックスマスクを非常に低価格で簡単に購入できます。カスタマイズも受け付けている業者もあります。今後、3Dプリント技術が成熟するにつれ、映画「ミッション：インポッシブル」のシーンがすぐに現実のものとなるでしょう。

フォーブスの記者トーマス・ブリュースター氏は、3Dプリントされた頭部の形状がどのようにしてスマートフォンの顔認識をうまく騙すことができるかを説明する記事を公開した。トーマス・ブリュースターは、自分自身の完全な3D画像を合成し、3Dの頭部形状を印刷し、5台の携帯電話の顔認識機能をテストしてロックを解除しました。驚いたことに、そのうち4台は失敗しました。顔認識がうまく騙されたという事実は、顔認識対策に100%頼ることはできないということを意味します。

トーマス・ブリュースターの3Dプリントされた頭部

唯一ありがたいのは、顔を変える技術が当面はモバイル決済のセキュリティに大きな脅威を与えることはないということだ。技術者はラン・ファイナンスに対し、顔スキャン決済には人物の肖像を検出するためにカメラを使用する必要があり、画面逆撮影法では現時点ではカメラの生体認証監視技術を欺くことはできないと語った。

しかし、あまり楽観的になりすぎないでください。アメリカには「Twinning」というアプリがあります。ユーザーは写真をアップロードするだけで、顔認識機能を使って自分に最も似ている有名人を見つけることができます。しかし、有名になってから、非常に深刻な情報漏洩が発生しました。現在でも、Google検索で漏洩した写真がたくさん見つかります。したがって、顔データを収集する可能性のあるアプリケーションは注意して使用することが重要です。

「ストリーキング」の時代が来るかもしれない

顔認識の最大のリスクは、顔データが漏洩し、他の個人情報と結びつくと、完全な「透明性」の時代が到来してしまうことだ。

今年初め、ラン・ファイナンスは、国民の情報を違法に盗んだとして閉鎖された企業、Qoda Technologyについて報じ、法律に基づき検察の承認を得て36人が逮捕された。 Ran Financeが入手した文書によると、Qoda Technologyは自社のデータベースに2億2000万人の自然人の履歴書が含まれており、合計37億件の履歴書があると主張している。さらに、Qoda Technology は 10 億件以上のアドレス帳を保有しており、関連する社会的、組織的、家族関係のデータも保持しています。

Qoda Technologyはこれによって莫大な利益を得た。 2016年、Qoda Technologyの年間売上高は1億2000万元、純利益は4800万元でした。2017年、Qoda Technologyの年間売上高は4億1100万元、純利益は1億8600万元で、純利益率は45%を超えました。その最大の特徴はデータの「接続性」です。

顔データが漏洩し、他のデータとリンクされると、悲惨な結果を招くことになります。顔の特徴は、その人物の本当のアイデンティティの確認を表すことです。将来、私たちが店に入ると、店員が私たちの身元、職業、収入、好み、性格などすべてをすぐに知るようになる可能性が非常に高いでしょう。

そして、その日が来たら、誰もが「裸」の状態になるでしょう。マスクを着用していても役に立ちません。カメラは体型や歩き方も識別できるからです。

顔認識をどのように扱うべきでしょうか?

自分自身を世界から隔離しない限り、顔認識を完全に拒否することはできません。

対外経済貿易大学デジタル経済・法律イノベーション研究センターの徐克執行長は、顔認識技術の商業利用を全面的に禁止することはできないと考えている。理論的には、すべてのデータが漏洩する可能性がある。個人にとっては、利便性と個人情報保護のどちらを優先するかを天秤にかけて選択する必要がある。利便性よりも個人情報を重視する人は、顔認証を必要とするアプリは一切使わず、市場メカニズムを通じて企業にプライバシー保護を徹底させるのがベストだ。

北京安利法律事務所のシニアパートナーである王新鋭氏は、顔データは各国の法律では通常、敏感な個人情報とみなされていると述べた。機密性が高い理由は、個人を真に識別でき、生涯変更できず、非接触で収集しやすいためです。ある意味で、生体認証情報は私たち一人ひとりを真に定義します。

現在、多くの国が顔情報の収集や認識技術の応用シナリオに対する規制を強化する法律を制定し始めています。今年7月、サンフランシスコに次いで米国で2番目に顔認識を禁止した都市となった。マサチューセッツ州サマービル市議会は、公共の場での顔認識ソフトウェアの使用を禁止することを決議した。新しい政策が発効すると、市のいかなる機関、局、下部組織も公共の場で顔認識技術を使用することができなくなる。しかし、これは公共の場所の使用を禁止しているだけであり、商業地域は対象としていない。

我が国でもデータ関連の法律はすでに制定されており、現在は意見を募集している段階です。中国サイバースペース管理局は今年5月に発表したデータセキュリティ管理弁法（意見募集稿）で、「収集と使用のルールがプライバシーポリシーに含まれている場合、比較的集中して、読みやすいように明確に示されるべきである。また、ネットワーク事業者は、ユーザーが収集と使用のルールを認識し、明示的に同意した後にのみ、個人情報を収集することができる」と規定している。さらに、「ネットワーク事業者は、サービス品質の向上、ユーザーエクスペリエンスの向上、ターゲットを絞った情報のプッシュ、新製品の開発などを理由に、デフォルトの承認、機能のバンドルなどの形式で個人情報の収集に同意するように個人情報主体を強制したり、誤解させたりしてはならない」と規定している。

王新鋭氏は、顔や声を変えるアプリの最大の問題は、大規模に収集される生体認証情報が漏洩したり悪用されたりすると、さまざまな詐欺や偽造につながることだと考えている。また、生体認証情報の紛失は、他の個人情報の紛失よりも深刻な結果を招く可能性があります。主な理由は、変更できないことです。例えば、メールアドレスや電話番号は変更できますが、顔や声、虹彩などの情報は一度漏洩すると変更できません。

AIがキャンパスに入り込み、生体認証技術がキャンパスで徐々に応用されつつある現象について、教育部科学技術部の雷超子部長は9月5日、The Paperとのインタビューで「（顔認識技術の応用を）制限し、管理する必要がある。今は学校がこうした技術ソフトウェアを非常に慎重に使用することを望んでいる」と語った。

今のところ、人類は顔認識技術に対してまだ無力感と様子見の状態にある。顔認識による大規模な被害が正式に発生する前に、私たちはより迅速に行動すべきです。

※タイトル画像はVisual Chinaより提供。インタビュー対象者の要請により、この記事では劉佳は仮名で表記されています。