2元で何千枚もの顔写真が買える、AIブラック業界の真実はそれ以上だ！

最近では、「顔スキャン」、つまり顔認識技術を使うことで、解決できることが増えています。買い物の際の「顔スキャン」支払い、携帯電話の各種支払いアプリは基本的に「顔スキャン」をサポートし、「顔スキャン」は指紋やデジタルパスワードの代わりに電話のロックを解除するために使用され、「顔スキャン」はコミュニティに入るときにドアを開けるために使用され、「顔スキャン」は高速鉄道に入るために使用されます...など、私たちは顔スキャンの時代に突入しました。

私たちは「顔スキャン」の利便性を享受していますが、私たちから収集された生物学的データは合法かつ安全なのでしょうか?

中国中央テレビの記者は昨夜、記者の調査により、一部のオンライン取引プラットフォームでは、わずか2元で数千枚の顔写真を購入できることが判明したと報じた。これらの写真が犯罪者の手に渡ると、標的型詐欺やマネーロンダリング、組織犯罪、その他の違法行為に利用される可能性があります。たとえば、違法に入手した写真を使用したり、他人のダイナミックビデオを偽造したりして、顔認識システムを破り、アカウントや財産を詐取する行為です。

CCTVは、アプリ運営者や技術開発者によって顔情報が漏洩され、顔情報の悪用やブラック産業チェーンの形成にまで至ったと報じた。 「オンライン取引プラットフォームでは、わずか2元で数千枚の顔写真を購入でき、10元未満で5,000枚の顔写真を購入できる。」

実際の写真、自撮り写真、その他のプライベートな写真が満載の、販売者の写真ライブラリを閲覧します。これらの写真が犯罪者の手に渡ると、標的型詐欺やマネーロンダリング、組織犯罪、その他の違法行為に利用される可能性があります。

AIが一般人の生活に入り込むにつれ、データのプライバシーに関する懸念が人々の心の「悩みの種」になっていることがわかります。一度同じような事件が起きれば、人々の間に強い刺激反応を引き起こすことになるでしょう。

そのニュースが報道されるやいなや、すぐに白熱した議論が巻き起こった。ネットユーザーたちは直接的に「ひどすぎる」「プライバシーがない」と批判し、多くの人がソーシャルプラットフォーム上で画像情報漏洩の個人的な体験を共有した。

私の国の顔認識産業市場

報告書の分析によると、中国の顔認識市場の現在の規模は世界市場の約15％を占めています。 2010年から2018年にかけて、中国の顔認識市場の規模は年々拡大し、年平均複合成長率は30.7%でした。 2018年、わが国の顔認識産業の市場規模は25.1億元でした。顔認識市場規模は今後5年間で平均23%の複合成長率を維持し、2024年までに市場規模は100億人民元を超えると予想されています。

顔認識市場の将来性が高ければ高いほど、それがもたらすリスクは無視できないほど深刻になります。現在、私たちが使用するソフトウェアのほとんどはアクセス許可情報を必要としており、市場の監視とユーザーのニーズの間には相対的な矛盾が生じています。

CCTVニュースによると、国家情報セキュリティ標準化技術委員会などが設置したAPP特別ガバナンス作業部会はこのほど、「2020年顔認識アプリケーションに関する公開調査報告書」を発表し、回答者の90％が顔認識を使用したことがあり、60％が顔認識は悪用される傾向があると考えており、30％がその結果個人のプライバシーや財産の安全が損なわれたと回答したとしている。

近年、顔スキャン決済や顔出勤などのアプリケーションがさまざまなモバイルアプリや実生活の場面に進出するにつれ、顔情報の漏洩、顔画像の悪用、AIによる顔の改変など、その背後にある現象やブラック産業が次々と暴露され、人々の懸念を引き起こしている。関係部門は違法行為を取り締まるためニュースを発表し続けているが、依然としてリスクを冒す犯罪者がいる。

AI テクノロジーが強力になるほど、悪意ある者の手に渡った場合のコストは増大します。顔認識はどれほど安全か？顔認識技術の急速な発展の背後にはどんな影の領域があるのか​​？それらをどう解決できるのか？これらの疑問は、多くの人々の心に突きつけられた剣のようで、便利な技術を使うことを妨げています。

顔写真は自由に取引される

プライバシーが侵害される

顔認証は私たちに多くの利便性をもたらしましたが、現時点では安全なのでしょうか?

今年8月13日、杭州銭塘新区公安局は、複数のオンラインプラットフォームから数千件の個人情報を盗み、転売していた容疑者2人を逮捕した。今年初め、浙江省衢州市でも住民の個人情報を不正に流用した事件が起きた。容疑者は盗んだ情報を使って金融プラットフォームに口座を登録し、数万元の不法な利益を得た。注目すべきは、この2件の事件の容疑者が「AI顔変更技術」を利用して国民の写真を違法に入手し、特定の前処理を施した後、「写真活性化」ソフトウェアを通じて動的な動画を生成し、顔認証の仕組みを欺いて犯罪を犯したことだ。

これは明らかに私の顔ではありませんが、それでも顔認識で認識できますか？

専門家によれば、現在最も単純な顔認識は、顔にある6つまたは8つの特徴点を収集して抽出することによって実現できるという。複雑な顔認識には、顔にある数十、あるいは数百の特徴点を収集して抽出する必要があります。携帯電話のロック解除と比較すると、「顔スキャン」による支払いやコミュニティに入るための「顔スキャン」などのアプリケーションは、より多くの顔の特徴ポイントを収集し、当然ながらより安全です。

注目すべきは、AI技術の世界的な導入はまだ初期段階にあるため、米国大統領選挙やAmazon Ringホームカメラなどの国際ブランドの使用といったシナリオにおいて、データプライバシー漏洩やAI顔面変更詐欺などの事件が発生していることだ。

簡単に面目を失わない

今年初め、清華大学法学部の老冬艶教授は、住宅地に顔認識装置を設置する必要はなく、同意なく顔データを収集することも現行の法律や規制に違反するとして、住宅地への顔認識装置の設置に反対した。

顔認識の導入を推進する組織の多くは、それに伴うリスクの大きさを認識していない可能性があります。顔データが漏洩したり悪用されたりすれば、社会の安全が確保されないだけでなく、関連する違法行為や犯罪行為が急増する恐れがある。

さまざまな生体認証技術が宣伝されていますが、生体認証技術は本当にそれほど優れているのでしょうか? 多くの人は、指紋認証、虹彩認証、顔認証などは非常に正確で安全であると信じて、これらの技術を好んで使用していますが、ユーザーは、これらの技術に伴う隠れた危険性に気づいていません。

生体認証技術の最初の問題は、誤認識率と拒否率という体系的なパラドックスが存在することです。 2 つ目はシミュレーションの問題です。生体認証情報はネットワークを通じてシミュレートできるため、ユーザーの ID 情報を複数のチャネルで使用できます。最後に、不可逆性の問題があります。デジタルパスワードは取り消したり交換したりできますが、生体認証情報は一度共有すると取り消すことができません。

したがって、顔のデータが一度漏洩すると、それは一生漏洩したままになります。

人は顔を変えることができないため、顔のデータはかけがえのないものです。整形手術をしても、基本的な生物学的特徴のいくつかは変えられません。一度漏洩すると、それは一生漏洩したままとなり、法的手段を講じて権利の保護に成功したとしても、元の状態に戻すことは困難です。個人の生体認証が本人の身元と組み合わされると、特にこれらの機能が完全に透明な場合、ユーザーにとって大きなリスクが生じます。

AIブラック生産の技術的ハードルは高くない

産業チェーンはすでに非常に完成している

AIによる顔の入れ替えは、Redditコミュニティで最初に人気を博した。そこでは、ディープフェイクのユーザーが有名人の顔を入れ替えた一連の動画を投稿し、大きな注目を集めた。その後、このユーザーは通報され、アカウントがブロックされた。しかし、作者は後に技術コードをGitHubでオープンソース化し、ビデオの顔入れ替えの難易度を誰でもできるレベルまで一気に下げました。

シンプルなディープラーニングアルゴリズムに基づいており、必要なのは写真またはビデオだけです。このアルゴリズムにより、写真またはビデオ内の顔を置き換えたい顔に置き換えることができます。操作は比較的簡単で、置き換えられたビデオまたは写真のリアルな効果は衝撃的です。

▲ さまざまな販売者による完成動画の価格設定

機械知能を利用して顔認識の闇市場を暴くという報道では、顔認識技術を教えるスタジオを設立し、注文をこなして月に3万元を稼ぎ、「合格を保証する闇技術の指導料800元」というモデルを開拓した者もいるという。このブラック産業には、実名アカウントの再販業者、認証機関、顔写真情報プロバイダーを含む完全な産業チェーンが含まれます。

データ保存は重要

多くの面で制御措置を講じる必要がある

CCTVは、現時点で顔認識のより懸念されるリスクポイントは顔情報の保存にあると指摘した。

顔情報はどこに保存されますか?

CCTVがインタビューした専門家は、顔認識アプリケーションが多種多様であり、統一された標準がないため、大量の顔データがアプリケーション運営者または技術プロバイダーの中央データベースに保存されていると考えています。外部の世界には、データが匿名化されているかどうか、セキュリティが確保されているかどうか、どのデータがパートナーと共有されるかはわかりません。さらに、サーバーがハッキングされると、機密性の高い顔情報が漏洩する危険性もあります。

抜け穴を塞ぐために、専門家は階層化認証、分散ストレージ、デジタル感度低下、暗号化方式を提案した。同時に、顔認識アプリケーション業界もリスクに対処するために厳格な業界標準を確立する必要があります。事業者や技術開発者は、プライバシーリスクを無視して技術の向上のみを追求し、孤立した存在になることはできない。より厳格な業界規範と法的監督が必要である。

実際、我が国の関連法規においても、関連規定が設けられ始めています。民法によれば、自然人の情報収集は「情報同意」の原則に従い、自然人の同意を得る必要があり、情報収集の対象者にも撤回する権利がある。現在、国民の意見を募集している「中華人民共和国情報保護法（草案）」では、公共の場での画像収集や個人識別装置の設置は、公共の安全を維持するために必要であり、関連する国の規制を遵守し、目立つ警告標識を設置する必要があると提案している。

結論：顔認識は規制される必要がある

顔認識などの技術の発展により、テクノロジーの二面性も明らかになってきています。データとアルゴリズムを適切に適用すると人々の生活はより便利になりますが、それらを乱用すると、人々は AI の中で裸で走っているかのようになってしまいます。雪崩を引き起こした最後の雪片は、人々への警鐘となった。

専門家のデータによると、2022年までに世界の顔認識市場規模は75億9,500万米ドル、つまり約508億人民元に達すると予想されています。わが国では、今年10月14日時点で顔認識関連企業の数は1万社を超え、2024年までに市場規模は100億元を超えると予想されています。現在、顔認識は金融、教育、交通、政府関係、医療などの分野で深く応用されています。技術の継続的な向上と関連する業界規範、法律、規制の改善により、顔認識はより便利になるだけでなく、より安全になると信じています。

プロフィール写真、ID カードの写真、編集された個人情報、金融情報の関連記録など、携帯電話内の情報と記録を保護します。これらを完全に削除し、携帯電話をパスワードでロックすることをお勧めします。潜在的に危険な「顔スキャン決済」や顔データを収集する危険なアプリを使用するときは注意してください。