「AI顔変換」技術の悪用はサイバーセキュリティ詐欺の氷山の一角を露呈

今年に入ってからは、ChatGPTやGPT-4などの技術の応用により、深層合成製品やサービスが増加しています。 AIによる顔の加工やナレーションなど、偽の音声や動画を使って詐欺を働く違法行為が横行しています。こうした新しい詐欺手法は非常に巧妙かつ効率的で、社会にとって大きなセキュリティ上の脅威となっています。

最近、Weiboで「AI詐欺が全国で発生」が話題になった。 6月10日、国家詐欺対策センターは感染拡大の噂を否定し、それは誤りだと述べた。しかし、AI 詐欺に関連するトピックは依然として注目されており、人気が高まっています。

2023年5月、内モンゴル自治区包頭市警察はAIを使った通信詐欺の典型的な事例を発表した。2023年4月、福建省のテクノロジー企業の法定代表者である郭さんは、AIの変顔や擬音技術を使って友人のふりをした詐欺師に騙された。 10分以内に430万元が2回に分けて相手の銀行口座に振り込まれた。

偶然にも、2023年5月22日に再びAI顔変え詐欺事件が発生しました。安徽省の男性が9秒間で132万元をだまし取られた。詐欺師たちは9秒間の知能AI顔変換動画を使い、「知り合い」を装って被害者の警戒を緩め、詐欺に成功した。詐欺が実行されるスピードは驚くべきものです。

2件の詐欺事件は同じパターンをたどっています。犯罪者はAI変顔技術を使って特定の人物に変装し、事前に知り合いを装った動画を撮影して他人とビデオ通話をしたり、特定の変顔アプリを使って被害者を騙し、信頼を得た上で詐欺を働いたりします。

AIによる顔を変える応用範囲

新しい技術の開発と応用は諸刃の剣とも言えますが、AIによる顔を変える技術も例外ではありません。ソーシャルメディアは私たちの生活に便利さをもたらす一方で、詐欺や虚偽情報の拡散に利用され、プライバシーやセキュリティを脅かしたり、誤解やミスリードを招いたりする恐れもあります。

AI顔変えは、AI人工知能技術によって他人の顔を自分の顔に置き換えるもので、表情が自然で効果も非常にリアルです。 AI 顔変換技術は、主にディープラーニング アルゴリズムと大規模モデルの使用によって実現されます。その実装原理は、顔検出、顔の位置合わせ、特徴抽出、特徴融合、再構築などの手順を通じて、さまざまな人物の顔の特徴を融合し、顔変換効果のある新しい画像を生成することです。

具体的には、まず、大規模モデルは顔を自動的に検出し、入力画像内の顔領域を特定できます。次に、入力画像内の顔を、異なる顔の顔特徴点の位置が同じになるように位置合わせします。これには通常、顔のランドマークやアフィン変換などの技術を使用する必要があります。さらに、ディープラーニングモデルを使用することで顔の特徴を抽出し、交換操作のガイドとして使用することができます。 2 つの異なる顔の特徴を融合して、新しい顔の特徴を生成します。最後に、デコンボリューションニューラルネットワーク (DCNN) や GAN などの再構築アルゴリズムを使用して、新しい顔の特徴を画像空間にマッピングし直し、顔交換効果のある新しい画像を生成します。

つまり、AI フェイスチェンジはディープシンセシス技術を使用し、AI モデリングを通じてフェイスチェンジを実現します。当社は、ディープラーニング、バーチャルリアリティなどの技術を使用して、画像、音声、動画、その他の情報を生成する合成アルゴリズムを生成しています。当社の技術は現在、ソーシャルネットワーキング、映画、テレビ、広告など、多くの分野で応用されています。

例えば、映画やテレビドラマでは、制作スタッフが AI 変面技術を使用して、本来の俳優や危険な筋書きを巧みに処理することができます。教育では、AI 変面技術によって、高度にインタラクティブな仮想教育を実現できます。

同時に、AIによる顔を変える技術は悪用される危険性も伴います。これまで、いくつかの電子商取引ライブ放送ルームが、トラフィックを集めるために有名人の AI 顔変更ライブ放送を使用していることが明らかになりました。これらの生放送は、直接的に該当の有名人アーティストの名前を言及していないが、積極的に情報を述べたり否定したりすることはなく、ソーシャルメディアを通じて拡散され、ユーザーやファンがリンクをクリックしてマルウェアをダウンロードしたり、個人情報を入力したりして、生放送で商品を販売したり詐欺行為を働いたりするように誘導している。さらに悪いことに、AIによる顔を変えるソフトウェアや技術を使って偽のポルノビデオを違法に加工・作成し、それを違法に販売して顔認識システムを回避し、詐欺や窃盗などの犯罪を犯す人もいます。

犯罪者はAI技術を利用してターゲットユーザーの行動特性や個人情報を分析し、的確な標的型攻撃を行い、個人の機密情報を盗み取っていることがわかります。この種の詐欺は、多くの場合、他人の個人データを不正に入手し、さまざまなブラックソフトウェアやグレーソフトウェアを使用してデータ情報を置き換えることで目的を達成します。

AI詐欺は悪魔よりも強力だが、予防の方が効果的

AI顔変更詐欺の背後には、プライバシー情報の漏洩と詐欺の罠が組み合わさっています。技術が日々進化するAI詐欺に対しては、国民の予防意識を高める必要があり、監督強化や法整備が重要な対策となる。利益を追求し、被害を回避するためには、個人、政策、テクノロジー、セキュリティ企業など、複数のレベルと次元で協力し、将来発生する可能性のある新しいタイプの詐欺に対処する必要があります。

個人レベルでは、自身のセキュリティ意識とデジタルツールの使用能力を向上させます。まず、送金などの取引には細心の注意を払う必要があります。電話やビデオなどで相手が自分かどうか何度も確認することができます。次に、個人情報保護の意識を高め、知らないリンクをクリックする際には注意が必要です。インターネットでもソーシャル ソフトウェアでも、詐欺師の標的にならないように、自分の情報を公開しすぎないようにしましょう。

政策レベルでは関連文書が発行されているが、AI技術に対する監督・管理をさらに強化する必要がある。 2022年11月25日、中国サイバースペース管理局、工業情報化部、公安部は共同で「インターネット情報サービスのディープシンセシス管理規則」を公布し、ディープシンセシスデータと技術の管理仕様を明確にした。ディープシンセシスサービスプロバイダーと技術サポーターは、トレーニングデータ管理と技術管理を強化し、データのセキュリティを確保し、個人情報を違法に処理しないようにする必要があります。ディープシンセシスサービスプロバイダーは、自社のサービスを使用して生成または編集された情報コンテンツの使用に影響を与えないラベルを追加する必要があると述べています。インテリジェントな対話、合成音声、顔生成、没入型シミュレーションシーンなど、情報コンテンツの機能を生成または大幅に変更するサービスは、一般の人々の混乱や誤解を避けるために明確にマークする必要があります。

今年4月11日、中国サイバースペース管理局は「生成型人工知能サービスの管理に関する規則（意見募集稿）」を発行し、AIコンテンツは真実かつ正確でなければならないと言及し、個人情報、プライバシー、企業秘密を違法に取得、開示、使用することを禁止すると明記した。

「AI顔変換」技術を提供するインターネット技術企業は、より厳しい監督を受ける必要がある。さらに、各オンラインプラットフォームは、AIによる顔変換の応用について責任を負う必要があります。現在、AI顔変更機能を導入したプラットフォームやAI顔変更関連コンテンツの拡散を許可しているプラ​​ットフォームは、AI技術が犯罪者に悪用されることを防ぐために審査を強化する必要があります。

技術面では、データの収集、保管、共有、開示の各リンクを厳重に監視し、フルチェーン管理を実施しています。現在の AI セキュリティ研究は AI 機能研究にまだ遅れをとっており、これはセキュリティ技術ベンダーが引き続き取り組むべき方向性でもあります。 AI変顔技術の技術研究と予防措置の開発を強化し、AI変顔技術の安全性と信頼性を向上させ、真贋を判別するよりインテリジェントな認識システムを開発し、このような詐欺行為の生存空間を減らします。

顔情報は機密性の高い個人情報であり、不適切な使用は公衆の個人的および財産的安全に重大なリスクをもたらします。新興技術を使用する際には、すべての技術開発が持つべき境界である法的規制や道徳的・倫理的制約を忘れてはなりません。同時に、私たちは常に高い警戒心を持ち、自己安全意識とオンライン詐欺防止能力を高めなければなりません。