顔認識システムのセキュリティに関する簡単な分析: どの業界が攻撃に対して脆弱ですか?

顔認識システムは、今日では物議を醸す技術だと考えられています。 IBM、Google、MicrosoftなどのIT大手はいずれも、関連規則が正式に導入されるまで顔認識技術の開発と商用化を一時停止すると表明している。

[[331188]]

一方で、この技術は人々のプライバシーに影響を与えます。一方、潜在的な脅威を防止または検出するのに役立ちます。現在、世界的なコロナウイルスのパンデミックを考慮すると、顔認識技術はコロナウイルスの拡散を阻止するのにも役立つ可能性がある。

それでも、他のテクノロジーと同様に、顔認識は完全無敵というわけではなく、システムを回避できる抜け穴は数多く存在します。最近発見されたように、顔認識システムを回避するように設計されたサングラスを作成することが可能です。

これらのシステムのほとんどに適用されているディープラーニング アルゴリズムは、機密性、整合性、可用性という 3 つのセキュリティ目標に影響を与えるさまざまな種類の攻撃に対して脆弱です。

顔認識セキュリティを検討する価値があるのはなぜですか?

顔認識システムには、2 つの巨大かつ多様なアプリケーションが含まれます。 1 つは人物を検出するように設計されており、現在、CCTV カメラなどのさまざまな公共安全監視アプリケーションで使用されています。もう 1 つのアプローチは、携帯電話のロック解除やスマート ホームのスマート ロック アプリケーションなどの生体認証アプリケーションを使用して、人物を確実に識別できるようにすることです。

したがって、攻撃には 2 つの異なる種類があります。 1 つ目は、攻撃者がさまざまな形の変装を使用してカメラを欺くことを可能にします。 2 つ目はより複雑で、顔の変更が可能であり、生体認証システムに関連するセキュリティ認証を回避できるため、住宅がハッキングされる可能性があります。

現在、どのような種類の顔認識ソリューションが存在しますか?

顔認識システムをハッキングする主な目的を 2 つ挙げました。それらに加えて、顔認識システムには多くの機械学習アルゴリズムも含まれています。それぞれに独自の機能、特性、セキュリティ上の脆弱性があります。以下は、顔認識ソリューションで一般的に使用される機械学習アルゴリズムのリストです。

• 顔検出。
• 顔認識。
• 顔追跡。

顔認識ソリューションは物理的なものでもデジタルのものでも構いません。これらは、写真を追跡するためにインターネットやメディア プラットフォームに実装することができ、同じソリューションを現実世界に持ち込んでカメラに配置することもできます。次に、顔認識システムとそれに使用されるアルゴリズムを適用できる業界を見てみましょう。

どの業界が攻撃に対して脆弱ですか?

1. 公共の安全

顔認識技術はもともと専門的な目的で使用されていました。法執行機関は、街頭での犯罪者の特定に顔認識ネットワークを活用するというアイデアを実行に移した。

2. 銀行業務

ATM は生体認証によってカード所有者を識別できるため、取引の保護が強化され、詐欺行為を防止できます。

3. インターネット検索エンジン

画像検索エンジンもこの技術に基づいています。顔認識の原理は、ユーザーが提供した画像を持つ人物を見つけるためにソーシャル ネットワークに適用されます。

4. セルフサービス決済システム

顔認識技術により、支払い手続きがはるかに簡単になります。少し前に、スーパーマーケットチェーンのファミリーマートが、レジなしで支払いができるこのシステムを導入しました。 2019年3月には深センメトロポリスも顔認証による決済方法を導入した。

5. 空港と税関

空港や税関に適用される顔認識技術は、終わりのない人事問題や執拗な管理措置の問題を解決するのに役立ちます。

6. スマートホーム

スマートホーム ソリューションでは、顔認識を生体認証システムとして使用し、人が施設に入ることができるかどうかを確認できます。

機密データを保護するために顔認識を使用しているのは、上記の業界だけではありません。これらのシステムへの攻撃を防ぐには、適切かつタイムリーな顔認識セキュリティのみが効果的なソリューションとなります。

どうやって攻撃するの？

現在、顔認識システムにおける AI アルゴリズムを回避する方法を説明した研究論文が 100 件近くあります。ハッカーはこれらすべてのツールを利用して、便利なハッキングツールを開発し、スパイ活動、破壊活動、詐欺攻撃を仕掛けることができます。

実際には、攻撃方法は対象となるアプリケーションによって異なります。たとえば、ターゲット アプリケーションがデジタルの場合 (ソーシャル ネットワークにアップロードされたオンライン写真など)、ハッカーはさまざまな手法を使用して、特定のセマンティック領域を担当するピクセルに目に見えない変更を加える可能性があります。攻撃者の目的が物理的な顔認識システムを侵害することである場合、特定の顔にパッチを貼ろうとする可能性があります。これらのパッチは、リアルに見えるさまざまな形（サングラス、バンダナ、バンドエイド）をとる場合があります。ハッカーは、ある顔に帽子や写真を投影して、別の顔のように見せかけることがあります。

顔認識を保護するために何をすべきでしょうか?

顔認識セキュリティは、さまざまなセキュリティ領域の分析を伴う複雑なプロセスです。

• AI インフラストラクチャ: ハードウェア、プラットフォーム、アプリケーション、アーキテクチャに対する攻撃。
• AI モデルのセキュリティ: ポイズニングやバックドアなどの AI アルゴリズムに対する攻撃。
• AI プライバシー評価: モデル抽出、メンバーシップ推論など、プライバシー重視のインフラストラクチャとアルゴリズムに対する攻撃。

IoT デバイスにはソフトウェアまたはハードウェアの脆弱性があってはならないことは明らかです。人々はハードウェア、ソフトウェア、またはワイヤレスのセキュリティのみを気にしますが、アルゴリズムのセキュリティには十分な注意が払われていません。したがって、機械学習とディープラーニングのアルゴリズムは未解決のままです。

顔認識システムにおけるディープラーニング モデルのセキュリティ保護は複雑ですが、少なくともいくつかの手順に従う必要があります。特定の AI ソリューションの主な脅威と問題を特定し、ホワイトボックスまたはブラックボックスの AI セキュリティ評価を実施し、犯罪者がセキュリティの問題を悪用する前に保護対策を講じることが不可欠です。