顔認識防止技術でプライバシー漏洩を防ぐ方法

人工知能監視システムに対する懸念から、研究者たちはそれを標的とするツールの開発に取り組んでいる。最近、トロント大学のパーハム・アビラ教授と大学院生のアビシェク・ボーズ氏は、顔認識率を0.5%まで下げることができるアルゴリズムを発明した。

この「顔認識防止」技術によって、自分の顔が認識されるかどうかを決めることができるのでしょうか？

顔認識対策は珍しいことではない

実は、この顔認識防止技術は数年前から登場しています。 2016年11月、カーネギーメロン大学の研究者らが顔認識防止メガネを開発した。 0.22ドルで購入でき、滑らかな写真用紙に印刷できるこの特殊なメガネは、カメラの前にいる人物を別の人物のように見せることができる。商用グレードの顔認識ソフトウェアのテストでは、顔を誤認する成功率は100％に達した。

2017年、日本のMITと九州大学の研究者らがEOT（Expectation Over Transformation）と呼ばれるアルゴリズムを開発した。このアルゴリズムはGoogleのAIシステムを騙すことに成功し、3Dプリントされたカメの写真をライフル、3D野球ボールをエスプレッソ、かわいい猫をワカモレとラベル付けすることに成功した。

一部の研究者は、AIによる3Dオブジェクトの誤認や、機械視覚システムを欺くために設計された敵対的画像技術の進歩により、顔認識システムが新たな課題に直面していると懸念している。上記の実験では、カメをライフルと間違えることが敵対的イメージの例であり、これはトロント大学の教授であるパー​​ハム・アビラ氏が使用したのと同じ方法です。

敵対的トレーニング技術は人気がある

Lem Abila 氏は最近発表した論文「制約付き最適化に基づくニューラル ネットワークによる顔認識防止システム」で、600 人以上の顔を含む業界標準ライブラリでシステムをトレーニングしたと紹介しています。テストに使用された 600 人の顔には、さまざまな人種、さまざまな照明条件、さまざまな環境が含まれていました。

論文の第一著者であるアヴィシェク・ボーズ氏はメディアのインタビューで、テストの鍵は2つのニューラルネットワークを互いに対抗するように訓練することであり、1つはますます強力な顔検出システムを作成し、もう1つは顔検出を妨害するより強力なツールを作成することだと述べた。

現代の顔認識ソフトウェアは、大量の情報からパターンを学習する人工知能の一種であるディープニューラルネットワークに大きく依存しています。何百万もの顔を見せた後、ソフトウェアは顔の概念を学習し、顔をどのように区別するかを知ることができます。 「この顔認識防止システムは、実際には生成的敵対ネットワークを使用して最小限かつ最適な変更を形成し、それによって現在の顔認識のディープネットワークを攻撃します。

Data Hall には、感情がラベル付けされた大規模な顔認識データがあり、消費シナリオにおける消費者の感情認識や意図予測のニーズを満たすことができます。

まだ実用化には至っていない

前述の顔認識防止システムの一部では、トレーニング プロセスで顔認識用のネットワークが公開されていることと、攻撃回数が無制限であることが求められます。ただし、実際にはこれを実現するのは明らかに困難です。現実世界の環境では、顔認識システムは秘密のシステムであり、このように繰り返し攻撃されることはないでしょう。

「顔認識防止技術の誕生は、本質的にプライバシーへの懸念だ」現在、人工知能業界はまだ初期段階にあり、技術の発展には2つの側面がある。人々がAI技術を利用して破壊行為を犯すのをいかに防ぐかは、業界全体が考えなければならない問題だ。

データホールが自社制作した著作権保護されたデータセット製品シリーズは、「顔認識」技術の道の実現に強力なサポートを提供します。

2000人の顔の遮蔽多姿勢顔認識データセット

収集された各人物について、10 種類の遮蔽条件（遮蔽されていない条件を含む）* 4 種類の照明 * 5 種類の顔の姿勢でデータが収集され、合計 10*4*5=200（個）の顔データが得られました。このデータセットは、遮蔽された顔の検出や認識などのコンピューター ビジョン タスクに適用できます。

これには立法上の支援だけでなく、倫理的な議論も必要です。同時に、人工知能の人材に道徳的・倫理的教育を施すとともに、法律が制定される間は業界の自制心を通じてプライバシー漏洩のリスクを回避する必要がある。