Facebookはライブ動画でユーザーを見えなくする匿名化システムを開発した

最近、ノルウェー科学技術大学の「DeepPrivacy: 顔の匿名化のための生成的敵対的ネットワーク」と題された論文では、元のデータ分布を変えずに顔を匿名化するという、より挑戦的な新しい表現方法で顔認識システムを欺いたと主張している。もっと平易に言えば、元の人物の姿勢や背景を変えずにリアルな顔を出力している。この技術のサポートにより、顔認識システムは正常に動作しますが、元の顔の身元をまったく認識できなくなります。偽造者は他人になりすまし、顔認識システムを備えた施設に自由に出入りできるようになります。

著者らのテストによると、匿名化された顔は依然として元の画像に近いレベルの認識可能性を保持しており、匿名化された画像に対する通常の顔認識の平均精度はわずか 0.7% 低下するだけだった。人間の顔に含まれる自然な情報は、当然 100% 重複しません。

AIを使ってAIを欺く、この操作は単純に666です。

フェイスブックも以前から顔認識に対抗しようとしており、最近ようやく成果が出た。

海外メディアのVentureBeatは最近、Facebookの人工知能研究所Facebook AI Research（FAIR）が、顔認識システムを欺き、例えば顔認識システムにあなたを女性スターとして認識させることができる「匿名化」システムを開発したと報じた。

この技術は機械学習を利用して、ビデオ内の人物の主要な顔の特徴をリアルタイムで変更し、顔認識システムを騙して被写体を誤認させる。

この技術は、敵対的オートエンコーダと訓練された顔分類器を組み合わせて人の顔をわずかに歪ませ、人が認識できる自然な外観を維持しながら顔認識システムを混乱させるもので、ビデオ、さらにはリアルタイムのビデオでも使用できるとされている。

実は、こうした「匿名化」技術は過去にも存在していた。イスラエルの自動顔認識防止システムプロバイダーであるD-IDは、静止画像の匿名化技術を開発している。さらに、コンピューター ビジョン システムの弱点を悪用する、敵対的サンプルと呼ばれる種類の攻撃があります。人々は、敵対的パターンが印刷された服を着て、顔認識システムを騙し、存在しないものを認識させます。

これまでの手法は、監視カメラなどの情報源から取得した写真や静止画像、あるいは顔認識システムを欺くために事前に計画された敵対画像に適用されることが一般的でした。現在、FAIR の研究はリアルタイムの画像とビデオ映像を対象としており、FAIR によれば、この技術的成果は業界初であり、高度な顔認識システムにも耐えられるほど強力だという。

Facebookは新技術へのアプローチを説明する論文も発表した。顔認識がプライバシーを侵害する恐れがあり、顔置き換え技術が誤解を招くビデオの作成に使用される可能性があるという考えが浮上している。同社は顔認識技術の悪用を抑制するため、動画を匿名化する手法を導入し、良好な成果を上げている。

なお、VentureBeatによると、Facebookはこの顔認識防止技術をいかなる商用製品にも使用する予定はないが、この研究は将来の個人のプライバシー保護ツールに影響を及ぼす可能性があるという。また、研究が「誤解を招く動画」で強調しているように、個人の肖像が偽の動画の作成に利用されることを防ぐこともできる。

実際、近年、顔認識防止技術は急速に発展している。昨年には、トロント大学のパーハム・アーラビ教授と大学院生のアヴィシェク・ボーズ氏が率いるチームが、顔認識システムを動的に妨害できるアルゴリズムを開発した。

簡単に言えば、彼らが選択した方法は、顔認識アルゴリズムに干渉して顔認識を妨害することです。このアルゴリズムは、人間の目にはほとんど検出できない小さなピクセルを変更することで、検出器の検出結果を変更します。アルゴリズムによるピクセルへの変更は非常に小さいですが、検出器にとっては致命的です。

研究者による 300 W データベースのテスト結果でも、この方法の実現可能性が確認されました。このデータセットには、さまざまな人種、さまざまな照明条件、背景環境の 600 枚以上の顔写真が含まれており、業界標準のライブラリとなっています。結果は、彼らのシステムが検出可能な顔の割合をほぼ 100% から 0.5% に削減できることを示しました。

さらに恐ろしいのは、この顔認識防止システムはニューラルネットワークを通じて自律学習する能力を備えており、顔認識システムが進化するにつれて継続的に変化できるということです。

しかし、Leifeng.comの編集者にとってさらに恐ろしいのは、AIの時代には、私たちは自分自身の「顔」さえも保存できないということだ。