フォークス写真ツール：顔認識システムを密かに汚染

海外メディアの報道によると、インターネットには数十億枚の写真が溢れており、その多くは放置されたアカウントや古いホスティングサービスの中に消えてしまっているという。しかし、ソーシャル メディア プラットフォームの台頭により、写真に写っている人物とリンクすることがこれまで以上に簡単になりました。一般に知られていないことですが、一部の企業がこのコンテンツをひそかにダウンロードし、それを使用して秘密の顔認識モデルの集合を作成していました...しかし、解決策はありました。それは Fawkes と呼ばれていました。

[[337659]]

データマップ

顔認識モデルは、顔認識システムによって特定の人物を識別するために使用されることは明らかです。 AIに入力される画像が増えるほど、リアルタイム監視を含め、ランダムなビデオや画像内の人物をより正確に識別できるようになります。多くの人は、こうした顔認識モデルが存在することを知らないが、これがプライバシーに与える影響は本当に恐ろしい。

企業や政府は、人々がオンラインで自由に投稿する自分たちの写真を収集するだけで、AI モデルをトレーニングできます。膨大な量の情報が AI システムに入力され、それを止めるのが困難な問題が生じています。

シカゴ大学のSAND研究所の研究者たちは、一般の人々に画像に対する高度な制御を提供することで、この問題を解決する第一歩を踏み出しました。研究チームは、AIを使って画像を微調整し、人間には変化がないように見えるが、AIシステムがトレーニングされると「大きく歪んだ」画像になる、シンプルで無料のツール「Fawkes」を一般公開した。

研究者らは、これらの画像をシステムに取り込むことで、誰かが本質的には、その人の外見に関する認識を改ざんしてシステムを汚染する「攻撃」を行っていると説明した。 AI に取り込まれた汚染された画像はすべて、画像や動画内の人物を正確に識別する能力を低下させ、それを悪用したい企業や政府にとって AI を事実上無用なものにします。

Fawkes は単純な画像操作装置ではなく、より高度な AI 駆動型アプリケーションであり、対象となる顔認識トレーニング システムでは検出できない変更を生成します。つまり、有害な「有毒な」画像を識別して削除することはできません。どの画像が隠されているかを見分けるのは不可能なので、企業は収集したすべての画像を整理し、画像を歪めているものを見つけるのにかなりの労力を費やす必要があるだろうと研究者らは述べた。

研究によれば、AIのテストでは非常に高い精度が示された。