AIの目に見えないマント：このパーカーを着ると監視アルゴリズムがあなたに目をつぶる

この記事は、公開アカウント「Reading the Core」（ID: AI_Discovery）から転載したものです。

監視技術における AI の普及により、あらゆる CCTV カメラが潜在的に国家スパイになる可能性がある。インターネットでは、ソーシャル メディア サイトやビデオから取得した画像を使用して、Clearview AI (米国の人工知能顔認識企業) などの大規模な監視データベースを構築できます。

[[340784]]

今、パーカーはそれをすべて変える可能性を秘めています。フェイスブックとメリーランド大学の研究者らは、監視アルゴリズムを欺いて着用者を検知できないスウェットシャツとTシャツのシリーズを開発した。彼らはそれをAI「透明マント」と呼んでいます。

このシャツは、約5年前にコンピュータービジョンアルゴリズムで発見された特性を活用しています。アルゴリズムは、オブジェクトを識別するために単純な（素朴な）アプローチを使用します。つまり、すでに識別した画像に類似するピクセル パターンを新しい画像内で検索します。人間は新しいものを見たときに、複雑な手がかりと実際の知識に基づいて判断を下すことができますが、アルゴリズムは画像のマッチングのみを使用します。

[[340785]]

出典: Rageon.com

つまり、アルゴリズムが検索しているパターンがわかっていれば、それを隠すことができます。アルゴリズムを欺くシャツを作成するために、Facebookとメリーランド大学のチームは、検出アルゴリズムを通じて1万枚の人物画像を処理した。人物が検出されると、画像の遠近感、明るさ、コントラストがランダムに変更され、その後、別のアルゴリズムを使用して、アルゴリズムを欺くのに最も効果的なランダムな変更が見つかりました。

これらのランダムなパターンが物理的な物体（ポスター、紙人形、衣服など）に印刷されている場合でも、検出アルゴリズムを騙すことが可能です。しかし研究者らは、実際の検査は純粋にデジタルな検査よりも精度が低いことも指摘している。ジャージを着用すると、検出器の認識能力はほぼ100％から50％に低下し、これはコインを投げたときに表か裏が出る確率と同じである。

この研究は、メリーランド大学コンピューターサイエンス学部の研究者らが行っている研究に続くもので、研究者らの一部は2018年と2019年にFacebookに入社している。同研究室は以前、AIを欺くのと同じ原理を使って著作権検出アルゴリズム（著作権のある音楽の無断使用を防ぐためにYouTubeが使用するアルゴリズムなど）を欺く方法を研究し、著作権検出を回避するのがいかに簡単かを示し、人々の注目を集めた。

この研究はFacebookにとっても良いことだ。ハッキングが効果的である根本的な原因は、画像認識アルゴリズムに画像を分析するためのコンテキストや理解力が欠けていることであり、アルゴリズムが失敗する仕組みを理解することが、アルゴリズムを騙されにくくするための第一歩です。

これは、アルゴリズムの攻撃耐性を高めるだけでなく、理論的には、画像の表示方法がより複雑になることでアルゴリズムの精度と柔軟性が大幅に向上する研究プロセスの始まりです。言い換えれば、この研究は画像検出アルゴリズムを破壊するのではなく、強化する可能性がある。

実際、アルゴリズムの欺瞞を示すグラフィックがプリントされた T シャツやスウェットシャツを購入することができます。ただし、現時点では監視技術からあなたの個人情報を保護することは不可能でしょう。研究者らは、NECなどの監視会社が開発した独自のアルゴリズムではなく、広く利用可能なオープンソースのアルゴリズムを使用してパターンをテストした。

同時に、このパターンは、人の体全体ではなく顔の特定の部分のみを対象とする顔認識ではなく、人物検出を回避するように設計されています。公共の場では、人物検出機能を使用して、群衆の数を数えたり、スマートドアベルに誰かが近づいているかどうかを確認したり、場合によっては顔認識を強化したりするなどのタスクを実行できます。

[[340786]]

画像ソース: unsplash

しかし、この研究とその再現可能性に向けた動きは、監視技術の変化を表している。つまり、最先端のアルゴリズムを覆し、望む人のために衣服のパターンを作成できるシンプルな衣服である。たとえ効果がないとしても、AI が生成した監視欺瞞画像がプリントされたスウェットシャツは、優れた会話ツールになります。