あなたの写真を「秘密裏に」使用した顔認識システムはいくつありますか?ツールを使って確認する時が来た

テクノロジー企業が「個人のプライバシーを侵害する」顔認識システムを開発する際、彼らはあなたが予想していなかった助け、つまりあなたの顔を得ることになるかもしれない。

企業、大学、政府の研究所は、さまざまなオンラインソースから収集された何百万もの画像を使用してこの技術を開発した。

現在、海外の研究者らが、こうした画像の中から自分の古い写真を探すのに役立つ技術「Exposing.AI」を開発している。

このツールは、オンライン写真共有サービス「Flickr」上の画像を照合するもので、顔認識からチャットボットまで、さまざまなAI技術で使用される膨大なデータの山への窓口となる。

「人々は、自分の最もプライベートな写真が使われていることを知る必要がある」と、プライバシーと公民権を擁護する団体、監視技術監視プロジェクトの技術ディレクター、リズ・オサリバン氏は言う。

彼女は、同じくExposing.AIプロジェクトに参加しているベルリンを拠点とする研究者兼アーティストのアダム・ハーベイと協力しました。
新婚旅行の写真が国家監視システムに使われ、監督は「恐怖」を感じた
AI システムは魔法のように賢くなるわけではありません。人間が生成したデータのパターンを特定することで自ら学習します。テクノロジーは常に進歩し、発展していますが、女性や少数派に対する人間の偏見を学んできました。

実は、あなたは AI の発展にひそかに貢献していることに気づいていないかもしれません。

これは、ある人にとっては目新しいものですが、他の人にとっては実に不気味なものです。

問題は、これが海外では違法になる可能性があるということだ――

2008年、イリノイ州は、住民の顔スキャンが本人の同意なしに使用されると罰金を課す「生体認証情報プライバシー法」と呼ばれる法律を可決した。

2006年、ブリティッシュコロンビア州ビクトリア出身のドキュメンタリー映画製作者ブレット・ゲイラーは、当時人気のあったウェブサイトFlickrに新婚旅行の写真をアップロードした。

[[380305]]

15年後、ハーベイ氏が提供したExposing.AIの初期バージョンを使用して、彼はFlickrが長年にわたり多くの企業によって売買され、現在はユーザーがクリエイティブ・コモンズ・ライセンスの下で写真を共有できる写真共有サービスSmugMugに属していることを発見した。彼の新婚旅行で撮影された何百枚もの写真が複数のデータセットに保存されており、そのデータセットはおそらく世界中の顔認識システムのトレーニングに使用されていると思われる。

Flickr は長年にわたり多くの企業によって買収、売却されてきましたが、現在はクリエイティブ・コモンズ・ライセンスに基づいてユーザーが写真を共有できる写真共有サービスである SmugMug が所有しています。

このタイプのライセンスはインターネット サイトで一般的であり、他の人が一定の制限の下で写真を使用できることを意味します (ただし、これらの制限は無視される場合があります)。

2014年、当時Flickrを所有していたYahooは、コンピュータービジョンの取り組みを支援するために、これらの写真の多くをデータセットで使用しました。

ゲラーさんは自分の写真がどうやって回覧されたのか不思議に思った。その後、その写真は米国やその他の国の監視システムに使用される可能性があると伝えられた。

「私の好奇心は恐怖に変わった」と彼は語った。

確かに、アメリカ人の新婚旅行の写真が国家監視システムの構築に使われたというのは驚きだ。

非商用利用のMegaFaceは様々な企業で広く使用されており、オフラインにしても問題は解決しない
数年前、トップクラスの大学やテクノロジー企業の人工知能研究者は、写真共有サービス、ソーシャルネットワーク、OkCupidなどの出会い系サイト、さらには大学に設置されたカメラなど、さまざまなソースから写真を収集し始めました。収集後、他の団体と写真を共有しました。

これは研究者にとっては普通のことです。彼らは全員、新しい AI システムにデータを入力する必要があったため、すべてのデータを共有しましたが、それは合法でした。

一例として、2015 年にワシントン大学の教授によって作成されたデータセットである MegaFace データセットが挙げられます。

[[380307]]

彼らは、データソースの承知と同意なしに、自分の写真を巨大な写真ライブラリに保存します。

これらの教授たちは、他の人がダウンロードできるように画像をインターネットに投稿しました。

ニューヨーク・タイムズ紙の公文書開示請求によると、MegaFaceは世界中の企業や政府機関で6,000回以上ダウンロードされている。これらには、米国の防衛関連企業ノースロップ・グラマン、CIAの投資部門In-Q-Tel、そしてもちろん中国のソーシャルメディアや企業が含まれる。

研究者らはもともと、商業利用のためではなく、顔認識システムの開発促進を目的とした学術コンテストで使用するためにMegaFaceを作成した。

しかし、実際には、MegaFace を公開ダウンロードしたユーザーのうち、コンテストに参加したのはごく一部でした。

「第三者のプロジェクトについて議論するのは適切ではない」とワシントン大学の広報担当者ビクター・バルタ氏は述べた。「メガフェイスは廃止されており、今後はメガフェイスのデータを配布しない」

[[380308]]

5月にワシントン大学はMegaFaceをオフラインにした。しかし。これらのデータのコピーはどこにでも存在する可能性があり、新たな研究の材料を提供し続けます。

このような制限の下で、プライバシーデータの悪用問題はいつ解決されるのでしょうか?
オサリバン氏とハーベイ氏は、これらすべてのデータがどのように使用されているかを明らかにできるツールの開発に何年も費やしましたが、そのプロセスは予想以上に困難であることが判明しました。

彼らは、ある人物の写真を使って、その人の顔がさまざまなデータセットに何回含まれているかを即座に伝えたいと考えています。

しかし彼らは、このツールが他の組織によって悪意ある目的で使用される可能性があることを懸念している。

「危害の可能性は大きいようだ」とオサリバン氏は語った。

オサリバン氏は、企業の AI 技術の利用管理を支援するニューヨークの企業、Responsible.AI の副社長でもあることは特筆に値します。

最終的に、ツールの検索方法と検索結果を制限せざるを得なくなりました。結局、そのツールは期待したほど効果的ではなかったことが判明しました。

Exposing.AI 自体は顔認識技術を使用していません。インターネット アドレスなど、オンラインで写真を指定する方法を提供した場合にのみ、写真を正確に特定できます。

さらに、検索できるのは Flickr に投稿された写真のみです。写真を識別するには、Flickr のユーザー名、タグ、または Web アドレスが必要です。

研究者らは、この措置はセキュリティとプライバシー保護機能を強化することを目的としたものだと述べた。

これによりツールの有用性が制限されますが、その効果は依然として驚くべきものです。

Flickr 上の画像は、MegaFace を含め、インターネット上で広く流通している多数の顔認識データセットを構成しています。

Exposing.AI を使用すると、自分にリンクできる写真を見つけるのは難しくありません。古いメール内の Flickr リンクを検索するだけで、MegaFace やその他の顔認識データセットで使用された写真を見つけることができます。

このツールを通じて、ゲラーはかつて考えていた以上に発見したものに特に動揺した。インターネット上で情報が自由に流れるのは良いことであり、彼が Flickr を使用するのは、他の人が彼の写真を使用する権利が Creative Commons ライセンスによって制限されているからです。

「私は今その結果を経験している」と彼は語った。

彼とオサリバン氏、ハーベイ氏が望んでいるのは、企業や政府が個人データの大量収集を防ぐための新たな規範、政策、法律を策定することだ。

ゲラー氏はまた、この個人情報の悪用を明らかにするために、新婚旅行の写真の長く紆余曲折のある不安な旅についてのドキュメンタリーも制作している。

参考リンク:

https://www.nytimes.com/2021/01/31/technology/facial-recognition-photo-tool.html?referringSource=articleShare