あなたの写真を「秘密裏に」使用した顔認識システムはいくつありますか?ツールを使って確認する時が来た

テクノロジー企業が「個人のプライバシーを侵害する」顔認識システムを開発する際、彼らはあなたが予想していなかった助け、つまりあなたの顔を得ることになるかもしれない。

企業、大学、政府の研究所は、さまざまなオンラインソースから収集された何百万もの画像を使用してこの技術を開発した。

現在、海外の研究者らが、こうした画像の中から自分の古い写真を探すのに役立つ技術「Exposing.AI」を開発している。

このツールは、オンライン写真共有サービス「Flickr」上の画像を照合するもので、顔認識からチャットボットまで、さまざまなAI技術で使用される膨大なデータの山への窓口となる。

「人々は、自分の最もプライベートな写真が使われていることを知る必要がある」と、プライバシーと公民権を擁護する団体、監視技術監視プロジェクトの技術ディレクター、リズ・オサリバン氏は言う。

彼女は、同じくExposing.AIプロジェクトに参加しているベルリンを拠点とする研究者兼アーティストのアダム・ハーベイと協力しました。
新婚旅行の写真が国家監視システムに使われ、監督は「恐怖」を感じた
AI システムは魔法のように賢くなるわけではありません。人間が生成したデータのパターンを特定することで自ら学習します。テクノロジーは常に進歩し、発展していますが、女性や少数派に対する人間の偏見を学んできました。

実は、あなたは AI の発展にひそかに貢献していることに気づいていないかもしれません。

これは、ある人にとっては目新しいものですが、他の人にとっては実に不気味なものです。

問題は、これが海外では違法になる可能性があるということだ――

2008年、イリノイ州は、住民の顔スキャンが本人の同意なしに使用されると罰金を課す「生体認証情報プライバシー法」と呼ばれる法律を可決した。

2006年、ブリティッシュコロンビア州ビクトリア出身のドキュメンタリー映画製作者ブレット・ゲイラーは、当時人気のあったウェブサイトFlickrに新婚旅行の写真をアップロードした。

[[380305]]

15年後、ハーベイ氏が提供したExposing.AIの初期バージョンを使用して、彼はFlickrが長年にわたり多くの企業によって売買され、現在はユーザーがクリエイティブ・コモンズ・ライセンスの下で写真を共有できる写真共有サービスSmugMugに属していることを発見した。彼の新婚旅行で撮影された何百枚もの写真が複数のデータセットに保存されており、そのデータセットはおそらく世界中の顔認識システムのトレーニングに使用されていると思われる。

Flickr は長年にわたり多くの企業によって買収、売却されてきましたが、現在はクリエイティブ・コモンズ・ライセンスに基づいてユーザーが写真を共有できる写真共有サービスである SmugMug が所有しています。

このタイプのライセンスはインターネットサイトで一般的であり、他の人が一定の制限の下で写真を使用できることを意味します (ただし、これらの制限は無視される場合があります)。

2014年、当時Flickrを所有していたYahooは、コンピュータービジョンの取り組みを支援するために、これらの写真の多くをデータセットで使用しました。

ゲラーさんは自分の写真がどうやって回覧されたのか不思議に思った。その後、その写真は米国やその他の国の監視システムに使用される可能性があると伝えられた。

「私の好奇心は恐怖に変わった」と彼は語った。

確かに、アメリカ人の新婚旅行の写真が国家監視システムの構築に使われたというのは驚きだ。

非商用利用のMegaFaceは様々な企業で広く使用されており、オフラインにしても問題は解決しない
数年前、トップクラスの大学やテクノロジー企業の人工知能研究者は、写真共有サービス、ソーシャルネットワーク、OkCupidなどの出会い系サイト、さらには大学に設置されたカメラなど、さまざまなソースから写真を収集し始めました。収集後、他の団体と写真を共有しました。

これは研究者にとっては普通のことです。彼らは全員、新しい AI システムにデータを入力する必要があったため、すべてのデータを共有しましたが、それは合法でした。

一例として、2015 年にワシントン大学の教授によって作成されたデータセットである MegaFace データセットが挙げられます。

[[380307]]

彼らは、データソースの承知と同意なしに、自分の写真を巨大な写真ライブラリに保存します。

これらの教授たちは、他の人がダウンロードできるように画像をインターネットに投稿しました。

ニューヨーク・タイムズ紙の公文書開示請求によると、MegaFaceは世界中の企業や政府機関で6,000回以上ダウンロードされている。これらには、米国の防衛関連企業ノースロップ・グラマン、CIAの投資部門In-Q-Tel、そしてもちろん中国のソーシャルメディアや企業が含まれる。

研究者らはもともと、商業利用のためではなく、顔認識システムの開発促進を目的とした学術コンテストで使用するためにMegaFaceを作成した。

しかし、実際には、MegaFace を公開ダウンロードしたユーザーのうち、コンテストに参加したのはごく一部でした。

「第三者のプロジェクトについて議論するのは適切ではない」とワシントン大学の広報担当者ビクター・バルタ氏は述べた。「メガフェイスは廃止されており、今後はメガフェイスのデータを配布しない」

[[380308]]

5月にワシントン大学はMegaFaceをオフラインにした。しかし。これらのデータのコピーはどこにでも存在する可能性があり、新たな研究の材料を提供し続けます。

このような制限の下で、プライバシーデータの悪用問題はいつ解決されるのでしょうか?
オサリバン氏とハーベイ氏は、これらすべてのデータがどのように使用されているかを明らかにできるツールの開発に何年も費やしましたが、そのプロセスは予想以上に困難であることが判明しました。