知らないうちに個人のプライバシーを人工知能に「提供」しないでください

[[260334]]

BBCによると、IBMは最近、顔認識アルゴリズムの訓練のため、ユーザーの同意を得ずに写真共有サイトFlickrから約100万枚の写真を入手したとして告発された。

個人のプライバシーが「データ」になるとき

IBMの研究者らは、顔の特徴間の距離の測定など、これらの写真を顔分析に使用する手順を公の論文で詳細に説明したと伝えられている。研究者らは、頭部と顔面にある47個の目印を使用することで、人の顔の写真から多くの信頼性の高い測定を行うことができると記している。

テクノロジー企業にとって、これらの写真の価値は明らかです。大規模な画像データ セットは、顔認識アルゴリズムの精度を高めるのに役立ち、さまざまな写真やさまざまなシーンからユーザーをすばやく識別できるようになります。

しかし、写真に写っている人々は、自分たちの肖像データがテクノロジー企業によって収集され、人工知能ニューラルネットワークに「入力」され、知らないうちに顔認識技術の反復的なアップグレードのための「糧」になっていることに気づいていなかっただろう。

IBMは声明の中で、ユーザーのプライバシーを非常に重視しており、プライバシー原則に従うよう注意を払っていると述べ、ユーザーはデータセットからオプトアウトできると述べた。

そうは言っても、オプトアウトの時点は、ユーザーが自分のポートレートデータが取得される前に他の目的で使用されることを知った時点であるべきです。この事件では、多くのユーザーのプライバシーが知らないうちに侵害されました。

業界の公然の秘密

あなたのプロフィール写真が、上記で述べた 100 万枚の写真のうちの 1 枚である場合、この問題は間違いなく特に奇妙に感じるでしょう。しかし、IBM の行動は一部の人にとっては驚くべきことではなく、業界内では公然の秘密だったのです。

MITテクノロジーレビューの公式サイトに掲載された記事によると、人工知能の研究者は、大量のデータを貪欲な機械学習アルゴリズムに「供給」するためにインターネットのあらゆる場所から大量のデータを収集しているという。なぜなら、これらのアルゴリズムのトレーニングにはビッグデータによるサポートが必要だからです。記事によると、ソーシャルプラットフォーム「インスタグラム」上の写真はテクノロジー企業の画像データソースとしてよく利用されており、写真のコンテンツタグは写真の内容と一致することが多いため、研究開発担当者がデータにラベルを付けるのが容易になっているという。

ソーシャルプラットフォーム上の写真を知らないうちに入手してしまうことに加え、人工知能技術の応用がますます広まるにつれ、個人のプライバシーが不当に悪用されるのではないかという懸念も他の場面で存在しています。

たとえば、最近では多くの企業が、顔認識技術をレジカウンターに導入し、顔スワイプによる支払いを促進しています。消費者が顔をスキャンして支払うと、顔認識システムによって顔写真もキャプチャされます。重要なのは、これらの顔も、Flickr の写真のように人工知能ニューラル ネットワークのトレーニング用のデータになるかどうかです。消費者の同意がなくても、他の目的で他の販売者に提供されるのですか?これらはすべて尋ねる価値のある質問です。

侵害される可能性のある個人のプライバシーは、顔写真に限定されません。現在、多くのアプリケーション ソフトウェアでは、音声認識テクノロジのサポートにより、ユーザーが音声を入力できるようになりました。しかし、声紋は重要な個人の生体情報です。企業が入手した音声データはどのように保管され、利用されるのでしょうか？声紋データが漏洩すると、犯罪者が現在の音声技術を利用して真偽の判別が難しい音声を合成し、電話詐欺などの悪質な目的に利用する可能性があることを知っておく必要があります。

虹彩認識、指紋決済、テキスト認識などの人工知能技術も、その適用時に個人のプライバシーの問題が生じる可能性があります。

ユーザーのインフォームドコンセントが前提条件である

人工知能の時代では、関係者全員がますます透明化しています。国民の利便性を享受する一方で、個人のプライバシーは簡単にグレーゾーンに追いやられてしまう可能性がある。

解決策は実は非常にシンプルです。ユーザーの個人情報を取得する際には、ユーザーの知る権利が保証されるべきであり、ユーザーには人工知能に個人情報を「提供」しないことを選択する権利が与えられるべきです。

この目標を達成するには、業界の認知度だけに頼るだけではおそらく十分ではないでしょう。人工知能技術の応用を規制するための関連法を制定することが不可欠です。

IBM事件が騒動を引き起こしたちょうどその時、米国の2人の上院議員が、テクノロジー企業による顔認識技術の使用に一定の制限を課すことになる「商用顔認識プライバシー法案」という新しい法案の可決を提案した。

この法案は、利用者の同意なしに利用者を識別または追跡する目的で、商用の顔認識技術を使用してデータを収集および共有することを禁止することを提案している。また、新法案では、企業に対し、顔認識データを収集する際にはユーザーに明確に通知し、ユーザーの同意を得た上でのみ第三者と共有することを義務付ける。

喜ばしいことに、今年の両会期間中、わが国の関連分野からも良いニュースがもたらされました。全国人民代表大会常務委員会は、個人情報保護法など人工知能と密接に関連する立法プロジェクトを5カ年立法計画に盛り込みました。

人工知能技術がますます高性能化するにつれ、個人のプライバシーを尊重する意識もさらに高まることを期待しています。

さらに読む

欧米の学者が一般データ保護規則について懸念を表明

過去1年間で、技術の発展とプライバシー保護の間の対立は激化しているようです。最近、2014年のノーベル経済学賞受賞者でフランスのトゥールーズ経済大学の教授であるジャン・ティロール氏と他の多くの著名な学者が杭州に現れ、「データプライバシーと技術開発」についての見解を述べた。

2018年5月、欧州連合（EU）が発行し、史上最も厳しいとされるGDPR（一般データ保護規則）が施行された。フェイスブックなど巨大企業は次々と欧州から巨額の罰金を科せられた。同時に、プライバシー保護政策をめぐっては絶えず論争が起こっています。より厳格なプライバシー保護規制の導入を求める声もあります。また、多くの専門家は、ヨーロッパの厳格なデータ保護規制は世界的に推進するのに適していないと考えています。将来の大きな世界の前では、プライバシーは小さな問題にすぎません。

議論の中で、欧州と米国の学者は、欧州連合が発行したデータ保護規制について総じて懸念を表明した。ジャン・ティロール氏は、この規制は複雑すぎるため、データ収集を許可しないことは「大切なものを無駄にする」ことに等しいと考えている。米国バークレー法科大学院のジェームズ・デンプシー教授は、プライバシー問題に関する現在の研究は、経済学と社会学のより十分な知識によってサポートされ、改善される必要があると率直に述べた。

エコノミスト・インテリジェンス・ユニットが発表した最新の報告書では、プライバシーに関しては多くの地域的な偏見があると述べられています。中国は、欧米よりも企業統治におけるデータプライバシーの重要性を認識しています。中国人の回答者の 98% は、データ プライバシーが優れた企業統治の最も重要な要素であると考えています。これは、中国企業がプライバシーを真剣に受け止めていないという一般的な認識とはまったく対照的です。