二度とアルゴリズムの罠に陥らないでください!背後にいる人物を見つけ出す

誰もがこのような経験をしたことがあると思います。

道路を運転しているとき、携帯電話は位置情報と速度を送信し、リアルタイムの交通情報と組み合わせて最適なルートを提供して渋滞を回避します。ショートビデオプラットフォームでビデオを気に入ったら、同じタイプのさまざまなショートビデオがホームページと推奨事項にポップアップ表示されます。ソフトウェアAで特定の場所への航空券を検索した後、ソフトウェアBに切り替えると、すぐにホテルの広告がホームページを占領します...

はい、今日の携帯電話は、すでに人間が自分自身を理解する以上に人間を理解しています。そして、携帯電話がこの機能を持つことができるのは、人工知能を活用した「ビッグデータ」と「正確な推奨」のおかげです。データとインテリジェンスは互いに補完し合う「敵」です。AI は、より正確なサービスを人々に提供するために、トレーニングと学習に大量のデータを必要とし、データも AI を通じてその価値を反映する必要があります。しかし、注意しないと「プライバシーの罠」に陥ってしまいます。

[[421046]]

ビッグデータはどこにでもある

ビッグデータに基づくパーソナライズされた推奨はすでに一般的です。データの次元と規模が十分に豊富であれば、AI はその価値を無尽蔵に掘り出せると思われます。データにより、AI はアプリケーションにとって価値あるものになります。たとえば、Facebook は AI を使用して、広告の根拠としてユーザーの将来の行動を予測しています。参照情報には、場所、デバイス情報、画像/動画の閲覧履歴、WiFi 接続状態、友人関係、チャット内容などが含まれます。しかし、その背後にある相関関係を見つけるには、人、人とモノ、モノとモノの間のデータ「ニューロン」を分析する必要がありますが、特に一人当たりに管理されるデータ量が指数関数的に増加している場合は、これは容易ではありません。

実際、企業顧客の 70% 以上が組織内で AI テクノロジーを使用していると主張しています。導入コストを考慮すると、ほとんどの企業はインテリジェンスの初期段階では外部ソリューションを選択することになります。 AIとビジネスの統合がますます深まるにつれ、企業の重点も効率性の向上からプロセスの意思決定管理へと移っています。つまり、AIはもはや単なるツールではなく、生産性を高めるものへと変化し始めているのです。

日常生活において、データの種類は構造化データ、非構造化データ、半構造化データに大別できます。データは、生成から実装まで、収集、送信、分析、取得、マイニングなどの段階を経る必要があります。分析により、大量のデータが価値あるものになります。機械は人間のように学習し、考え、推論し、コミュニケーションし、アプリケーション シナリオと組み合わせて規則性から将来を予測する必要があります。

しかし、パーソナライズされたサービスを楽しんでいるとき、人々はその背後にあるサービスが規制に準拠しているかどうかを気にしたことがあるでしょうか? GDPR の出現は間違いなく人々に教訓を与えました。最近、あるIT企業が、ユーザーの許可を得ずにソーシャルネットワーキングサイト上の何百万枚もの写真を撮影し、顔認識アルゴリズムのトレーニングモデルとして使用し、顔の特徴や頭部の特徴など約50のマーカーを分析したとして告発された。このアプローチの利点は明らかです。テクノロジー企業は、小売業者が消費者の製品の好みや購入時期を理解したり、特定の個人を特定したりできるようにするなど、業界のクライアントがより正確な情報を入手できるよう支援できます。

同様の状況は、スマートスピーカーによるユーザーの音声セマンティクスの収集、無人運転システムによる移動ルートの収集など、モノのインターネットのシナリオにも当てはまります。データコンプライアンスに基づいてより多くのデータソースを公開することに加えて、ブロックチェーンなどの新しいテクノロジーや手段を使用して、これらのデータの完全なレビューメカニズムを確立する必要もあります。もう一つの例はFacebookで、同社はAIを使ってユーザーの将来の行動を予測し、それを広告の根拠としている。参照情報には、位置情報、デバイス情報、画像/動画閲覧履歴、WiFi接続状況、友人関係、チャット内容などが含まれており、人々は真空の中で生きているような気分になる。

明らかに、この方法はユーザーのプライバシーに優しくなく、ユーザー自身に選択の余地はありません。さらに考えさせられるのは、AI を使ってインターネットのあらゆる場所からデータをマイニングし、そのデータを機械学習モデルに投入して研究者が使用できるようにラベル付けすることです。 GDPRが公布された後、Facebookを含む多くのIT企業が多額の罰金や警告を受けました。

注目すべきは、米国上院が、テクノロジー企業が技術的手段で取得したユーザー情報を特定の目的に使用することを制限する新しい法案を可決するかどうかについて長らく議論していることである。つまり、商用の画像認識アプリケーションを使用してユーザー情報を特定および追跡することはできないということである。さらに重要なのは、ユーザーは自分のデータを第三者と共有することを認識し、同意する必要があるということです。

ユーザー情報を取得した後、AI システムはユーザー自身よりもユーザーについてよく理解できるようになります。ユーザーの食習慣、運動状況、身体の変化などを把握し、断片化されたデータを分析システムにまとめることで、その人の全体的な特徴を記述することができます。特に、政府機関や企業の顧客がクラウドに移行するにつれて、住民のプライバシーの問題は新たなレベルにまで高まっています。

インターネット時代の急速な発展により、データは急速に進化しています。データがあらゆる場所に存在するこの時代では、サービスと引き換えにプライバシーを「販売」することがサービス プロバイダーの主な選択肢となっているようですが、ユーザーのほとんどはそれを受動的に受け入れるか、単にそれに気づいていません。しかし、人々はテクノロジーの恩恵を享受しながらも、プライバシーの重要性に留意する必要があります。AI技術の開発と活用だけでなく、AI技術をより良く正しく使用する責任も持つ必要があります。データを資本とするAIは、正しい道を歩まなければなりません。

今年11月に正式に施行される「中華人民共和国個人情報保護法」（以下、「個人情報保護法」）は、中国のインターネットもデータ監視の新時代に入ったことを示しています。

中華人民共和国個人情報保護法

個人情報保護法第45条によれば、従来の閲覧権と複製権が拡大され、限定的なポータビリティ権が追加され、具体的には「個人が自分の指定した個人情報処理業者に個人情報を移転することを要求し、国家サイバースペース管理部門が規定する条件が満たされている場合、個人情報処理業者は移転方法を提供しなければならない」と規定されている。この規制の保護の下では、プラットフォーム間の個人情報の移転に法的根拠が与えられるだけでなく、プラットフォームの禁止を打ち破り、大手インターネットプラットフォームの「データ独占」現象に効果的に対応し、情報の流れを促進することにも役立ちます。

大手インターネットプラットフォームが主に差別的な価格設定を行う「ビッグデータによる顧客殺し」現象に対応して、個人情報保護法は、「個人情報を使用して自動化された決定を行う個人情報処理者は、決定の透明性と結果の公正性と公平性を確保し、取引価格やその他の取引条件に関して個人に不当な差別的取扱いを課してはならない」とさらに明確にしています。ビッグデータによる顧客殺し現象はデータの使用行動に直接関係していますが、その規制はデータの使用リンクに限定されません。差別的取扱いの法的前提条件には、利用管理、ユーザーへの通知、公正な結果、コンプライアンス評価が含まれており、そうでない場合は個人情報の侵害となります。

それだけでなく、「個人情報保護法」では、個人情報を過度に収集してはならないこと、個人情報の収集と処理には完全な同意を得なければならないこと、重大な違反に対する罰金は売上高の5％以下とすること、公共の場での画像キャプチャと個人識別装置の設置は公共の安全を維持するために必要であること、関連する国の規制を遵守すること、目立つ警告標識を設置することなどが明確に規定されています。収集された個人画像および識別情報は、公共の安全を維持する目的でのみ使用されます。

これらの規約は、インターネット ユーザーに過度なデジタル化を拒否する権利を与えます。データの力に対する人々の理解が直観的かつ深くなるにつれ、ユーザー情報を掌握した AI システムはもはや単なるツールではないことが認識されるようになりました。これらのツールは、ユーザーをトラフィックと金儲けのツールと見なしています。彼らは、電話番号、実際の写真、自宅住所、銀行カード番号、ID 番号、社会的関係など、さらに多くのデータ許可を求め続け、これらのデータを使用して、ユーザーの経済力、社会的地位、関心、またはリスクの好みを推測します。

サイバーパンクの世界は、テクノロジーのレベルは高いが、生活秩序は混沌としているというシーンを映画やテレビ番組で見たことがある人も多いと思います。ある意味、遍在的で全知全能のアルゴリズムとデータが人々の衣食住交通を決定し始め、絶対的な技術独占を達成すると、人類社会はサイバーパンクの世界から遠くありません。この世界では、自分が誰であるかを決定できるのは自分自身ではなく、アルゴリズムです。こうした懸念が現実のものとなることを避けるためには、人々は自分の個人情報やデータに対してより自律性を持つ必要があります。