アルゴリズムを拒否することができます

[[419044]]

「ブラックミラー」には、新婚の夫を亡くした女性が、その悲しみを和らげるために企業のAIアルゴリズムサービスを利用するという物語を語る短いエピソードがある。後者は、夫がネット上に残したさまざまなデータを収集し、夫の話し方や反応の癖を復元し、それをプロトタイプとして、夫に非常によく似たロボットを作成した。

デジタルシナリオの利用がより多様かつ深くなるにつれ、「データ」自体の意味もますます複雑になっていきます。もはや、孤立した使用状況や単純なビジネス データ レコードを表すものではありません。人間を取り巻くデータを継続的につなげていくことで、 「データ」という資産は、社会生活を送る人間の「DNA」へと徐々に進化していくのかもしれません。

つまり、自分自身のデータのコントロールを失った場合、将来的にあなたを本当に理解するのはあなた自身ではなく、巨大なデータストレージシステムを備えたインターネットプラットフォームになるかもしれません。これは、モバイルインターネットが人々の生活に深く浸透し、プラットフォームベースの企業が徐々に巨大化していく中で、ここ数年で一般の人々をますます悩ませている問題です。

こうしたリスクを回避するため、世界各国は規制措置を強化している。 2021年8月20日、第13期全国人民代表大会常務委員会第30回会議は、「中華人民共和国個人情報保護法」（以下、「保護法」という）を可決し、2021年11月1日より施行される。

保護法第4条では、ここで言う個人情報とは、「個人情報とは、電子的方法またはその他の方法で記録された識別された、または識別され得る自然人に関する各種情報であり、匿名化された情報は除く」と定義されています。

実際、ここでの一般的な文脈における個人情報はデータです。

新華社通信の要約によると、「保護法」では、①自動化された意思決定を通じて個人に情報をプッシュしたり、商業的なマーケティングを行ったりする場合、個人の特性をターゲットにしない選択肢や、拒否するための便利な方法を提供しなければならないこと、②生体認証、医療健康、金融口座、居場所などのセンシティブな個人情報を処理する場合は、個人の個別の同意を得る必要があること、③個人情報を違法に処理するアプリケーションは、サービスの提供の停止または終了を命じられることなどが明確にされている。

つまり、保護法は、データの生成、収集、利用など、さまざまな側面からインターネットビジネスを規制しているのです。一般的な文脈では、情報処理はアルゴリズムのことを指します。

データ収集の隠された性質により、個人情報保護に対する人々の要求は、アルゴリズムの影響に関する考察にますます反映されるようになっています。

最も頻繁に議論されるトピックの 1 つは、「アルゴリズムに原罪はあるか?」です。

アルゴリズムを新しい技術として支持する人々は、「アルゴリズム」が典型的な技術製品であると信じています。ある意味では、この技術的中立性は多くの場合極端に達しています。アルゴリズムの設計者自身でさえ、この背後にあるメカニズムを完全に理解することはできません。

インターネット発展の原動力として、アルゴリズムはエンターテインメントとビジネスの両方の神話を生み出し、インターネットの奇跡に消えることのない貢献をしてきました。

しかし、アルゴリズムを警戒する人々は、その背後には明らかな目的があると信じています。定量的なフィードバックがなければ、アルゴリズムは機能しません。そして、ユーザーのクリック確率を高めるためであろうと、ユーザーのインターフェース滞在時間を延ばすためであろうと、あるいは悪名高い「ビッグデータによる既存顧客殺し」であろうと、まさにこの目的自体が、ある種の「原罪」を伴っているのです。

支持者であろうと反対者であろうと、絶対的に正しいとか間違っているという人はいない。しかし問題は、「アルゴリズム」には強制する本質的な能力があるということです。

一方で、アルゴリズムは膨大な量のデータを取り込みます。継続的に最適化された正のフィードバックを通じて、「アルゴリズム」はユーザーの間で雪だるま式に地位を拡大します。その一方で、アルゴリズムは膨大なデータ検証を必要とするため、「アルゴリズム ロジック」は当然、プラットフォーム レベルの巨人に有利になる傾向があります。これらのプラットフォームとその背後にあるビジネス システムにより、この効率的な運用ツールのセットを簡単に拒否することはできません。

さらに、アルゴリズムによる人々の追跡は単一のアプリケーションやプラットフォームに限定されず、「共謀」し始めています。

最も典型的なケースは、昨年 Apple が悪名高い IDFA (広告用識別子) ルールを調整すると発表したことです。簡単に言えば、IDFA のようなシステムは、異なるプラットフォーム間を移動しても、すべてのプラットフォームがユーザーを認識し、さまざまなアルゴリズムによって同じユーザーを「追跡」することを意味します。

昨年、IOS システムは IDFA をデフォルトでオンからデフォルトでオフに変更しました。このシステムは、ユーザーの行動をマークすることで、ユーザーと広告を効率的にマッチングします。一定の規制当局の認可があるにもかかわらず、ほとんどのユーザーはこうした収集とマッチング行為に気付いていないため、この行為は「グレーな業界」として広く認識されています。

規制が導入された後、広告代理店から多数の反発が起こった。その結果、Facebook は「広告提携」による収益の潜在的可能性の半分を失うことになると言われている。

たった 1 回の IDFA 調整で、業界に大きな衝撃を与える可能性があります。ビジネスにおけるプライバシー問題の影響は、私たちの想像をはるかに超えるものかもしれません。国内外のストリーミングメディアやソーシャルプラットフォームのエコシステムでは、大量のユーザーデータ取得行動が実はインターネット商業収益化の効率化の糧となっています。

たとえば、ある電子商取引プラットフォームのページでは、ユーザーがログインしていないと商品を検索できません。

あるソーシャルプラットフォームでは、ユーザーがパーソナライズ広告機能をオフにした後、6 か月後に自動的に復元されます。

ある動画配信サービスでは、ユーザーのクリック一つ一つがプラットフォームにとってユーザーの嗜好をさらに分析するツールとなり、ショート動画配信サービスの個人アカウントは新時代の「キャラクター識別子」となり得る。

出会い系プラットフォームでは、ユーザーによるクリックや削除のたびに、プラットフォームがユーザーの好みを記録するのに役立ちます...

ショッピングや読書ソフトの最終ページには、インターネットの世界をさまよう幽霊が現れます。「気に入ったようですね」

大手企業が提供する「便利なサービス」に直面したユーザーは、十分な選択肢を持たないことが多い。ほとんどのユーザーは、上記の独占的なインターネット プラットフォームから実際に離れることはできません。即時の満足感の利便性と長期的な副作用のプライバシーを比べると、ほとんどの人は前者を躊躇して選ぶしかありません。

今回の「保護法」は、長らく批判されてきたこうした行為を具体的に規制するものである。

例えば、第16条では、「個人情報処理者は、個人情報の処理が商品またはサービスの提供に必要である場合を除き、本人が個人情報の処理に同意しない、または同意を撤回したことを理由に、商品またはサービスの提供を拒否してはならない」と規定されています。

これは、「これらの不正な条件に同意しないと、アプリを使用できない」という人々が常に不満を言う現象に対処するためのもので、プラットフォームにユーザーに選択権を与えることを強制します。

例えば、第24条では、「個人情報を利用して自動化された意思決定を行う個人情報処理者は、意思決定の透明性、結果の公正性、公平性を確保し、取引価格その他の取引条件に関して個人を不当に差別する取扱いを行わないようにしなければならない」と規定しています。

自動化された意思決定を通じて個人に情報をプッシュしたり、商業的なマーケティングを行ったりする場合は、同時に個人の特性に合致しない選択肢を提供したり、個人が拒否するための便利な方法を提供したりする必要があります。

自動化された意思決定を通じて個人の権利利益に重大な影響を与える決定が行われる場合、個人は個人情報処理者に対して説明を求める権利を有し、個人情報処理者が自動化された意思決定のみを通じて決定を行うことを拒否する権利を有します。 ”

これは法的な文脈で述べられていますが、実際には「ビッグデータが古い顧客を殺す」ことや、ユーザーに不当な扱いを受けていると感じさせることが多いパーソナライズされた推奨事項を指しています。インターネット企業がユーザーデータを無法に扱ってきた数年後、当然のことと思われながらも実際には問題だらけのアルゴリズム規制行為に人々がノーと言える法律がようやくできた。

保護法の草案作成から意見募集、最終発表に至るまで、業界ではその厳しさをEUのGDPR（一般データ保護規則）と比較してきた。保護法は、同意ルール、データ保持期間、情報処理者の行動規範と義務、顔データなどの重要な特定の種類のデータの保護規定について、明確かつ具体的なガイダンスと要件を規定しています。

保護法の罰則措置も非常に厳しい。

前項に規定する違法行為が発生し、状況が深刻な場合、省クラス以上の個人情報保護職責を履行する部門は是正を命じ、違法所得を没収し、5,000万人民元または前年度の売上高の5％以下の罰金を科し、関連業務の一時停止または是正のための操業停止を命じ、関連主管部門に通知して関連営業許可を取り消し、または営業許可証を取り消すことができる。直接責任を負う監督者とその他の直接責任者は10万人民元以上100万人民元以下の罰金に処し、一定期間、関連企業の取締役、監督者、高級管理職、個人情報保護責任者を務めることを禁止することを決定することができる。

さらに、法律文全体を見ると、証拠の提供や権利の特定と定義などの行為に関して、法律は一般ユーザーに有利に傾いていることがわかります。

これらすべてにより、一般の人々は自分のデータを保護するためのこれまでにない詳細かつ明確な基盤を得ることができました。

保護法で注目すべきもう一つの点は、個人情報の国境を越えた提供に関する規則を明確にするために特別な章が設けられ、国境を越えて情報を提供する者には国家のサイバーセキュリティおよび情報化部門が実施するさまざまなセキュリティチェックを受けることが義務付けられていることである。これは、複数の企業によるデータの海外輸出に伴うセキュリティリスクへの対応策として最近注目されている手法とも重なるもので、国境を越えて流れるデータも一般ユーザーにとって守るべき重要なデータの一部です。

中華人民共和国の個人情報保護法は画期的な法律となる運命にある。一般ユーザーに対しては総合的な保護を提供すると同時に、インターネット時代の企業に対するガイドも提供したいと考えています。 11月に正式に施行されると、データを管理・処理する企業は不適切になるだけでなく、監視がビジネスや技術の進歩に追いつけないとしてプラットフォームの責任を回避し続け、ユーザーの権利保護を無視してアルゴリズムが利益を追求することを許す場合、実際の代償を払わなければならないことになる。

「ブラックボックス」に隠れていたアルゴリズムがついに取り出され、試されることになる。