米国版「テンセントがアプリのアップデートを停止」、米国が「AIアルゴリズム」を法制化、未審査の公開を禁止

数日前、テンセントの製品に違反があり、合計4回に分けて報告されました。工業情報化部はテンセントに対して移行指導措置を講じた。すべての新しいアプリや新しいバージョンは、工業情報化部が主催する技術テストを受ける必要があり、テストに合格して初めて正常に店頭に並ぶことができる。

[[439054]]

近年、中国はインターネットに対する監視を継続的に強化しており、極めて明らかな成果を上げています。アプリにおける各種ポップアップ、誘導クリック、悪意のある許可要求などの現象は基本的に消滅しました。

世界中の国々も中国に倣いつつある。先月、ニューヨーク市は雇用者に対し、従業員の採用や昇進の際に使用する人工知能アルゴリズムの監査を義務付ける法律を可決した。監査に合格しなければ、そのアルゴリズムは使用できなくなる。さらに、求職者には、従業員の採用や昇進の際に AI がどのような役割を果たすのかを伝える必要があります。

ニューヨーク市の自動意思決定システム作業部会に所属するニューヨーク大学の准教授ジュリア・ストヤノビッチ氏は、学生たちと最近採用ツールを調べたところ、応募者の出身地やアクセント、眼鏡の有無などの要素に基づいて採点されていることがわかったと語った。

[[439055]]

ニューヨーク州に加えて、米国の他の州も取り残されるつもりはない。ワシントンDCでは、議員らが、医療、住宅、雇用、教育などの分野で使用されている自動意思決定システムを評価し、その結果を連邦取引委員会に報告することを企業に義務付ける法案を起草している。

「人工知能」のアメリカ版特別編

なぜ米国は「AI」の規制を強化し始めたのか。その答えは、どこにでもある「人種差別」にあった。

アメリカは多民族移民国家です。技術的な理由により、人工知能による人種の認識率は異なります。アメリカ国立標準技術研究所の研究者がかつて行った調査では、189の顔認識アルゴリズムのうち、有色人種の女性を識別する精度は最も低く、肌の色が薄い男性を識別する精度は最も高かったことがわかった。

これには「性差別」と「人種差別」という2つの問題が関係しており、米国は特に後者に敏感である。

AIのこの欠点のため、米国ではAIに起因する紛争が数多く発生しています。ミシガン州の男性は、AIの認識エラーにより破産申請を余儀なくされた。自動入居審査ツールは、住宅を購入または賃貸する多くの有色人種に損害を与えている。

Facebookでは、人工知能のせいで黒人は白人よりも誤解される可能性が高く、生徒や教師を採点する自動採点システムでは肌の色が濃い人は試験でカンニングをしているとマークされる可能性が高くなる…

中国が人工知能を規制

中国では、人工知能技術の規制は乱用の問題に重点を置いています。

今年の315ガラでは、顔認識の悪用問題が明らかになった。コーラー・バスルームなどの企業は、多くの店舗に顔監視カメラを設置しており、ユーザーの同意なしに顔情報、性別、年齢、服装を記録し、顧客を分類している。店員は顧客の特性に基づいてターゲットを絞ったマーケティングを実施できます。

一部の観光地や地域のアクセス制御システムでは、訪問者や不動産所有者に顔認識の使用を強制しているという報告も頻繁にあります。

この目的のために、中国は業界を規制するための多くの法律、規制、文書を次々と導入してきました。特に、今年8月に中国サイバースペース管理局は「インターネット情報サービスアルゴリズムの総合的ガバナンス強化に関する指導意見」を発表した。これは米国のテクノロジーおよび起業ニュースポータルであるベンチャービートによって、人工知能システム管理に関するこれまでで最も包括的な文書であると評価された。この点で、中国より先を行っている国はない。