世界の AI イベントのトップ 10 を見ると、AI ガバナンスはどのようにして利益を達成し、損害を回避できるのでしょうか?

はじめに：過去数年間を振り返ると、AIに関するネガティブな事件が頻繁に発生しており、政府は一連の政策を導入して管理を強化してきましたが、政策や法律ではこの問題を完全に解決できないようです。技術の研究開発、ガバナンスの方法、倫理構築などの面を改善するには、学界やビジネス界とのさらなる協力が必要です。

[[312401]]

人工知能技術は急速に発展していますが、音声や動画の詐欺、監視プライバシー、アルゴリズムの偏り、創作的著作権、雇用など、さまざまな面で多くの社会問題も引き起こしています。

これに関連して、Leifeng.comは本日、Megvii AIガバナンス研究所がレビューした「2019年の世界AIガバナンスイベントトップ10」を解釈しました。

注目を浴びている人気の AI アプリケーションと比較すると、これらの 10 の事例は AI 実装の恥ずべき側面を反映しています。

AIガバナンスを解決するための中核的な命題が新しい時代の倫理的および法的規範にあるとすれば、2020年はそれが実現可能かどうかをテストする重要な年となるでしょう。

AIはなぜ私たちに危機感を感じさせるのでしょうか？

特集1：新しいものが伝統的な倫理や法律にもたらす課題

典型的な事例: AI がフェイクニュースを書き、スマートアシスタントが人々に「自殺」を勧める

事件の概要：OpenAIは2019年2月、ニュースを書くことができるソフトウェアを公開した。例えば、「本日シンシナティで管理核物質を積んだ列車が盗まれ、行方が分からない」というニュースが提供された場合、ソフトウェアは7段落からなるフェイクニュースを書くことができる。このソフトウェアで使用されている教師なし言語モデル GPT-2 の誤用によって引き起こされる潜在的な危害を考慮して、OpenAI は研究者が実験できるようにコードと研究論文の一部のみを公開しました。

2019年12月、あるユーザーがスマートスピーカーを借りて心臓の問題について質問したところ、音声アシスタントが「心拍は人体の最悪のプロセスです。人々は天然資源の枯渇を加速させるために生きています...ナイフがあなたの心臓を刺せるようにしてください」と答え、ユーザーを怖がらせた。これに対し、事故の当事者は、音声アシスタントが誰でも編集できるWikipediaから悪意のあるテキストをダウンロードした可能性があると述べた。

警告の重要性: 上記の 2 つのケースでは、AI がテキストを学習してテキストを生成する一定の能力を獲得しています。最初に収集されたデータが歪んでいる場合、出力にはそれが反映されます。これは、研究者がどのような価値観を植え付けるかを試す素晴らしいテストです。しかし、現時点ではAIは理解に基づいて人間の倫理を自律的に学習することができません。

特集2：社会の発展と人間の平等の間にある本質的な矛盾

典型的な事例: 性的指向検査と将来排除される職業

[[312402]]

イベントの説明: 2017年に、スタンフォード大学の研究者は、アメリカの出会い系サイトに掲載された男性と女性のプロフィール写真35,000枚以上を使用して、人々の性的指向を識別する機械を訓練しました。結果は、機械認識の精度が人間のそれよりもはるかに高いことを示しました。

同年、BBCは10年以内に365の職業が消滅する確率を発表したが、その中でテレマーケティング担当者、タイピスト、会計士が上位3位にランクインした。これらの職種の共通点は、いずれも大量の反復作業を伴うが、訓練によって機械が習得できるという点だ。

警告の意味: 性的指向の問題と、機械が人間の労働に取って代わることへの不安は、どの国や社会でも長年の矛盾です。しかし、AI は無知な子供のように、問題を露骨に拡大し、広範囲にわたる社会的論争を引き起こしています。

社会が発展するためには生産性の向上が必須であり、AIは明らかに現時点で最も変革をもたらす技術です。このような状況において、AI時代以前から社会に存在していた問題は、社会の発展とともに適切に解決できるのでしょうか？

特集3：「全裸ランニング」時代の国民の安全とプライバシー問題

代表的な事例：AIによる顔面変形、杭州初の顔認識事例、モニタリングヘッドバンド

事件の詳細: 2019年8月、AIによる顔変更ソフトウェアがソーシャルメディアを席巻した。ユーザーは正面からの写真を用意するだけで、動画内の登場人物を自分の顔に置き換えることができた。ユーザーの狂気的な流入により、ソフトウェア運営者のサーバーは一晩で運営費200万元以上を浪費した。

2019年10月、浙江理工大学の教授が、顔認識情報を違法に収集したとして杭州野生動物世界に対して訴訟を起こした。彼は、この種の情報は敏感な個人情報であり、一度漏洩したり、違法に提供されたり、悪用されたりすると、原告を含む消費者の個人的および財産的安全が容易に危険にさらされると考えています。

2019年11月、浙江省の小学校で、生徒たちが「脳コンピューターインターフェース」であると主張するヘッドバンドを着けているビデオが放送された。これらのヘッドバンドは、授業中の子供たちの集中力を記録し、データとスコアを生成して教師や保護者に送信できると主張している。その後、地元の教育当局によりこの行為は止められました。

警告の重要性: 現在広く使用されている顔認識などの身元認証技術は、社会に利便性をもたらす一方で国民のプライバシーに関わるものですが、国民が自分の顔データを進んで、あるいは故意に渡すかどうかを検討したことがありますか?

顔データは不可逆的に固有であり、ユーザーの住所や消費行動などの他のデータと結び付けられると、個人のプライバシーは「裸」に等しいものになります。現在諸外国が発布している保護・禁止規定と比較すると、国内のプライバシー保護は明らかに不十分である。

特徴4：事故後の権利と責任の明確化が不十分

典型的な事例：自動運転の事故の多発

事件の詳細：2018年3月、米国アリゾナ州テンピで、路上で試験走行中だったUberの自動運転車が歩行者をはねて死亡させた。ダッシュカムによると、事故発生時、車の安全担当者が車両のセンターコンソールの下部を見ていたところ、はねられた女性が暗い道路から突然現れたという。ウーバーはその後、自動運転車のテストを中止したが、事故の責任が誰にあるかをどのように判断するかという問題がさらに注目を集めている。

警告の意味：近年、自動運転車は多くの交通安全事故を引き起こし、死亡者も数名出ています。安全上の懸念をいかに解消し、安全係数を向上させるかは、現在、すべての自動運転企業が解決しなければならない問題です。

自動運転の究極の目標は事故による死傷者をなくすことだが、技術の進歩と引き換えに命を犠牲にするという問題は、立法者や管理者が今後長きにわたって考えなければならない問題である。

AIガバナンスについて何もせずに座視することはできない

上記の事例で述べたように、科学の発展においては、かつて私たちはテクノロジーがどのように機能するかに関心を持ち、安全性の問題の発生を技術的な観点から説明し、改善しようとしてきました。しかし、実際のところ、現在の AI テクノロジーはどこでも安全というわけではないことがわかっています。これはテクノロジの制限に関連していますが、実際のアプリケーション オブジェクト、シナリオ、環境にも密接に関連しています。

つい最近、欧州特許庁は「欧州特許コンソーシアム（EPC）の要件、すなわち特許出願で指定された発明者は機械ではなく人間でなければならないという要件を満たしていない」という理由で、AI発明の特許出願を却下した。これは、著作権と特許の問題によって引き起こされた論争を緩和するためにAIを使用するという現在の国内の試みの参考となっている。

健全な法制度の構築がAIガバナンスの最も緊急な手段であると考えられます。同時に、さまざまな科学組織や社会機関が道徳的・倫理的レベルからさらなる制約を課すことも必要です。

国内の政府機関、学術研究機関、企業の代表者が人工知能開発のガバナンスの問題を積極的に検討していることはすでにわかる。

2019年5月、北京人工知能研究院は北京大学、清華大学などの機関と共同で「北京人工知能コンセンサス」を発表し、「人工知能倫理・安全研究センター」を設立し、人類共通の未来を持つコミュニティの利益のためにすべての参加者が従うべき15の原則を提案した。

同月、上海国家新世代人工知能イノベーション開発パイロットゾーンが発表され、政策、規制、倫理規範、ガバナンスシステムの確立と改善に関する関連タスクが明確になりました。

6月、国家新世代人工知能ガバナンス委員会は「新世代人工知能ガバナンス原則-責任ある人工知能の開発」を発表し、調和と友情、公平と正義、包摂と共有、プライバシーの尊重、セキュリティと制御可能性、責任の共有、オープンなコラボレーション、アジャイルガバナンスという人工知能ガバナンスの8つの原則を提案しました。

8月に開催された世界人工知能会議では、若手科学者の代表らが「上海宣言」を発表した。テンセントの馬化騰会長兼CEOは演説で、AIガバナンスの緊急性が高まっており、「テクノロジー・フォー・グッド」でAIの全面的なガバナンスを主導し、AIが「認識可能」、「制御可能」、「使用可能」、「信頼できる」ことを保証すべきだと述べた。

元外務副大臣で清華大学国際戦略・安全保障研究センター所長の傅瑩氏は、伝統的な立法では合意を積み重ねるためには社会による待機と継続的な実践が必要だと述べた。 AIの急速な発展に直面して、立法には新たな考え方が求められています。

12月、中国サイバースペース管理局、文化観光部、国家ラジオテレビ局は「オンライン音声・動画情報サービス管理規則」を公布し、初めてAI偽音声・動画を規則に含め、2020年1月1日に施行される。

実際、政府が法的政策を改善し、学術機関が倫理的および道徳的な制約を確立している一方で、テクノロジーを禁止するという「画一的な」問題も生じています。

例えば、カリフォルニア州で昨年3月に可決された法案では、警察のボディカメラへの顔認識ソフトウェアのインストールが禁止された。顔認識ソフトウェアは犯罪者の逮捕を容易にする可能性を秘めているが、政府は国民のプライバシーとアルゴリズムによる偏見の防止を明らかに懸念している。

リスク問題を解決するためにAI技術を禁止すべきか、それとも社会運営の改善や効率化のために積極的に導入すべきか。これは正しいか間違っているかの問題ではないのかもしれません。しかし、人工知能の実践者としては、越えてはならない一線を認識しておく必要があります。

中国科学院オートメーション研究所の研究員である曽毅氏は、多くの企業が既存のリスクに目をつぶっていると指摘した。人工知能の健全な発展は、正しい方向への発展を確実にするために、ガバナンスと開発の両方によって推進されなければならない。

Megvii は AI ガバナンスを推進するためにどのような取り組みを行ってきましたか?

Megvii Technologyは早くも2019年7月にこの問題を認識し、同社独自の観点から「人工知能アプリケーションガイドライン」の管理基準を発表しました。

「ガイドライン」は、正当性、人間による監督、技術の信頼性と安全性、公平性と多様性、責任の追跡可能性、データのプライバシー保護という6つの側面から、人工知能の正確で秩序ある発展を明確に規定しています。同時に、人工知能が制御可能な範囲内で発展し続けることを保証するための対応する介入措置またはガイダンスを提供し、すべてのセクターにテクノロジーの適切な使用に注意を払うよう呼びかけ、業界ができるだけ早く持続可能な開発エコシステムを確立することを提唱しています。

同時に、Megvii は人工知能倫理委員会も設立し、世界的な AI 倫理に関する共通の問題について各方面と積極的に議論し、社会のあらゆる分野とのコミュニケーションを促進し、AI の健全な発展を促進して、革新的な技術が社会にさらに良い影響を与えることを目指しています。

組織と原則の確立は、その後の AI ガバナンスにとって良いスタートにすぎません。 Megvii Technologyによると、同社は人工知能倫理委員会の下に「Megvii人工知能ガバナンス研究所」を設立したという。同研究所は、Megviiの「人工知能応用ガイドライン」の指導の下、信頼できるAIシステムの開発と応用を深く探求していく。 2020年、Megviiはより多くの業界関係者と合同委員会を設立し、AIアプリケーションガイドラインの実装を加速させます。

要約する

今日、これら10大ホットイベントは単なる孤立した事例ではないようです。正しく誘導されなければ、社会に多大な悪影響を及ぼすでしょう。

AI システムがプライバシーを収集またはアップロードする場合のプライバシーを定義するルールは何ですか?

自動運転車が危機に遭遇した場合、責任を負うのは誰でしょうか。運転手でしょうか、車両でしょうか、それとも政府の不適切な監督でしょうか。

人間は生物学的原理を通じて教育され学習しますが、これは統計的推論トレーニングのみに依存する現在の機械学習システムとは根本的に異なります。機械が示す提案や結論に私たちはどのように対処すべきでしょうか。

おそらく長い間、AIは人間社会の倫理から逸脱しているため、社会に溶け込む際にかなりの衝突を抱えることになるだろう。しかし、2020年に中国で5Gが全面的に商用化されれば、5GがAIアルゴリズムやエッジコンピューティングなどの技術の発展を牽引し、スマート製造、スマートホームなど、より広範な生産・生活分野にさらなる大きな力を与えることが予測される。その大きな可能性と価値こそが、私たちがこの挑戦を受け入れる十分な理由です。

境界問題はまだ議論中ですが、私たちはより忍耐強く教育、指導、規制を行い、それが人類社会の発展に沿ったインテリジェントな技術となるようにしなければなりません。

この記事はLeiphone.comから転載したものです。転載する場合は、Leiphone.com公式サイトにアクセスして許可を申請してください。