2020 年の世界トップ 10 AI ガバナンス イベントと変革トレンドの展望

現在、新世代の人工知能技術が世界中で急成長を遂げており、ビッグデータ、ブロックチェーン、5Gなどの新技術を統合・対応し、経済社会の発展、特にデジタル経済の発展に新たな原動力を注入し、人類の生産とライフスタイルを大きく変えています。同時に、新たな技術変化の波の中で常に主導権を握り、人工知能などの先端科学技術分野で効果的なガバナンスを実現し、その持続的かつ健全な発展を確保する方法も、重要な実践的課題であり、国内外の各界から広く注目を集める時代の大きな課題となっている。

中国共産党第18回全国代表大会以来、習近平同志を中核とする党中央委員会は、先端科学技術の発展と統治を非常に重視しており、中央委員会政治局は人工知能、ブロックチェーン、量子技術などの新技術分野に関する問題について共同研究を行ってきた。習近平総書記は、新世代人工知能の発展と統治を非常に重視しており、「新世代人工知能の発展を加速することの重大な意義を深く認識し、指導力を強化し、良い計画を立て、任務を明確にし、強固な基礎を築き、経済社会の発展との深い融合を促進し、我が国の新世代人工知能の健全な発展を促進しなければならない」と提言した。

過ぎ去ったばかりの2020年は素晴らしく、特別な年でした。 「二つの百年」の目標は歴史的に収束し、中華民族の偉大な復興の全体的な戦略図と、一世紀に見られなかった世界の大変化が相互作用し、新型コロナウイルス肺炎の流行は依然として多くの国で猛威を振るっており、人工知能は防疫、社会統治、国際協力などの分野で重要な役割を果たしており、新世代の人工知能技術の発展は多くの大きな成果を達成しています。世界各国は人工知能の発展と両立する統治の道を積極的に模索しており、象徴的な意義を持ち、広範囲にわたる影響を与える可能性のある重要な出来事が数多く発生しています。これらの出来事を整理し、要約し、徹底的に研究することは、AIガバナンスを規定する法則に対する理解を深め、AI技術、産業、生態系の発展動向をより正確に把握するのに役立ち、社会の各分野がAIガバナンスの分野における重要な問題と困難について深く考え、より幅広いコンセンサスを形成することに役立ちます。

人工知能ガバナンスは、政策、技術、産業、法律、コミュニケーション、倫理、セキュリティ、国際関係など、多くの分野にまたがる、非常に複雑で体系的な社会問題です。国際的および国内的な AI ガバナンスにおける画期的な出来事に関する研究も、すべてのセクターが共同で推進する必要があります。このため、人民シンクタンクとMegvii AIガバナンス研究所は共同研究チームを設立し、「2020年世界人工知能ガバナンストップ10イベント」の選定と評価を共同で実施し、関連分野の権威ある専門家や学者を組織して、AIと公共の福祉、AIと公平・正義、AI政府（企業）ガバナンス、AIシステムのセキュリティとデータプライバシーのセキュリティの4つの主要な側面を評価しました。彼らは、理論的価値、実用的価値、ニュース価値、研究価値の4つの評価基準を評価し、一般向けのオンラインアンケート調査を実施し、人工知能業界の実務家、関係省庁や委員会のリーダーや専門家、業界団体などの代表的なグループに詳細なインタビューを実施しました。あらゆる情報、データ、意見、視点を総合的に考慮した結果、2020 年の世界の人工知能ガバナンス イベントのトップ 10 を最終的に選出しました。

これらのイベントは、AIガバナンスの分野における実践的な探求と最先端の動向を反映し、新世代AI技術の幅広い応用展望を反映し、AIガバナンスが技術を善に導き、政府、機関、企業の多様で多様な参加を支援し、新世代情報技術の健全な発展を通じて人類の福祉を高め、人々の生活を改善することに対する国民の強い期待を反映しています。

[[377201]]

助け手か殺人者か？人間の意識を理解するAIか、自律的な意識を持つAIか？人類の福祉に関わる人工知能は「開発と統治の同時進行」という新たなモデルを採用する必要がある

人工知能の概念は、1956 年に米国のダートマス会議で提案されて以来、長く急激な成長段階を経てきました。ホーキング氏は「危険を回避する方法を学ばなければ、人工知能は人類文明の終焉をもたらすかもしれない」と示唆した。一方、マスク氏は人工知能のリスクは「はるかに大きい」とし、「人類文明の存在を脅かす根本的なリスク」だと考えている。

近年、自動運転車、顔認識、インテリジェント音声などの人工知能技術が広く応用され、ディープラーニング、国境を越えた統合、人間と機械のコラボレーション、オープンな群衆知能、自律制御を特徴とする新世代の人工知能技術の開発の第3波が到来したことで、人工知能ガバナンスに関する議論が再び社会のあらゆる分野で広く言及されるようになりました。

中国のインターネットは過去30年間で急速に発展した。関係専門家がインターネットガバナンスの経験と教訓を総括したところ、過去のガバナンスモデルの一つは「まず発展、後からガバナンス」、つまり「石を触って川を渡り」、その後、問題が発生またはある程度蓄積されたときに特別なガバナンスを実施し、規範を確立することであったと彼らは考えている。しかし、私の国における人工知能の爆発的な発展の新たな特徴はより明白です。

第一に、政策的支援と注目が高まっていること、第二に、社会資本との融合度が高まっていること、第三に、すでに大規模なインターネット企業が人工知能の分野に参入していること、第四に、技術基盤、産業基盤、経済社会発展への需要が高まっていることである。

これらの要因は、AI ガバナンスがインターネット ガバナンスの古い道を繰り返すことができないことを直接的に決定づけています。ガバナンス構造、ガバナンス パス、ガバナンス範囲に、より多くの新しい課題がもたらされ、より創造的なアイデアで対応することが求められています。

このトップ 10 イベントの選択では、次のような人工知能、人類の福祉、公平性、正義に関連するイベントが最も注目を集めました。

• アルゴリズムのブラックボックスを通じてフードデリバリー業者の利益を侵害する事件「AIが『監視者』になる：フードデリバリー業者はアルゴリズムの下で交通ルールに異議を唱え、『アシスタント』は『殺人者』になる可能性あり」 （1位、得票率51.20％）
• 人工知能技術を利用して違法行為を行った事件：「湖南省岳陽市警察はAI犯罪事件を解決したが、依然として技術犯罪に対しては人間が処罰されるべきだ」 （9位、得票率48.75％）

国際的に最も懸念されるのは、AI 技術が既存の境界を突破し、人類の福祉に悪影響を及ぼす可能性がある次のような事象です。

• 「人工知能は脳の思考を翻訳し、脳の信号をテキストデータに変換し、意識を読み取ってプライバシーを見えなくすることができる」 （得票率50.09%で第2位）
• 「人工知能技術は既存の限界を打ち破り、『自律的な認識』を持ち、独立した研究開発、自己修復などの機能を実現できる」 （第8位、得票率48.75％）。

中国共産党第19期中央委員会第4回全体会議の「決定」は、「科学技術倫理の統治システムを改善する」ことを提案した。科学技術倫理ガバナンス体制の整備を国家ガバナンス体制の現代化を推進する重要な一環とすることは、世界規模で新たな科学技術革命と産業転換が盛り上がり、人類の発展がかつてない新たなチャンスと課題に直面している歴史的瞬間に、習近平同志を中核とする党中央が講じた重要な施策である。これは、科学技術分野における倫理的問題を克服し、わが国の科学技術事業の健全な発展を促進する上で極めて重要な意義を有する。

[[377202]]

責任あるAIの開発は一国の責任ではなく、世界的な問題です。AIガバナンスは国際的なコンセンサスを確立し、協調的なガバナンスの新しいモデルを模索することが急務です。

関連機関の予測によると、2030年までに人工知能は世界のGDP成長を14％押し上げると予想されており、そのうち最大の利益は中国と北米からもたらされ、合計10.7兆米ドルに達し、世界経済への影響の約70％を占めることになる。このような巨大な経済規模が法的、道徳的、倫理的制約を失うと、取り返しのつかない悪影響を引き起こす可能性があります。この調査では、法的、倫理的、道徳的規範の構築に関わる世界的、地域的、国内的な出来事が、専門家や一般の人々から大きな注目を集めています。

• たとえば、「欧州、米国、韓国は、AIガバナンスに関する新たな規制を相次いで導入し、特定のシナリオにおける関連する人工知能技術の開発と応用を厳しく制限、あるいは禁止している」（4位、得票率49.73％）。

また、西側諸国による軍事分野における人工知能の活用の推進も広く注目を集めている。

• 「人工知能が初めて米軍システムを制御した。これはアルゴリズム戦争の新時代の到来を告げるかもしれない」（10位、投票率48.22％）は、事例検討の専門家によって何度も言及された。

清華大学人工知能国際ガバナンス研究所の名誉学長である傅瑩氏は、「人工知能の兵器化は避けられないため、専門家は適切なガバナンスの道筋を見つけることに注力すべきだ」と指摘した。

上海交通大学人文科学上級教授で中国法社会研究所所長の季衛東氏は、世界は現在、人工知能とデータをめぐる国際ルールのゲームに直面しており、中国はグローバル化の時代とデジタル経済変革のプロセスにおいて比較的主導的な立場にあると考えている。しかし、これまでAIガバナンスへの配慮が不十分だったため、AI製品やAI産業が「グローバル化」する際には、欧米で制限や非難を受けることが多々あります。一部の問題は確かに私たちの製品、技術、標準の進歩を促進する可能性がありますが、国や企業の正当な権利と利益を守るために、ルールを適切かつ巧みに使用することも学ばなければなりません。同時に、各国のAIガバナンスモデルの違いにも留意する必要がある。例えば、米国はAI企業の商業的利益を重視し、企業が競争上の優位性を維持する必要があるとしている。一方、欧州連合は国民の権利の保護と、その前提の下でのルールのゲームを重視している。中国は、上記の両方の側面に関与している。

現在、中国は積極的に世界のAIガバナンスシステムに統合されています。時折の逆風や障害にもかかわらず、中国は依然として責任ある大国として負うべき責任を担い、その知恵と経験を世界のAIガバナンスに積極的に貢献しています。現在、人工知能のガバナンスシステムは「柔軟な倫理」と「厳格な法律」によって共同で構築される必要があるというのが基本的なコンセンサスです。また、国、国際機関、業界団体、企業、一般市民など、複数の主体が参加し、倫理、技術、規範、立法のガバナンスイニシアチブが連携して進む協調的なガバナンスモデルが必要です。

トップレベルの設計の観点から国家計画を実施し、立法措置を決定します。

2017年、中国は「新世代人工知能発展計画」と「新世代人工知能産業の発展を促進するための3カ年行動計画（2018～2020年）」を発表し、人工知能の倫理、法的政策に関する明確な要件を提示した。私たちは「最後まで一つの青写真」の精神を堅持し、計画要件に従ってAI法と政策に対する「3段階」アプローチを実施する必要があります。

2020年までに、一部の分野で人工知能に関する倫理規範、政策、規制が初歩的に確立され、2025年までに人工知能に関する法律、規制、倫理規範、政策の予備的なシステムが確立され、人工知能のセキュリティを評価および管理する能力が形成され、2030年までに人工知能に関する法律、規制、倫理規範、政策のより完全なシステムが確立されます。

グローバルガバナンスの観点から AI 倫理に関するコンセンサスを積極的に構築します。

2019年5月には「北京人工知能コンセンサス」が発表され、人類の運命共同体の構築と社会の発展に有益な、人工知能の研究開発、利用、ガバナンスの3つの側面において、すべての参加者が従うべき15の原則が提案されました。我が国はまた、科学技術の善行などの中核的な倫理的価値観に基づいて、さまざまなレベルの主体が人工知能の評価ルールを策定し、評価システムを構築することを奨励しています。一方で、人工知能の健全かつ持続可能な発展を導き、産業の発展を通じて人工知能ガバナンスの分野における法律、法規、その他のルールの制定と改善にフィードバックし、他方では、人工知能などの現代の情報技術を利用して、ガバナンス能力とガバナンスの近代化レベルを総合的に向上させます。 2019年11月、「中国の特色ある社会主義制度の堅持と向上、国家統治システムと統治能力の現代化の推進に関する若干の重大な問題に関する中国共産党中央の決定に関する説明」では、人工知能、インターネット、ビッグデータなどの現代の情報技術手段を活用して統治能力と統治近代化レベルを向上させることにさらに重点を置く必要があると指摘されている。

清華大学が発表した関連分野の研究報告によると、人工知能の分野では、中国は科学技術の成果と人材の投資、産業の発展と市場の応用、開発戦略と政策環境の面で優れた成果を上げており、特に論文総数、高引用論文数、特許数はいずれも世界第1位、企業数は世界第2位となっている。 2019年6月に発表された「アジア太平洋地域と日本企業における人工知能の倫理に関する研究」報告書によると、中国企業は人工知能のガイドラインと管理基準の活用においてアジアで最も優れていることが示された。こうした成果の達成は、我が国の人工知能に対する「一歩先」の姿勢と先進技術の積極的な開発と密接に関係しています。

[[377203]]

自己規律と内省を強化することは、責任を果たすための第一歩です。テクノロジーの創造者として、企業は AI ガバナンスにおいて重要な力となるべきです。

企業は技術の創造者であるだけでなく、技術の適用を決定し、技術の価値を設計する者でもあります。企業の価値観や行動は、テクノロジーが人間社会にもたらす変化に直接影響を及ぼします。したがって、企業は AI ガバナンスにおいて不可欠な力となります。 AI ガバナンスは、企業開発にとって必須であり、あれば便利なものではありません。

しかし、現時点では、グローバルな AI ガバナンスは統一された標準と成熟した道筋をまだ形成していません。各国の法律、規制、基準は異なり、企業のビジネス慣行に遅れをとっています。そのため、責任感と長期的な発展意識を持つAI企業にとって、企業の自制心が主な基準となっています。企業が自律に向けて第一歩を踏み出すことは、AI 業界全体の発展にとって大きな前進となるでしょう。

近年のAIガバナンス分野での物議を醸した出来事を振り返ると、大手AI企業に関連する事件は数え切れないほどあります。特に2020年には、国際的なテクノロジー大手と中国の大手テクノロジー企業が企業行動を加速させ、企業の自主規制措置を提案し始めました。

• この調査では、企業のAIガバナンスに関連する出来事として、「米国のテクノロジー大手が独自の道徳的判断に基づき、人工知能技術に対する企業の自主規律と監督を強化」が49.55%の票を獲得して6位にランクインしました。
• 「自動運転サービスが急速に進展し、百度や滴滴出行などの『無人運転車』の運行責任の所在が注目されている」が48.89％の得票率で7位となった。

人工知能の「自己進化」は、関連技術の研究が深まるにつれてますます高度化します。そのためには、技術開発に存在し得るリスクや不確実性を正確に判断することが必要であり、さらに重要なのは、科学技術ガバナンスの実効性を確保するための研究機関や先端技術企業などの専門勢力による支援です。国内外の最先端技術企業は人工知能ガバナンスにおいて重要な役割を果たしており、大手企業が人工知能ガバナンスの実践的探求と理論研究に深く関与することは、AIの利益のために重要な指針を提供します。 Megvii の副社長である Jiang Yan 氏は、「企業は AI ガバナンスから逃れることはできません。行動は言葉よりも雄弁です。企業は業務において AI ガバナンスのあらゆるステップを実装する必要があります」と述べています。 2020年、AI企業MegviiはAIガバナンスに関するより詳細な学術研究を実施し、企業組み込みガバナンスモデルを探求し、運用することに成功しました。

上記の出来事は企業と深く関係しているように見えますが、これらは個別の企業だけの行動ではなく、政府、社会、研究開発担当者などが大きな役割を果たしています。企業はAIガバナンスの重要な担い手であり実行者です。より多くの企業が参加することで、法律や規制をより効果的に実施することができます。科学研究者は人工知能の「技術的な情報源」であり、ほとんどの場合、情報源から人工知能の動作や機能を制限できます。 2018年10月、中国共産党中央政治局が人工知能開発の現状と動向に関する第9回集団研究を開催した際、習近平総書記は「基礎理論研究を強化し、人工知能技術の最前線にある『無人地帯』に勇敢に踏み込む科学者を支援し、人工知能開発の方向、理論、方法、ツール、システムにおいて変革的かつ破壊的な突破口を拓くよう努め、我が国が人工知能という重要な分野における理論研究の最前線に立ち、主要な中核技術が主導権を握るよう確保しなければならない」と指摘した。

[[377204]]

AIは本来の目的に戻り、より良い人間社会のために作られるべきであり、人間はAIをより優しく受け入れ、他者にとって良いAIと調和して生きるべきです。

現在、人工知能に法人格を与える必要があるかどうか、また人工知能によって作成された作品や製品に著作権があるか、知的財産権によって保護されているかについては、社会において多くの議論がなされています。

• 「国内初、裁判所が人工知能で生成された記事は著作物を構成し、著作権があると判断した事例」は、このセレクションで49.78%の票を獲得し、第3位にランクインしました。この画期的な出来事は、将来このような問題に対処するための参考例を提供します。

特に注目すべきは、AIと人々の生活に関わる問題について国民が非常に懸念していることである。

• 「 AIは善のために、テクノロジーは一人暮らしの高齢者の水道メーターやキャンパス暴力を警告」は、49.69%の票を集めて5位にランクイン。この事件はネットユーザーの間で大きな議論を巻き起こした。

国家安全保障新世代人工知能ガバナンス専門委員会が発行した「新世代人工知能ガバナンス原則 - 責任ある人工知能の開発」は、責任ある人工知能の開発というテーマに焦点を当て、調和と友情、公平と正義、包摂と共有、プライバシーの尊重、安全性と制御可能性、責任の共有、オープンなコラボレーション、アジャイルガバナンスの8つの原則を強調しています。この原則に導かれて、私たちは AI テクノロジーの「本来の意図」、つまり人類がより良い生活を送れるようにすることを発見します。中国の特色ある社会主義が新たな時代に入るにつれ、社会の主な矛盾は、人々のより良い生活を求める高まる要求と、不均衡で不十分な発展との間の矛盾へと変化した。より良い生活を求める私たちの飽くなき追求には、テクノロジーのサポートが必要であり、さらには、善のためのテクノロジーの力が必要です。

グローバル化の波の下、人類運命共同体の構築が加速しており、人工知能などのガバナンスにおいては、どの国も例外ではない。いかなる社会団体も、ただ傍観することはできません。ここでは、3 つの呼び出しを行います。

グローバルな対話において、各国がより積極的な対話を展開し、AIガバナンスに関する幅広い合意に達し、世界の人類の幸福と各国の発展特性に合致したAIガバナンスの枠組みを構築・推進し、多次元、多レベル、多テーマの協働ガバナンスモデルを形成することを期待します。

企業の責任という点では、企業は技術の創造者であるだけでなく、技術の内省者でもあります。ますます多くの企業がAIガバナンスに積極的に参加し、企業実践と学術研究のより緊密な融合を実現し、新しいガバナンスモデルを効果的に実装することが期待されます。

社会認知の観点から見ると、あらゆる人々の生活に影響を与える最先端技術であるAIに対して、国民はより合理的な関心と見方を持つことが求められています。私たちは、AIの持続可能な発展を実現するために、より積極的な世論のフィードバックメカニズムと世論環境を構築したいと考えています。

AI技術は人類社会の持続的な発展を促進する基盤技術として、社会に変革をもたらす余地がまだ多く残されています。同時に、AI 業界自体の持続可能な発展への道のりは長く困難なものとなっています。私たちは、双方に利益をもたらし、利益を共有するため協力しなければなりません。 AI時代においても、人類共通の未来を持つより良いコミュニティを築くために、私たちはたゆまぬ努力を続ける必要があります。