2020 年の世界トップ 10 AI ガバナンス イベント

[[378054]]

現在、新世代の人工知能技術は世界中で急速に発展し、ビッグデータ、ブロックチェーン、5Gなどの新技術を統合・対応し、経済社会の発展、特にデジタル経済の発展に新たな原動力を注入し、社会の生産とライフスタイルを大きく変えています。同時に、新たな技術変化の波の中で常に主導権を握り、人工知能などの先端科学技術分野で効果的なガバナンスを実現し、その持続的かつ健全な発展を確保する方法も、国内外の各界から広く注目を集める重要な実践的課題であり、時代の重大課題となっている。

人工知能ガバナンスは、政策、技術、産業、法律、コミュニケーション、倫理、安全保障、国際関係、イデオロギーなど、多くの分野にまたがる、非常に複雑かつ体系的な社会問題です。同様に、国際的および国内的な AI ガバナンスにおける画期的な出来事に関する研究には、あらゆるセクターの協力と共同推進が必然的に必要になります。このため、人民シンクタンクとMegvii AIガバナンス研究所は共同研究チームを設立し、「2020年世界人工知能ガバナンストップ10イベント」の選定と評価を共同で実施し、関連分野の権威ある専門家や学者を組織して、AIと公共の福祉、AIと公平・正義、AI政府（企業）ガバナンス、AIシステムのセキュリティとデータプライバシーのセキュリティの4つの主要な側面を評価しました。彼らは、理論的価値、実用的価値、ニュース価値、研究価値の4つの評価基準を評価し、一般向けのオンラインアンケート調査を実施し、人工知能業界の実務家、関係省庁や委員会のリーダーや専門家、業界団体などの代表的なグループに詳細なインタビューを実施しました。さまざまな情報、データ、意見、視点を統合した結果、2020 年の世界の人工知能ガバナンス イベントのトップ 10 が最終的に決定されました。

これらのイベントは、AIガバナンスの分野における実践的な探求と最先端の動向を反映し、新世代AI技術の幅広い応用展望を反映し、AI（人工知能）ガバナンスに対する国民の熱い期待を反映し、科学技術を善に導き、政府、機関、企業の多段階かつ多様な参加を促進し、新世代情報技術の健全な発展を通じて人類の福祉を増進し、人々の生活を改善するものです。

1

AIが「監督者」に：フードデリバリーの配達員がアルゴリズムの下で交通ルールに異議を唱え、「アシスタント」が「殺人者」になる可能性

投票数: 51.2%

ケースの説明:

配達の効率性を向上させるために、一部の食品配達プラットフォームでは、リアルタイムのインテリジェント配達システムを研究開発しています。 AI アルゴリズムの助けを借りて、プラットフォームは注文の手配を最適化し、乗客にとって最も合理的なルートを計画することができます。しかし、プラットフォーム、ライダー、ユーザーの効率を最大化するために、AIアルゴリズムはすべての時間を極限まで圧縮します。配達を時間通りに完了するために、ライダーは超過時間を補うためにスピードを上げるしかありません。スピード違反、信号無視、逆走…配達員の交通ルールに挑戦する行為は一種の反アルゴリズムであり、システムアルゴリズムによる長期にわたる管理と規律の下での配達員の強制労働行為である。この反アルゴリズムの直接的な結果として、配達員が関与する交通事故が急増している。同時に、これは、人間の労働者と AI の間で行われる多くの共同専門職において、人間が管轄と監督の下にあることも意味します。 （出典：ピープル誌）

専門家のコメント:

徐雲成

Megvii 最高開発責任者、Megvii AI ガバナンス研究所所長

「今回のケースはフードデリバリーのライダーに関するものですが、AIアルゴリズムが人間社会のあらゆる側面に組み込まれると、人間は知らず知らずのうちにアルゴリズムによってデータとして研究されてしまいます。人間が日々目にする情報はアルゴリズムによって押し付けられたものでしょうか、それとも客観的で公平なものなのでしょうか。アルゴリズム技術が完成し続け、商業的利益が繰り返される中、人間の福祉にどのような影響があるのでしょうか。AI企業にとっては、初期の製品研究プロセスと製品化プロセスで平等の問題を考慮する必要があります。個人としては、AIガバナンスを推進する際に、より前向きな視点で貢献する方法を考える必要があります。」

梁正

清華大学行政学院教授、清華大学国際ガバナンス人工知能研究所副所長

「この事例を選んだのは、それが驚異的な問題だからではなく、AIガバナンスの問題が単一の主体では解決できないことを示しているからです。この事例には、交通計画や不十分な所得保障制度などの問題も含まれていることがわかります。私の結論は、複数の主体が共同で統治するガバナンスシステムが必要だということです。」

徐勇

ハルビン工業大学深圳大学院教授・博士課程指導教員

「AI技術の発展と普及は人類生活に大きな利便性をもたらしました。しかし、商業的動機により、利益志向の技術最適化が生まれ、労働者が技術監督下で現実社会のルールや規則を破壊するようになりました。AI技術の応用は人類社会の健全な発展に資するものでなければなりません。わが国はAI技術の急速な発展段階にあります。企業がAI技術を利用して人間の労働力を圧迫し、商業的利益を増やすことは、間違いなく本末転倒の行為です。法律と倫理を利用してAI技術の研究開発と応用を制約し、企業の価値観を正しく導く必要があります。人工知能の普及時代には、労働者の正当な権利と利益も十分に保護されるべきです。効率と利益の追求に加えて、人工知能アルゴリズムの応用は人間の本性と合理性を無視してはならず、機械の冷たさが人間の本性の輝きを潰してはいけません。」

2

人工知能は脳の思考を翻訳し、脳の信号をテキストデータに変換して「意識を読む」ことができるため、プライバシーはどこにも隠れることができません。

投票数: 50.09%

ケースの説明:

カリフォルニア大学のジョセフ・マキン博士は、脳の活動を一文あたりわずか3%の誤りでテキストデータに変換できるシステムを開発したという研究結果をネイチャー・ニューロサイエンス誌に発表した。

参加者は50の定型文を複数回声に出して読むように求められ、研究者は話している間の神経活動を追跡した。このデータは機械学習アルゴリズムに送られ、各発話文の脳活動データが数字の文字列に変換されます。しかし、脳コンピューターインターフェースを通じて脳の思考を翻訳する技術は、人々のプライバシーに大きな脅威を与えるため、常に大きな論争を伴ってきました。 （出典：Sina、Phoenix）

専門家のコメント:

ユウ・フェン

武漢大学哲学学院教授

「ロボットは本来、人間が作った物体ですが、未来社会では人間から離れて存在となり、客人ではなく主人となり、人間を拘束し、支配し、抑圧するようになるかもしれません。食物連鎖の頂点にいる私たち人間は、近い将来、これまでにない危機や課題に直面するでしょう。例えば、アルゴリズムが人間に代わって選択を行うようになり、これまで人間だけが行っていた仕事の一部が機械に置き換えられるでしょう。」

徐勇

ハルビン工業大学深圳大学院教授・博士課程指導教員

「人工知能は、簡単に言えば、人間の知能をシミュレートし、拡張する科学技術です。人間の脳の動作メカニズムを分析することで、一方では人々が自分自身をより深く理解するのを助け、他方では人々の生活をより便利でインテリジェントなものにすることができます。上記の技術の改善と成熟した応用は、聴覚障害者や口がきけない人などの障害者のコミュニケーションを助け、彼らの生活を助けるかもしれません。しかし、対応する技術が乱用されたり、誤用されたりした場合、人々の脳内の思考にプライバシーがまったくなくなる可能性もあります。人間の脳の「パンドラの箱」をどの程度、どのように開けるかは、社会全体が考えなければならない問題です。」

3

中国初の事例：裁判所は人工知能によって生成された記事が著作物を構成し、著作権を有すると判断

投票数: 49.78%

ケースの説明:

2020年1月、広東省深セン市南山区人民法院は、原告深センテンセントコンピュータシステム株式会社と被告上海英謀科技株式会社との間の著作権侵害及び不正競争紛争の第一審事件を終結させ、人工知能によって生成された記事は著作物を構成すると判決を下した。人工知能によって生成された記事が著作物を構成すると認定した事例は国内初となる。本件は、AI生成製品の独創性を判断する手順を明らかにし、AI生成製品の作成過程をどのように捉えるか、また、関連するAIユーザーの行為が法律上の創作行為として認定できるかどうかを検討した。AI生成記事が著作物を構成するとの判断は、今後の類似事件の裁判において一定の参考意義を有する。 （出典：人民日報オンライン深センチャンネル）

専門家のコメント:

呂瑞昌

北京大学光華管理学院財務学助教授

「この訴訟は、法律が人工知能をどう定義するかという点で非常に重要だ。社会が発展するにつれ、今後さまざまな産業で人工知能が応用されていくのか、人工知能の所有権はどうなるのか、法律がそれを法人として定義するかどうかが重要な争点になるだろう」

梁正

清華大学行政学院教授、清華大学国際ガバナンス人工知能研究所副所長

「この事件はAIが生成した著作物を法的観点から論じているが、AIは多くの産業に革命的な影響を及ぼす可能性があることに留意し、AIを他のどの分野に適用できるかを合理的に考える必要がある」

4

欧州、米国、韓国は相次いで新たなAIガバナンス規制を導入し、特定のシナリオにおける関連する人工知能技術の開発と応用を厳しく制限、あるいは禁止している。

投票数: 49.73%

ケースの説明:

欧州委員会は、継続的な科学的進歩を通じてEUの技術的リーダーシップを維持し、人権を尊重しながら新技術が人々の生活を向上させることを目指して、「人工知能に関する白書」を発表した。欧州は現在、AIが人間や社会倫理に与える影響に対処し、ビッグデータをイノベーションにどのように活用するかについて検討する一貫したアプローチをとっています。欧州連合は、顔認識技術の悪用を防ぐ方法を検討する時間を確保するため、公共の場での顔認識技術の使用を5年間禁止することを検討している。欧州委員会は、3年から5年の禁止期間中に「この技術の影響を評価するための堅牢な方法論と、可能なリスク管理対策を特定し、開発することができる」と述べた。 EUの文書では、安全保障プロジェクトや科学研究開発活動については禁止措置の例外が設けられる可能性があるとしている。この文書ではまた、AIの開発者とユーザーの両方に一定の義務を課すこと、そしてEU政府が新しい規則を監督する規制当局を任命することを推奨している。

2020年11月27日、韓国科学技術情報通信部と韓国情報通信政策研究院（KISDI）は共同で「国家人工知能倫理基準」を発表し、人工知能の開発と応用の理想的な方向性を提示し、人工知能は人間中心でなければならないと指摘した。人工知能の開発と応用の過程においては、人間の尊厳、社会福祉、技術の適合性の維持という3つの原則を遵守する必要があります。

さらに、東海岸のボストン市は、自治体の目的での顔認識技術の使用を禁止する投票を可決した。サンフランシスコが2019年5月にこの禁止令を制定して以来、米国でこの禁止令を採用する2番目の都市となる。全会一致で可決されたこの条例は、都市が顔認識技術を使用したり、監視にそれを利用するソフトウェアを入手したりすることを禁止するものだ。それ以来、オレゴン州ポートランドとメイン州ポートランドでも同様の禁止令が可決され、政府機関でのこの技術の使用が制限されている。 （出典：フェニックスニュースなど）

専門家のコメント:

薛蘭

清華大学人工知能国際ガバナンス研究所所長

「AIガバナンスの中核要素のうち、基本価値、ガバナンスシステム、参加者、ガバナンス対象、効果評価の5つの側面が重要です。多くのガバナンスの問題は、テクノロジー自体を通じて解決できます。AIの発展が直面している最大の課題は、AIテクノロジーの発展が速すぎることと、ガバナンスガイドラインが社会システムとして独自の手順を持ち、発展が遅いことです。そのため、「アジャイルガバナンス」が必要です。

人工知能は既存の国際メカニズムから学び、将来的にAI分野における国際協力を継続的に強化することができます。協力の過程で各方面の共通点を見つけ、引き続き模索とコミュニケーションを行い、人工知能の共通の規範とルールを共同で見つけることで、人工知能の健全な発展を導き、人類に利益をもたらします。 ”

徐雲成

Megvii 最高開発責任者、Megvii AI ガバナンス研究所所長

「この件は非常に重要です。2020年に人々が顔認識技術について語ったとき、ニュースのほとんどは否定的でした。AIガバナンスは「良い」問題ではなく、リスクのある問題のようです。技術が発展するにつれて、人々は徐々に技術のリスクの一部を認識するようになりました。しかし、世論が一方的である場合、技術に対する画一的なアプローチは実際には考慮される必要があることに注意する必要があります。EUと米国の決定の合理性とそれに従うべきかどうかについても考える必要があります。」

深い議論がなければ、世界中の顔認識技術の応用シナリオや、その背後にある人類の福祉、安全、プライバシーなどの問題を過度に否定すべきではない。同時に、顔認識技術は比較的成熟したタイプのディープラーニング技術であり、比較的幅広い商業用途があることも考慮する必要があります。新しい技術が成熟し続けるにつれて、出現し続ける新しい問題を解決するためにどのような方法を使用すればよいのでしょうか。

個人的には、顔認識技術が人工知能時代のモデルとなり、新たな倫理的問題に直面した際に、本末転倒にならず、同時に建設的に問題を解決できるようになることを期待しています。中国の顔認識技術がこの道を進むことができれば、世界規模で「中国の視点」を提示するのに非常に役立つだろう。 ”

孫明俊

中関村知能AI研究所 エグゼクティブディレクター、ZOSEテクノロジー CEO

「自動分析の代表的な応用である顔認識は、政府機関で使用される場合、先進国の既存の法制度と非常に相容れない。第一に、国民はPRISMスキャンダルの再浮上を警戒している。

2007年、米国国家安全保障局は、外国関連の通信を監視対象とするインターネット監視プログラム「PRISM」を開始した。このプロジェクトは2013年に米国諜報員エドワード・スノーデンによって暴露された。 「プリズムゲート」は、欧州と米国間の個人データ流通協定を直接無効にし、米国民の政府に対する不信感を高めた。

第二に、プライバシーの権利、つまり公権力が私生活に介入する権利は、アメリカ国民とEU市民にとって最も重要な憲法上の権利です。顔認識技術はクラウドコンピューティングと組み合わせると強力な分析能力を発揮し、公的機関が個人の所在を完全に記録できるようになる可能性があります。欧州司法裁判所は以前、アイルランドのデジタル権利訴訟において、大規模な政府データ分析は違法であるとの判決を下している。

最後に、公権力における顔認識の応用が人間中心の原則に準拠しているかどうかは不明です。 AI 開発における人間中心の原則は、欧州連合、日本、韓国、米国電気電子技術者協会の AI 文書に記載されています。AI 開発は、人間の福祉の向上を目指す必要があります。しかし、統計的手法に基づく顔認識技術を公的機関、特に行政機関に適用すると、機械が人間よりも優位になる可能性が高くなります。 ”

5 AIの善用：一人暮らしの高齢者への水道メーター警告やキャンパス内暴力を警告するテクノロジー

投票数: 49.69%

ケースの説明:

「水道メーター」と「高齢者の安全」は一見何の関係もないように見えるが、上海市長寧区江蘇路街の「ワンネットワーク管理」プラットフォームでは、その背後にあるロジックがはっきりと見える。一人暮らしの高齢者の自宅での水道使用量が12時間以上0.01立方メートル未満になると、システムは自宅で何かが起こったと判断し、すぐに近隣委員会に警告する。カメラのように高齢者のプライバシーに過度に配慮する必要がなく、多額の資金と人的投資を必要とせずに、小型の設計で高齢者のケアを実現し、危機的な瞬間に命を救うことさえ可能です。

北京のテクノロジー企業が製造したキャンパス暴力防止および制御AI音声検出装置は、ビデオ監視の補足として使用でき、キャンパス安全ソリューションに登場し、安全なキャンパスに新たな彩りを添えます。この製品は、AI音声認識、異常音の24時間監視、自動警報、音と光の排除技術を使用して、キャンパスのビデオ監視における「死角」を検出することに重点を置き、キャンパス内でのいじめ事件に迅速に介入して防止し、キャンパス内暴力の発生を阻止します。 （出典：北京日報）

専門家のコメント:

張勇

深セン大学教授

「AI技術の導入は、人々の生活の安全性をある程度効果的に向上させることができます。この2つの事例のうち1つは、水道メーターを利用して独居高齢者に安全警告を発し、彼らへの配慮を反映した事例です。これは社会生活の向上を促進する上で一定の参考値を持っています。」

もちろん、この場合、誤報率を下げるには、水道メーターのカウントの感度とデータ収集の適時性と精度を向上させる必要があります。 2つ目のケースは、AI技術の応用であり、これにより校内暴力の発生を効果的に減らすことができます。もちろん、これには異常音の認識を含め、AI技術のよりスマート化が必要です。ここでの異常音には、体の動きによって発生する音、助けを求める音、脅迫の音などが含まれ、集音効果を向上させる必要があります。さらに、ビデオ検出よりも音声検出を使用するもう 1 つの利点は、未成年者のプライバシーを保護できることです。 ”

呂瑞昌

北京大学光華管理学院財務学助教授

「この事件は、校内暴力の防止にAIを活用するというものだ。前向きな事例ではあるが、無制限の監視はプライバシーなどの問題を引き起こす懸念も考慮する必要がある」

6

アメリカのテクノロジー大手は、独自の道徳的判断に基づいて、企業の自主規律と人工知能技術の監督を強化している。

投票数: 49.55%

ケースの説明:

海外メディアの報道によると、IBMは今後、顔認識技術の提供、開発、研究を行わず、「IBMは、大規模な監視、基本的人権と自由の侵害、または当社の目的に反する行為に顔認識技術を使用することに断固反対し、容認しない」と述べた。さらに、アマゾンとマイクロソフトも人種平等への支持を表明し、顔認識の停止を求めた。アマゾンは警察への顔認識技術の提供を1年間停止すると発表し、マイクロソフトも関連する国内法が導入されるまで警察への顔認識ソフトウェアの販売を停止すると表明した。

EUの関係当事者とマイクロソフトやIBMなどのテクノロジー大手は、人工知能の社会的影響をどのように規制するかを議論するために、「人工知能の倫理に関するローマ宣言」に共同で署名しました。これは、世界的なデジタル経済規制の新しい基準を推進するためのEUの最新の取り組みです。米国とは異なり、デジタル経済と人工知能の分野では、EUはまず規制し、次に発展するという道を歩んでいます。人工知能の倫理に関するローマ宣言では、AI テクノロジーは個人のプライバシーを尊重し、信頼性が高く公平な方法で機能し、すべての人々のニーズを考慮し、透明性のある方法で運用されるべきであると規定されています。これらの発言は、人工知能システムはまだ研究段階にあり、その決定は予測できないことが多いと考え、EUが人工知能の悪影響を懸念していることを示しています。

Googleは、800人以上の従業員を対象にした初期の「技術倫理」研修を開始し、AIの原則に関する新たな研修も開始した。 Google は最近、このトレーニングのバージョンを顧客対応クラウド チームの必須コースとしてリリースし、5,000 人のクラウド従業員が受講しました。従業員は、AI アプリケーションが経済的または教育的排除につながる可能性があるか、あるいは身体的、心理的、社会的、環境的危害を引き起こす可能性があるかなど、潜在的な倫理的問題を明らかにするために重要な質問をしました。 （出典：人民網総合など）

専門家のコメント:

呂瑞昌

北京大学光華管理学院財務学助教授

「AIと企業統治の関係、そしてAI倫理をビジネス運営にどう組み込むかを考える必要があります。企業がAIアルゴリズムを開発する際、最終判断を下すのは誰でしょうか？人工知能の影響について考えるには、どのリンクから始めるべきでしょうか？」

防衛の観点からは、Googleが「技術倫理研修」を提供することが重要である。Googleの研修がAI倫理の課題に対応できるかどうか、十分に強力かどうか、完了できるかどうかはすべて論点となっている。 IBM などの企業が顔認識技術の提供、開発、研究を行わなくなったことも注目に値します。

アルゴリズムは、ある意味ではビジネス上の利益を向上させることができますが、それがもたらす差別問題にも注意を払う必要があります。明確な目標を掲げて人工知能を構築し、ある目的の達成を最大化することで生じる差別問題をどのように判断するかを考える必要がある。 ”

ジ・ウェイドン

上海交通大学教養学部上級教授、中国法社会研究所所長

「グーグルが『技術倫理研修』を実施した事例には、ソフトローの問題が絡んでいる。ソフトローとは主に倫理のことを指す。アメリカ企業は倫理から始めて社内ルールや技術運用ルールを策定していることがわかる。この事例研究の意義は、この現象にあるのではなく、それが反映するソフトローの運用にある。」

孫明俊

中関村知能AI研究所 エグゼクティブディレクター、ZOSEテクノロジー CEO

「2016年6月、EUの一般データ保護規則（GDPR）が発効しました。これは、個人データ処理の運用仕様と、EU市民の個人データのEUからの流出に関する基本条件を規定しています。第22条では、個人データに基づく自動化された意思決定とプロファイリングの条件が具体的に規定されています。GDPRによると、EU市民のデータの流出先となる第三国は、EU基準と同等かそれ以上の個人データ保護基準を備えている必要があります。これが、米国のテクノロジー大手が人工知能のプライバシー保護基準を継続的に改善している理由の1つです。

一方、多国籍デジタル企業にとって、企業コンプライアンスにおける自主規制は極めて重要です。 EU は一般データ保護規則において、データ管理者、つまりデータ処理の責任者は、自社の事業が規則の関連義務に準拠していることを証明する必要があると規定しています。さらに、EU は一般データ保護規則において、EU 加盟国で事業を行う企業に対し、自主規制の有効性を確保するために、独立したデータ保護責任者や関連メカニズムを含む組織構造を確立することを義務付けています。 EU市場は米国のテクノロジー大手にとって重要な収益源であることを考慮すると、米国のテクノロジー大手にとって、自社の事業が一般データ規則に準拠していることを保証することは極めて重要です。

一方、企業の社会的責任報告は持続可能な開発目標を達成するための重要なメカニズムであり、この自主的な企業報告ツールはますます普及しつつあります。企業の社会的責任報告は、Global Reporting Initiative などの非営利団体が推進する、企業の事業が社会、経済、人権に与える影響を報告するための技術的なツールです。積極的な自主規制は、企業がSDG投資枠組みの下でより多くの公的投資を獲得するのにも役立ちます。 ”

7

自動運転サービスが本格始動、「無人車両」の運転をめぐる権利と責任の帰属が注目される

投票数: 48.89%

ケースの説明:

不完全な統計によると、わが国には資金調達情報を持つ無人運転関連企業が70社以上あり、資金調達額は数千億元に上る。また、我が国には「自動運転」や「無人運転」に関連する特許が1万2000件以上あり、そのうち3000件以上が2019年に新規に出願されたものです。 2020年10月、百度（バイドゥ）の公式Weiboアカウントは、北京経済技術開発区、海淀区、順義区などで自動運転タクシーサービスが全面的にオープンしたと発表した。自動運転タクシー乗り場は数十か所あり、事前に予約せずに直接注文することで、無料で自動運転タクシーサービスを試すことができる。 2020年6月、滴滴出行は初めて無人運転サービスを一般向けに開始した。現在、中国と米国に400人近くのチームがあり、北京、上海、蘇州、カリフォルニアなどで路上試験資格を取得しています。 （出典：新華網、Phoenix.com）

専門家のコメント:

張成剛

清華大学社会ガバナンス・発展研究所所長・教授、清華大学社会イノベーション・リスクマネジメントセンター研究員

「インテリジェントなモノのインターネットの開発の原動力は、主に、集中的で非常に変動の激しい「モノの流れ」を管理および制御する必要性から来ています。「モノの流れ」をリアルタイムで最適化するために必要な管理コストは非常に高いため、従来の手動管理方法では実現がほぼ不可能です。

現代の人工知能技術の急速な発展と広範な応用により、インテリジェントなモノのインターネット技術により「モノの流れ」のリアルタイム管理が可能になり、効率が大幅に向上し、人件費が削減されました。同時に、スマートIoT技術は、都市管理レベルの向上にも実現可能な技術的道筋を提供します。その核心は「知覚」、「相互接続」、「インテリジェンス」です。例えば、都市交通管理、シェアサイクル管理、無人タクシー管理などは、商業、交通、通信、エネルギーなど、都市運営のさまざまなシステムを「システムのシステム」に統合します。 ”

孫明俊

中関村知能AI研究所 エグゼクティブディレクター、ZOSEテクノロジー CEO

「自動運転車の路上導入により、自動車事故に対する民事責任の既存の割り当てに関する新たな問題が生じています。効果的な立法介入がない中で、世界の主要経済国は依然として自動運転車の事故に対して事故責任制度を採用しており、つまり、自動運転車の所有者/運転手が事故の責任を負います。特定の事故が製造物責任に関係する場合、所有者/運転手は製造業者に補償を求めます。

米国と欧州連合はすでに新たな立法措置を推進し始めている。欧州議会は、法案の中で、米国自動車技術協会が定義する自動化レベルL1～L4の車両に対するリスク責任の導入を積極的に推進し、製造物責任法の適用範囲を拡大しています。 L5-L6 レベルの車は、非自動運転車であるため、依然として過失責任の対象となります。民事責任における危険責任、または厳格責任とは、責任者の過失の有無にかかわらず、発生した損失に応じて責任を負うことを意味します。しかし、製造物責任規則を自動運転車の事故に適用することに関しては、依然として明らかな障害が存在します。まず、自動運転車のような複雑な工業製品の場合、消費者が製品に明らかな欠陥があることを証明するのは困難です。第二に、製造物責任規則では、製造業者が製品を完成する際にリスクを完全に回避することを要求していないため、科学的に未知のリスクは最終的には消費者が負担することになります。最後に、自動運転車の技術は複雑なため、裁判所が責任の分配に関して一貫した基準に達することが難しく、司法の確実性が低下します。 ”

張俊平

復旦大学コンピュータ科学技術学部教授

「無人運転は、インテリジェント交通の将来の方向です。現在、閉鎖された道路や低速走行時には、良好な無人運転性能が達成されています。高速道路では、長時間運転によるドライバーの疲労や、それによって引き起こされる潜在的な交通事故を部分的に軽減することもできます。」

ただし、オープン環境での自律運転という点では、自律運転と完全に無人運転の間にはまだ特定のギャップがあります。これは、センサーの高価格とメンテナンスコストだけでなく、複雑な環境に対処する場合、実際のシナリオ、特に一部の人々、機械、非マシンが混合される国内の道路状況では予測して処理できない問題がまだあるという事実にも反映されています。同時に、事故後の倫理的問題と対応する立法措置も考慮する必要があります。

有名なトロリーの問題は、自律運転に直面している倫理的問題でもあることは注目に値します。インテリジェントな運転の将来、車と車の制御との関係は、インテリジェントネットワークに基づいている可能性があります。したがって、攻撃に抵抗する方法の問題もあります。 ”

8

人工知能技術は既存の境界を突破し、独立した研究開発、自己修復、その他の機能を実現できる「自律的な認識」を持っています。

投票：48.75％

ケースの説明：

マサチューセッツ工科大学（MIT）の科学者は、Cell Magazineの最新号で、彼らが開発した新しい深い学習人工知能（AI）が新しい抗生物質を特定したと書いています。臨床検査では、抗生物質が、すべての既知の抗生物質に耐性のあるいくつかの株を含む、世界で最も厄介な病気の原因となる細菌の多くを殺すのに効果的であることを示しています。

タフツ大学のバーモント大学と生物学者は、100％のカエルDNAを使用するプログラム可能なリビングロボットを共同で作成しました。ゼノボットには自己修復能力があり、科学者がそれらを切ると、ロボットは自分自身を癒し、動き続けます。バーモント大学は、これらは「まったく新しい生命体」であると述べた。 「彼らは伝統的なロボットでも、既知の動物種でもありません。彼らは新しいタイプのアーティファクトです。

専門家のコメント：

liang Zheng

Tsinghua University、Tsinghua University Institute of Antiontrational Goveranceの副学部長

「このケースには、人工知能ガバナンスの基礎である人工知能技術の開発見通しが含まれます。また、人工知能能力の境界について考えることもできます。このケースは、技術開発の兆候も表しています。

Xu Yuncheng

Megviiの最高開発責任者、Megvii AIガバナンス研究所の学部長

「人工知能は、従来の仕事を交換し、効率を改善し、ビジネス開発を促進するだけでなく、人間だけではできない仕事を行うだけでなく、人間の生活の将来の幸福のための新しい可能性を提供することもできます。しかし、私たちはその力と説明できない性質に注意を払う必要があります。

ジワイドン

中国法学研究所のリベラルアーツおよび学部長、上海ジアオトン大学

「Xenobotのケースは非常に特別で非常にセンセーショナルです。責任と法的人格の識別の問題を伴います。特にアルゴリズムのブラックボックスの問題がより深刻になり、説明責任が困難になる場合、Living LobotがAIガバナンスにおいて非常に重要であるかどうか。

9 Hunan Yueyang警察はAI犯罪事件を割ったが、技術犯罪はまだ罰せられる必要がある

投票：48.75％

ケースの説明：

湖南省のYueanglou公安局は、地方自治体の公共セキュリティ局のインターネット技術旅団と協力して、サイバー犯罪を支援するために人工知能の音声ロボットの使用を含むケースをクラックしましたケース。ギャングは「AIインテリジェント音声ロボット」を使用して、「AIインテリジェント音声ロボット」によるスクリーニングの後、多数の携帯電話番号を呼び出しました。現在、Huangを含む12人の主要な犯罪容疑者は、法律に従って公共安全保障機関によって刑事拘留されており、関連する事件に従って7人が管理セキュリティのために拘留されています。 （出典：Yueyang Daily）

専門家のコメント：

チャンジャンピング

フーダン大学のコンピューターサイエンステクノロジースクール教授

「AIテクノロジーには2つの側面があります。一方では、人件費を大幅に削減し、作業効率を改善できます。他方では、犯罪者も使用できます。同時に、AIテクノロジーの新しい開発に注意を払い、追跡し続ける必要があり、AIバイアスやAIの音声や顔の変化などの潜在的なリスクに警戒しているため、テクノロジーが犯罪者に使用され、社会開発を危険にさらすのを防ぐ必要があります。」

10

人工知能は初めて米国の軍事システムを制御します。

投票：48.22％

ケースの説明：

2020年12月15日、米国空軍は、人工知能がカリフォルニアのU2偵察航空機のレーダー、センサー、およびその他のシステムを制御するために初めて人工知能の副操縦士を使用しています。 3年前から、米国空軍はデジタル時代に向けて大きな一歩を踏み出し始めました。最終的に軍事人工知能アルゴリズムを開発し、ペンタゴンの最初の商業開発チームを形成し、クラウドコードを書き、さらには戦闘クラウドネットワークを構築しました。 （出典：huanqiu.com）

専門家のコメント：

劉偉

北京大学ポストアンドテレコミュニケーションの人間と相互作用および認知工学研究所のディレクター、科学技術委員会のヒューマンコンピューター融合インテリジェンスグループのチーフサイエンティスト

「人工知能プロセスは、環境への受動的な反応ではなく、環境情報の一種の刺激、収集、フィルタリング、状況分析戦略の変化、動的な情報の流れからの不変性を抽出し、人間のマシン環境の相互作用の下でほぼ知覚操作または制御行動を生成しますこれは、外の世界との相互作用とともに、社会システムにおける主要なイベント（戦争、自然災害、金融危機など）の重要な基準値、および複雑な産業システムにおける障害の迅速な取り扱いを持っています。

人工知能システムには、さまざまな側面が含まれており、非線形性、ランダム性、不確実性などのシステム特性を生成する可能性が非常に高いため、システムモデリングの研究を行う際に多くの困難があります。 ”

Qiu Zeqi

Yangtze River Scholarsの著名な教育省のプログラム、中国社会開発研究センターのディレクター

「アルゴリズムの戦争の出現は、人間の軍事戦の新しい段階の出現を示し、デジタル軍事戦の形態も意味します。軍事戦では、人間の手足と知性を拡張するツールとして、戦争の結果において常に決定的な変数でした人間の知性への武器の武器は、人間の戦争における2番目の重要な飛躍であり、これから多くの戦争の属性を変えるでしょう！」