「新世代人工知能倫理規定」が発表：人工知能のライフサイクル全体に統合し、データプライバシーのセキュリティとアルゴリズムの倫理に重点を置く

9月26日、国家新世代人工知能ガバナンス専門委員会は「新世代人工知能倫理規範」（以下、「規範」という）を発行しました。これは、人工知能のライフサイクル全体に倫理を統合し、人工知能関連の活動に従事する自然人、法人、その他の関連機関に倫理的なガイダンスを提供することを目的としています。

[[426077]]

国家情報セキュリティ標準化技術委員会は今年1月5日、「サイバーセキュリティ標準実践ガイドライン-人工知能倫理セキュリティリスク防止ガイドライン」（以下、「ガイドライン」）を発行し、関係組織または個人が人工知能の研究開発、設計、製造、展開、応用などの関連活動を行う際に、人工知能倫理セキュリティリスクを十分に特定、防止、管理する必要があることを明らかにしました。

今回発行された「仕様」は、「ガイドライン」と比較して、プライバシー保護とデータセキュリティについてより詳細な説明を提供し、アルゴリズムの偏りなどの技術的な倫理的問題にも配慮しています。

データとプライバシーのセキュリティに注意し、アルゴリズムの倫理を重視する

「仕様」では、人類の福祉の向上、公平性と正義の促進、プライバシーとセキュリティの保護、制御可能性と信頼性の確保、責任の強化、倫理リテラシーの向上など、6つの基本的な倫理要件が提示されています。その中で、データとプライバシーのセキュリティに関する内容は、人工知能の管理、研究開発、供給などの特定の活動の具体的な倫理的要件を網羅しています。

「仕様」では、あらゆる種類の人工知能活動は、個人情報の知る権利と同意する権利を十分に尊重し、合法性、正当性、必要性、誠実性の原則に従って個人情報を処理し、個人のプライバシーとデータのセキュリティを保護し、個人の合法的なデータ権益を損なってはならないと指摘しています。盗難、改ざん、漏洩などの方法で個人情報を不法に収集および使用してはならず、個人のプライバシー権を侵害してはならない。

管理面では、関係主体のプライバシー、自由、尊厳、安全等の正当な権利と利益を十分に尊重・保護し、自然人、法人、その他組織の正当な権利と利益を侵害する不当な権力の行使を禁止しなければなりません。

研究開発の面では、データの品質を向上させ、データの収集、保存、使用、処理、送信、提供、開示の面でデータ関連の法律、標準、仕様を厳守し、データの完全性、適時性、一貫性、標準化、正確性を向上させる必要があります。

供給側では、設計や製品の欠陥による人身安全、財産安全、ユーザーのプライバシーなどの侵害を回避するために、人工知能製品およびサービスの品質監視と使用評価を強化し、品質基準を満たさない製品やサービスを運営、販売、提供してはなりません。

アルゴリズム倫理もこの規制の焦点の 1 つです。 「仕様」は、「研究開発仕様」において、データ収集とアルゴリズム開発において偏見や差別を避け、倫理審査を強化し、差別化された要求を十分に考慮し、データとアルゴリズムの偏りの可能性を回避し、人工知能システムの包括性、公平性、非差別性を実現するための努力をしなければならないと明記している。同時に、セキュリティと透明性を強化し、アルゴリズムの設計、実装、適用における透明性、説明可能性、理解可能性、信頼性、制御性を向上させ、人工知能システムの回復力、適応性、干渉防止機能を強化し、検証可能性、監査可能性、監視可能性、追跡可能性、予測可能性、信頼性を徐々に実現する必要があります。

テクノロジー倫理とデータセキュリティが市場監督の焦点となる

近年、人工知能の倫理ガバナンスの問題はますます注目を集めています。データのセキュリティとアルゴリズムの倫理コンプライアンスは、常に我が国の人工知能業界の焦点であり、関連システムは継続的に改善されています。

2021年7月14日、深セン市人民代表大会常務委員会組織部が起草した「深セン経済特区人工知能産業振興条例（草案）」は、人工知能企業に対し「倫理的リスクの立場を確立する」ことと「倫理審査とリスク評価の義務を履行する」ことを要求している。また、人工知能の研究・応用活動を行う上で、個人のプライバシーや個人情報保護を侵害したり、国家の安全や社会の公共利益を損なったり、アルゴリズムによる差別を行ったりするなどの一連の行為を禁止すると明確に規定している。

科学技術部は2021年7月28日、「科学技術倫理ガバナンス強化に関する指導意見（意見募集稿）」を発表し、倫理第一、機動的なガバナンスなどの基本要件を明確にし、科学技術倫理の5つの原則を提示し、「生命科学、医学、人工知能などの科学技術活動に従事し、その研究内容が科学技術倫理の敏感な領域に関係する機関は、科学技術倫理（審査）委員会を設立すべきである」と要求した。

さらに、今年6月と8月には「中華人民共和国データセキュリティ法」と「中華人民共和国個人情報保護法」が相次いで公布され、データと情報のセキュリティの重要性がかつてないほど強調されるようになりました。政策の動向を受けて、AI企業は資金調達や上場の際に、データセキュリティやアルゴリズム倫理などのコンプライアンス問題にますます注意を払うようになっています。

過去1年間、Yitu、Megvii、CloudWalk、Haitian AAC、Intellifusionなどの「AIコンセプト株」がIPOに群がり、データコンプライアンスと技術倫理が検討の焦点となった。今年5月、Megvii TechnologyのIPOプロセス中に、上海証券取引所は初めてテクノロジー倫理について質問し、Megviiに対して会社の組織構造、中核原則、内部統制、人工知能倫理の実施状況の開示を要求した。雲光科技のIPO審査は、財務情報が古いため一時中断された。易図科技は申請を取り下げ、IPO審査は終了した。

規制強化の動きを背景に、「AI四大ドラゴン」の一つであるセンスタイムは先日、香港株式市場への上場目論見書を提出した。目論見書では、プライバシーとAIガバナンスの側面を詳細に開示する特別章を設け、同社が業務でデータプライバシーと個人情報保護をどのように実現しているかを説明し、持続可能な発展の原則、人間本位の原則、技術管理の原則という3つのAI倫理原則に従うことを表明した。

浙江墾丁法律事務所の創設パートナーである王瓊飛氏は、21人の記者とのインタビューで、AI業界とテクノロジー企業にとって、短期的にはデータコンプライアンスとAIガバナンスは多くのエネルギーとコストを消費するが、中期的には上場テクノロジー企業が自主的に個人のプライバシーとAIガバナンスを公開し、間違いなく他の企業のモデルとガイドとなり、データの標準化とデータガバナンスの作業負荷を軽減するだろうと述べた。長期的には、この動きはAI業界の健全な発展を加速させ、個人のプライバシーを尊重し保護するという前提で、人工知能の革新と監督のバランスを徐々に実現するだろう。

（執筆者：インターン生 王一塵、研修記者 呉立洋、編集者：曹金良）