中国情報通信科学院の張琳琳氏：AIセキュリティの標準化は、今後も基本的かつ規範的、主導的な役割を果たし続けるべきである。

最近、「強力なイノベーション、新しいことに挑戦、未来の共有」をテーマにしたチャイナモバイルの第4回テクノロジーウィークが始まりました。同時に開催された「セキュリティサブフォーラム」では、中国情報通信研究院セキュリティ研究所副所長の張琳琳氏が、人工知能のセキュリティ状況とセキュリティリスクフレームワーク、人工知能のセキュリティルールと標準の現状、人工知能のセキュリティ標準化のアイデアを中心に、人工知能のセキュリティと関連標準についての解釈を共有しました。

張琳琳氏は、人工知能は未来をリードする戦略的技術として、経済と社会のさまざまな分野でデジタル化とネットワーク化からインテリジェンス化への加速的な飛躍を推進する重要な定量的エンジンになりつつあり、人類の文明の発展と社会の進歩に広範かつ遠大な影響を及ぼしていると述べた。しかし同時に、人工知能技術の応用は安全保障上のリスクと課題ももたらしている。

AIの安全規則と基準の現状

彼女は、AI セキュリティ ルールが AI セキュリティ ガバナンスの主な基盤であり、ルール エクスペリエンスの典型的な形式には倫理規範、法律と規制、標準規範が含まれると考えています。

具体的な管理手法としては、世界の主要国が共同で倫理規範を主導的な統治手段として活用することを選択しています。人工知能は急速な発展期にある新興技術であり、徐々に改善するにはある程度の開発スペースが必要です。同時に、AI法や規制などの強制的な措置に十分な時間を与えるためにも、このルールの在り方については十分に検討する必要がある。したがって、現段階では、世界の主要国はまずソフトな規制を導入すべきである。

具体的な倫理規定の策定に関しては、米国と欧州では異なります。米国は主に企業レベルや業界レベルに焦点を当てていますが、欧州は国家レベルに焦点を当てています。わが国の倫理原則のほとんどは2019年以降に新たに形成されたものであり、社会的コンセンサスを強化し強化する必要があり、国際的な影響力は比較的弱い。

法律や規制に関しては、どの国も比較的慎重です。法律は社会統治の最後の手段であり、人々の権利を守る最後の障壁です。法律は極めて重要です。法律は一般的に現実の生活に基づいて制定されており、起こり得る社会的リスクに対応できず、遅れをとっていることが多い。

そのため、諸外国では、無人運転、ドローン、ディープフェイクなど、リスクが顕著になっている関連分野を中心に法規制が行われています。人工知能全般に関する専門的な法律としては、EU の「人工知能法」が代表的です。我が国は、生成人工知能に対するターゲット規制を試みた最初の国です。2023年7月13日に「生成人工知能サービスの管理に関する暫定措置」が公布され、生成人工知能に関する世界初の規制規定となりました。

標準と仕様の観点から見ると、現在の人工知能のセキュリティに関する国際標準と国内標準は成熟段階に入っており、ISO / IEC、IEEE、NISTなどの国際標準化機構は、人工知能のセキュリティに関する研究を積極的に実施し、関連標準を策定および公開し、人工知能のセキュリティを向上させています。

我が国の観点から見ると、2020年7月に「国家新世代人工知能標準システム構築ガイドライン」を発行し、セキュリティ標準アーキテクチャシステムを明確にしました。我が国の国家情報セキュリティ標準化技術委員会は、生体認証、スマート端末、自動運転、スマート製造の分野でセキュリティ標準化作業を積極的に行っています。

AIの安全性標準化に向けたアイデア

最後に、張琳琳氏は人工知能セキュリティの標準化に関するアイデアを提案しました。彼女は、安全と発展を調和させ、基本的な共通性と重点を強化するための標準を策定することが急務であると指摘した。今後の人工知能の発展の重要な時期に直面して、人工知能の安全標準化作業は引き続き基本的、規範的、主導的な役割を果たし、技術標準で人工知能の発展を推進しなければならない。

国際面では、国際標準の策定に積極的に参加し、関連する国際標準をリードするよう努め、人工知能のセキュリティ評価や評価、ユーザーのプライバシー保護などに関する提案を提出し、より多くの中国の知恵を貢献する必要があります。

我が国の基準に関しては、人工知能の基本的な共通セキュリティ基準の研究を強化し、人工知能基準の枠組みシステムを継続的に改善し、安全リスク倫理設計や安全性評価などのいくつかの基本基準の研究に重点を置く必要があります。また、人工知能のセキュリティに関する重要かつ緊急に必要な基準の策定を加速する必要があります。