人工知能の安全で制御可能な開発について議論するために、AIセキュリティと産業ガバナンスフォーラムが正式に開催されました。

第四次科学技術革命をリードする戦略的技術として、人工知能は社会構築と経済発展に重大かつ広範囲な影響をもたらしました。しかし、データプライバシー、アルゴリズムの偏り、技術の乱用などのセキュリティ問題も、社会公共ガバナンスと産業インテリジェント変革に深刻な課題をもたらしています。将来、人工知能は革新的な開発と安全性および制御可能性をどのように両立させることができるでしょうか? 6月3日、北京知源会議において、北京瑞来智能科技有限公司とアリババセキュリティが共同主催する「AIセキュリティと業界ガバナンス」フォーラムが正式に開催されました。

会議には、中国科学院院士で清華大学人工知能研究所所長の張北氏、北京市経済情報局の郭嘉義氏、中国情報通信研究院セキュリティ研究所情報セキュリティ研究部主任の魏偉氏、中国人工知能産業発展連盟事務局長で中国情報通信研究院クラウドコンピューティング研究所人工知能部副部長の史林氏、RealAIの田天氏、アリババのセキュリティ部テクニカルディレクターの薛慧氏、百度のチーフセキュリティアーキテクトである鮑晨福氏など数十名の専門家が出席し、人工知能の安全で制御可能な開発という重要なテーマについて詳細な議論を行った。

1. 人工知能は新たな「安全で制御可能な」能力を早急に開発する必要がある

学術討論セッションでは、中国科学院院士で清華大学人工知能研究所所長の張北氏がスピーチの中で、人工知能産業の今後の発展においては、応用シナリオを拡大すると同時に、データ、アルゴリズム、アプリケーション層のセキュリティと制御性を実現することが必要であると述べた。同時に、人工知能の安全性と制御性の問題は技術的なレベルから同時に解決する必要があると述べた。具体的な実施経路について、張北院士は、第一世代の知識駆動型人工知能と第二世代のデータ駆動型人工知能を組み合わせた「第三世代人工知能」の開発を提唱した。知識、データ、アルゴリズム、コンピューティングパワーの4つの要素を使用して、説明可能で堅牢な新しいAI理論と方法を確立し、安全で信頼性が高く、信頼性が高く、スケーラブルなAIテクノロジーを開発します。

北京市経済情報局局長の郭嘉義氏はフォーラム開催を祝し、第3世代人工知能の発展に大きな期待を表明した。彼は、現在の世界は新たな科学技術と産業の変革の大きな時代にあると考えています。人工知能は、新たな科学技術革命と産業変革の重要な原動力として、世界を大きく変えつつあります。しかし、人工知能の急速な発展に伴い、さまざまなセキュリティ問題も発生しています。第三世代人工知能の提案は時宜を得たものであり、我が国が人工知能の安全性と信頼性の分野で飛躍的な進歩を遂げるのに役立つだろう。また、北京が国際科学技術イノベーションセンターとしての地位をさらに推進し、首都のハイエンド経済構造を構築することにもプラスの影響を与えるだろう。

第三世代人工知能の実践者でありリーダーである瑞来智慧のCEO、田天氏は、現段階で人工知能業界は高速成長から高品質発展への移行期にあると述べた。業界の期待の高まりにより、金融や医療など、より複雑で価値の高いシナリオへの応用に対する需要が高まり、セキュリティへの重点も高まり続けている。しかし、従来の技術パラダイムには自然なアルゴリズムの抜け穴や欠陥があるため、人工知能の長期にわたる高品質な発展をサポートすることは困難です。このため、田天氏は第三世代人工知能の開発を加速し、「安全で制御可能な」コア機能を開発する必要があると提唱した。

「安全で制御可能な」人工知能をどのように定義するのでしょうか?田田氏は、「セキュリティ」とは、データセキュリティとアルゴリズムセキュリティという2つのコア機能を構築し、データへの強い依存によって生じるプライバシー漏洩やデータ汚染などの隠れた危険を解決すると同時に、アルゴリズムの堅牢性と信頼性を向上させることを指すと説明した。「制御可能」とは、アプリケーションレベルでのコンプライアンスと制御性だけでなく、コアテクノロジーの自律制御性も指す。自律制御性を基盤として、理論革新と技術革新を通じてコア競争力が形成される。安全性と制御性は第3世代人工知能開発の中核基準であり、人工知能の高品質な開発を加速するための強力なサポートでもあると田田氏は強調した。

データの安全性とアルゴリズムの安全性の欠如は、人工知能産業の現在の発展を制限する主な要因であり、安全で制御可能な人工知能を開発する上で対処する必要がある中核的な問題でもあります。人工知能産業の応用が継続的に深まるにつれて、人工知能のセキュリティ問題は大規模な発生を招くでしょう。中国情報通信研究院セキュリティ研究所情報セキュリティ研究部門の魏魏主任は、人工知能とデータ産業は互いの発展を促進する一方で、セキュリティ問題も絡み合っていると述べた。一方では、人工知能がデータに強く依存するという発展特性により、人工知能が直面するデータセキュリティリスクがますます顕著になり、アプリケーションによってデータセキュリティリスクが引き起こされ、アプリケーションによってデータガバナンスの課題が悪化している。他方では、人工知能はデータガバナンスに対して自動化、インテリジェント化、効率的、かつ正確なスマートサポートも提供する。魏魏は、開発とセキュリティの両方を追求するガバナンスアプローチに焦点を当て、倫理規範、法律と規制、標準システム、技術手段、人材育成の観点から、データセキュリティガバナンスに関する多くの提案を提示し、人工知能業界におけるデータセキュリティコンプライアンス慣行の実装をサポートしました。

データセキュリティと比較すると、アルゴリズムのセキュリティ問題はまだ開発の初期段階にありますが、そのセキュリティリスクを過小評価することはできません。アリババセキュリティの上級アルゴリズム専門家である何元氏は、人工知能技術はネットワーク環境の浄化、知的財産権の保護、生体認証、オフラインセキュリティなどのセキュリティ業務においてますます重要な役割を果たし、セキュリティをよりスマートにしているが、堅牢性の不足、説明可能性の低さ、技術の乱用などのセキュリティリスクにも直面していると述べた。たとえば、アルゴリズムの抜け穴が存在すると、画像検索システムへの攻撃が開始され、オリジナルではない画像が検出を逃れ、ウェブサイトのセキュリティと商人の権利に脅威を与える可能性があります。

百度のチーフセキュリティアーキテクトであるバオ・チェンフー氏も、アルゴリズムのセキュリティリスクの実際の危険性が徐々に現れつつあると述べた。自動運転のシナリオでは、モデルの堅牢性の欠如により、敵対的な環境や変化する光や気象条件のある複雑な環境で自動運転システムが誤って識別され、深刻な結果を引き起こすことになる。 AI セキュリティには、アルゴリズムのセキュリティに加えて、「実装のセキュリティ」も含まれると彼は考えています。同氏は、コードセキュリティとシナリオセキュリティの「実装セキュリティ」もAIシステムの最終決定の完全性とセキュリティに直接影響すると強調した。

2. 安全で制御可能な人工知能を実現するには「インフラ」のサポートが必要

安全で制御可能な人工知能の開発は、業界標準や法的規範などのガバナンス作業と、それを支える「インフラ」を構築するための技術開発を多面的に共同で推進する必要がある体系的な作業です。

清華大学人工知能ガバナンス研究所副所長の梁正氏は、アルゴリズムガバナンスの道を模索する中で、社会ガバナンスの観点から、アルゴリズムモデルは説明が難しく、制御が難しく、説明責任が困難であるという特徴があり、差別、脆弱性と不安定性、操作と搾取、情報の繭などのセキュリティリスクにつながる可能性があると提言した。国際的なアルゴリズムガバナンスの経験と比較すると、国内のガバナンス基盤は初期に形成され、政策ガイダンス、標準ガイドライン、法律、規制が順次発行されているものの、完全なガバナンスシステムはまだ形成されていません。アルゴリズムガバナンスをどのように実行するか?彼は、まずは現場主義と階層主義のガバナンスを実施し、ガバナンスの優先順位を決定する必要があると提案した。現在は個人情報を活用した自動意思決定システムに重点が置かれており、今後は個人の安全に関わる高リスク領域に重点が置かれるだろう。同時に、アルゴリズムガバナンスでは、ルールの問題と技術的な問題を特定して区別し、的を絞った対策を講じ、セキュリティ、公平性、透明性、プライバシーなどの基本原則を遵守して、責任ある人工知能を実現する必要がある。

中倫法律事務所のパートナーである陳紀紅氏は、人工知能の発展におけるプライバシーとデータ保護の解決策について、「サイバーセキュリティ法」と「個人情報保護法」、そしてまもなく公布される「データセキュリティ法」がわが国におけるデータ保護と監督の「三本の矢」となり、データ保護に厳格な法的環境を提供すると述べた。しかし、人工知能業界のビッグデータ、リアルタイムデータ、データ融合の需要の発展は、これらのデータ保護の原則と衝突するだろう。そのために、彼は、一方では企業が自主的に規制を遵守し、製品開発と製品技術アーキテクチャにおいて積極的なリスク防止策を講じ、プライバシーの概念を製品ライフサイクルに導入すべきであると提案した。他方では、彼は立法府に対して、プライバシー保護と産業発展のバランスを取るよう求めた。一般に受け入れられている良好なプライバシー保護の概念と厳格な法的環境は、技術の長期的な発展を促進する2つの翼である。

政策や規制に加えて、技術インフラの構築も依然として重要な役割を果たすでしょう。 RealAI は、第 3 世代人工知能分野の実践者およびリーダーとして、より安全で制御可能な一連の人工知能インフラストラクチャを立ち上げました。セキュアなマルチパーティ コンピューティング、フェデレーテッド ラーニング、匿名クエリなどのテクノロジに基づいて構築されたデータ セキュリティ共有インフラストラクチャである RealSecure は、データ プライバシーの問題を解決するために使用されます。AI システム向けに立ち上げられたファイアウォールおよびウイルス対策ソフトウェア プラットフォームである RealSafe は、顔認識、ターゲット検出、画像分類などのアプリケーションに効果的なセキュリティ検出および防御強化サービスを提供できます。田田氏は、この一連のインフラストラクチャはAI機能の新たな次元を切り開き、人工知能業界のガバナンスに効果的なツールサポートを提供すると述べた。

特に、人工知能アルゴリズムのセキュリティ向上は、本質的には、ますますエスカレートする攻撃と防御に対抗するプロセスです。しかし、アルゴリズムモデルのセキュリティを包括的、客観的、科学的に測定する方法は、現在、産業界と学界が直面している困難な問題です。この問題を解決するために、清華大学、Alibaba Security、RealAIは共同で、ディープラーニングモデルに基づく業界初の敵対的攻撃および防御ベンチマークプラットフォーム（Adversarial Robustness Benchmark）をリリースしました。このベンチマークは、さまざまなアルゴリズムの効果をより公平かつ包括的に測定し、使いやすい堅牢性テストツールを提供し、AIモデルのセキュリティを包括的に測定できます。ユーザーはモデルを提出することでセキュリティスコアを取得できます。

散在した攻撃および防御モデルのみを網羅していたこれまでの敵対的攻撃および防御ベンチマークとは異なり、今回発表されたAI敵対的セキュリティベンチマークには、基本的に現在主流の人工知能敵対的攻撃および防御モデルが含まれており、数十の典型的な攻撃および防御アルゴリズムを網羅しています。さまざまなアルゴリズムを比較する過程で、可能な限り比較の公平性を確保するために、同じ実験設定と一貫した測定基準を使用するように努めました。なお、今回発表されたAIセキュリティランキングには、先ほど終了した人工知能攻撃・防御コンペティション「CVPR2021」の上位5チームの攻撃アルゴリズムも含まれています。このコンテストには、世界中から 2,000 を超えるチームから最新のアルゴリズムが提出され、セキュリティ ベンチマークの科学性と信頼性がさらに高まりました。 「AIアルゴリズムの攻撃と防御の結果をランク付けし、さまざまなアルゴリズムのパフォーマンスを比較することでAIセキュリティベンチマークを確立することは、重要な学術的意義があり、さまざまなアルゴリズムの有効性をより公平かつ包括的に測定できる」と朱軍氏は述べた。

3. 安全で制御可能な人工知能が産業知能を再構築する

「新インフラ」の波に後押しされ、人工知能業界は伝統的な産業との深い統合の好機を迎えようとしています。田田氏は、安全性と制御性を中核に据えることで、人工知能の技術的優位性を効率的に生かし、産業インテリジェンスを再構築し、「シングルポイント自動化」から「ディープインテリジェンス」への価値向上を実現できると述べた。同氏は、金融分野では人工知能の革新的な統合により、意思決定分析と感覚認識を組み合わせた金融シナリオ向けの「スマートブレイン」が生み出されていると述べた。安全で制御可能なサポートにより、「スマートブレイン」は新しい機能を拡張し、より優れた意思決定を行う左脳と、より安全で信頼性の高い知覚を行う右脳を実現できます。同時に、RealAIはマルチパーティセキュアコンピューティング、フェデレーテッドラーニング、人工知能セキュリティ攻撃および防御技術をベースに、「データ保護、アルゴリズム検出、アプリケーション管理」を組み合わせた完全な信頼できる顔ソリューションを作成し、顔のプライバシーセキュリティ、データ漏洩追跡、アルゴリズムセキュリティ評価、情報コンプライアンスの確保を前提として、主要な社会公共サービスシナリオでの顔認識の徹底的な応用を推進していると紹介しました。

中国工商銀行ソフトウェア開発センタービッグデータ・人工知能研究室副所長の黄兵氏は講演で、中国工商銀行は既存の人工知能技術システムを基盤として、「信頼できるソフトウェアとハ​​ードウェアの運用環境、データプライバシー保護、アルゴリズムモデルのセキュリティ」という3つの中核機能を構築し、金融分野における安全で信頼できる人工知能技術機能を開発し、人工知能の大規模応用の合法性、コンプライアンス、セキュリティ、信頼性を確保していると紹介した。同氏は、AIのセキュリティはAIの大規模応用の前提であり、必要条件であると強調した。同時に、AIの信頼性はフルスタックで、モデルのライフサイクル全体をカバーする必要がある。安全で信頼できる技術の研究と突破口を通じて、大規模なAIの生産と展開に対する安全で信頼できるサポート能力が向上し、複数のデータ生産要素の統合能力が強化され、デジタル経済社会に、より効率的で、より低コストで、より敷居の低い包括的な金融サービスを提供できる。

金融業界は高度にデータに基づいた業界であるため、データプライバシーの保護は避けられない傾向です。中国建設銀行金融技術有限公司のイノベーション実験室長である王雪氏は、プライバシー保護コンピューティングは、将来を見据えた安全で信頼性の高い技術として、プライバシー保護を基礎としてデータの価値を最大化し、マルチパーティデータフュージョン分析を通じてデータの価値を最大化し、規制要件を満たしながらデータの相互接続と相互運用性を実現できると述べました。新しいビジネスモデルを通じて外部データ接続を拡大し、データの供給と需要のマッチングの問題を解決し、金融のデジタル変革を深めることができます。

さらに、豊富な応用シナリオと巨大な産業的可能性を秘めたインテリジェント製造の分野では、堅牢で安全な AI システムを構築することも必要です。三一グループの無人運転科学者であり、三一ロボティクステクノロジー株式会社の副社長である賈全氏は、スマート物流はスマート工場における無人運転技術の典型的な応用であると紹介した。実際の運用プロセスでは、干渉の多い生産環境で作業を効率的かつ正確に完了する必要があります。同時に、システムはハードウェアとソフトウェアのプラットフォームのセキュリティ上の課題にも直面しています。このため、Sany Roboticsは産学研究の緊密な協力を通じて産業セキュリティを構築し、健全で制御可能なインテリジェント製造の発展を促進しています。

安全で制御可能な人工知能のさまざまな業界への応用は、深い専門的統合の段階に入り、垂直分野のニーズに応じて深い応用可能性を模索します。中国放送ネットワーク情報技術有限公司の田鋒総経理は、人工知能技術に基づくインテリジェントエンジンを構築し、スマート金融、スマートセキュリティ、スマート交通、スマート利便性などの事業分野を中心に都市のインテリジェント産業の発展に力を入れることで、安全と制御を基礎として、各要素の高品質な発展を促進し、都市のインテリジェント戦略レイアウトを深めることができると述べた。

最後の円卓会議では、中国人工知能産業発展連盟事務局長で、CAICTクラウドコンピューティング研究所人工知能部副部長のShi Lin氏、上海浦東発展銀行イノベーションラボのビジネス専門家Li Feng氏、中国光大銀行マルチパーティセキュリティデータインテリジェンスラボのLi Cheng氏、Didi Securityのセキュリティ製品専門家Sun Yiqiang氏、RealAIの共同創設者Liu Liyuan氏が、安全で制御可能な人工知能の産業応用について議論しました。

セキュリティと制御の助けを借りて、「ディープインテリジェンス」の時代が加速し、さまざまな業界における人工知能の応用の幅と深さは拡大し続けるでしょう。人工知能の未来は想像に満ちているが、真の人工知能を実現するには依然として多くの深い課題が残っている。田田氏は、第3世代の人工知能は「データ、知識、アルゴリズム、コンピューティングパワー」の新たな次元を解放し、安全で制御可能な新世代の人工知能を実現する可能性を提供し、人工知能が「浅い知能」の快適ゾーンから抜け出し、新たな産業価値を再構築することを可能にすると述べた。