AI時代のセキュリティ情勢にはどのような新たな変化が起こっているのでしょうか？

近年、世界の人工知能産業は急速な発展の勢いを見せており、セキュリティ状況はますます複雑になっています。

2023年7月18日、2023年中国インターネット会議AIセキュリティフォーラムが北京で開催されました。出席者は「AIによる新たなセキュリティの変化を探り、デジタルセキュリティ構築の発展の新たな機会を探る」というテーマで意見を共有しました。

現在、私たちは新たな歴史的転換点に立っています。インターネットはInternet of Everything 3.0の時代に入っただけでなく、あらゆるもののためのAIの時代にも入りました。

中国インターネット協会副会長の黄成清氏は演説の中で、未来の世界は人工知能が主導する世界になるべきだと述べた。我々は発展と安全を調整し、新たな科学技術革命と産業転換の歴史的チャンスをしっかりと捉え、人工知能産業の革新と発展のペースを加速し、実体経済との深い融合を促進し、新たなレベルに到達し、産業の標準化された発展を促進し、新たな突破口を拓き、国家を統治する人材を緊急に必要としています。 AIが業界に入るか、家庭に入るかにかかわらず、我々は行動力のある実践者グループの出現を期待しており、共同で我が国のAIが新たなレベルに到達するのを支援します。

統計によると、2022年現在、北京は人工知能コア企業の数、人工知能コンピューティングパワーの発展レベル、人工知能分野のコア技術分野の人材の割合、開発された人工知能論文の数において全国第1位となっています。しかし、人工知能は産業用アプリケーションを可能にし、生産効率と品質を向上させ、コストとリスクを削減する一方で、一連の新たなセキュリティアプリケーションのリスクと課題ももたらします。

北京市党指導グループメンバーで北京市通信局副局長の王輝氏は、人工知能産業の将来の発展に向けて3つの提案を行った。

まず、開発と安全保障を同等に重視しなければなりません。革新的な開発と両立するセキュリティ保証手法を常に模索・改善し、革新的な開発とリスク回避のバランスを追求していくことでのみ、着実に前進することができます。

第二に、権利と義務を同等に重視する必要があります。企業は政策配当を積極的に活用し、自社の優位性を十分に発揮し、人工知能分野での革新と発展を加速させるべきである。同時に、企業としての主要な責任を積極的に果たし、人工知能の発展における潜在的リスクの評価と予防を強化し、人民の利益と国家の安全を守り、人工知能の安全性、信頼性、制御可能性を確保する必要がある。

3つ目は、独立性と連携性を同等に重視することです。人工知能技術は戦略的な新興技術であり、コア技術と知的財産権を掌握して、自主的なイノベーション能力と競争力を高める必要があります。同時に、人工知能技術の発展には、学際的、分野横断的な連携が必要であり、企業、大学、科学研究機関などの協力を得て、技術の研究開発、人材育成、産業応用を共同で進める必要があります。

今年に入ってから、国産大型モデルの登場が相次いでいる。 「中国人工知能大型モデルマップ研究報告」によると、2023年5月28日現在、中国は10億以上のパラメータを持つ79の大型モデルを発表している。同時に、Venustech、Topsec、Sangfor、Rising、MoCloud Technology などの企業も、ネットワーク セキュリティ業務にビッグ モデルを使用しています。さらに、ネットワークセキュリティの分野で大規模な垂直モデルをトレーニングし、それを製品形態に適用することを専門とする企業もいくつかあります。

中関村国家実験室および清華大学の李丹教授によると、セキュリティ分野におけるビッグモデルの応用シナリオは主に次の3つの側面に集中している。

まず、コードの脆弱性マイニングです。大規模モデルは、大量のコードデータを効率的に処理し、強力な学習機能と感度低下機能を使用して、コード内の多くの潜在的な脆弱性を迅速に発見します。同時に、コンテキストと目標に基づいて適切なコード修正計画を自動的に提供し、コードの合理性を向上させることができます。

第二に、大規模モデルの機能を活用して、ネットワークセキュリティ運用・保守ロボットを開発します。ビッグモデルのテキスト理解と生成機能、コード理解と生成機能、ネットワークセキュリティリスク評価値のルールエンジン、セキュリティインテリジェンス、サンプルライブラリ、ナレッジベースなどに基づいて微調整を行い、ネットワークセキュリティ分野の垂直ビッグモデルを形成し、ネットワークセキュリティ分野の運用保守担当者の専門要件を軽減し、リアルタイムの対応能力を向上させることができます。

3つ目は、自律的に進化する攻撃と防御の訓練です。ビッグモデルに基づいて赤青対決を確立することは、AlphaGo ロボットが仮想対決を通じて実際のゲームをシミュレートするのと同じです。多くの攻撃および防御ツール セット、攻撃および防御リソース プール、さらには自動的に検出されたゼロデイ脆弱性の一部を、それぞれレッド チームとブルー チームに統合して自動的に対決できるため、ネットワーク セキュリティの分野に多くの新しい技術開発の機会と変数がもたらされます。

AIセキュリティ業界の急速な発展を促進するために、天一セキュリティテクノロジー株式会社傘下の中国電信セキュリティ会社（以下、「電信セキュリティ」）が「セキュリティビッグモデル向け高品質データセットの共同構築」イニシアチブを開始したことは注目に値します。具体的な取り組みは以下の通りです。

1. データ共有: セキュリティ分野の組織が蓄積した高品質のセキュリティ データ セットを共有することを奨励します。これには、セキュリティ分野の知識、悪意のあるコードのサンプル、セキュリティ廃棄の経験などが含まれますが、これらに限定されません。安全なデータ共有を確保するために、関連する法律や規制を遵守することを約束します。

2. 品質第一: 共同で構築されたデータセットが品質基準を満たし、セキュリティ データの 3 つの主要特性である正確性、専門性、適時性を満たすように、業界の専門家が協力することを推奨します。

3. 効果的な循環：平等な協力のエコロジーの構築に努めます。まず、データの非感応化を前提として、協力機関間のデータの効率的な流通を促進し、その後、業界の専門研究者に徐々に公開していきます。

4. 合法性とコンプライアンス：当社は、中国サイバースペース管理局、工業情報化部など7つの省庁が発行した「生成人工知能サービス管理暫定弁法」（第7条、第8条）におけるトレーニングデータ処理活動およびデータラベリング要件に関する関連ガイドラインを遵守することを約束します。また、中国共産党中央委員会と国務院が発行した「データ要素の役割をよりよく発揮するためのデータインフラストラクチャシステムの構築に関する意見」、工業情報化部が発行した「工業情報化分野のデータセキュリティ管理弁法（試行）」、国家情報セキュリティ標準化技術委員会が発行した「情報セキュリティ技術とネットワークセキュリティ情報共有ガイドライン（意見募集稿）」を遵守し、データ要素の生成、流通、使用の全プロセスの合法性とコンプライアンスを確保することを約束します。

要約すると、通信セキュリティは「データ共有、品質第一、有効流通、合法性、コンプライアンス」を全体的な指導原則とし、大規模なセキュリティモデルのための高品質なデータセットを共同で構築することで、AIセキュリティ業界の合理的かつ秩序ある発展を促進します。私たちは、セキュリティ業界のすべての関係者が参加し、協力して AI の安全な未来を築くことを呼びかけています。

結論は：

一般的に、ネットワーク セキュリティの分野では、AI 技術の継続的な発展は機会と課題の両方をもたらすと言えます。 AI アプリケーションの実装は、一方では新たなセキュリティ リスクをもたらしますが、他方では、AI によってセキュリティ運用の可視性と生産性も向上します。

将来を見据えると、AI技術のセキュリティを強化し、AI技術がもたらすリスクを回避し、常に法律の範囲内で運用されるように導くことによってのみ、AI技術の健全な発展を促進し、ネットワークセキュリティの分野でその価値を十分に発揮することができます。