テンセントが業界初のAIセキュリティ攻撃マトリックスを発表、リスク排除が辞書を引くのと同じくらい簡単に

近年、人工知能は急速に発展し、家庭、金融、交通、医療などさまざまな分野に深く融合し、人々の生活はより便利になっています。しかし同時に、AI ベースのシステムにリスクがある場合、より深刻な結果をもたらすことになります。さまざまな応用シナリオにおいて人工知能が容易に制御、影響を受けず、欺かれないようにする方法も、実務家にとって重要な研究課題となっています。

テンセントは9月25日、業界初のAIセキュリティ攻撃マトリックスを正式にリリースした。これは、非常に実用的なAIセキュリティ技術ガイダンスフレームワークであり、学術界と産業界の最先端のAIセキュリティ研究を初めて包括的に整理し、攻撃者の視点から、AI技術の研究開発と展開の各リンクにおける攻撃プロセスと技術実装方法を体系的にリストし、AI実務者がライフサイクル全体を通じてAIシステムの危険ポイントと対応する緩和方法を迅速に理解できるようにし、AIシステムの安全な展開と適用のための重要な技術リファレンスを提供します。

AI セキュリティの脅威リスクマトリックス

このマトリックスは、テンセントの2つの主要な研究室であるテンセントAIラボとSuzakuラボが共同でまとめたもので、ネットワーク攻撃と防御の分野で成熟度が高く、実用的意義が強いオープンソースのセキュリティ研究フレームワークであるATT＆CKを参考にしたものと理解されている。攻撃者の視点から戦術、技術、プロセスを総合的に分析し、防御側がセキュリティ対応方法と防御対策をより正確に把握するのに役立つ。アルゴリズムのセキュリティ問題を単一の観点から研究することと比較して、このマトリックスはより高い実用的価値と参照意義を持っています。

AI セキュリティ脅威リスク マトリックスは、現実世界のシナリオを重視し、攻撃テクノロジーを、比較的成熟している、研究中、潜在的な脅威の 3 つの成熟レベルに直感的に分類します。テンセントAIラボによると、マトリックスを作成する上での中心的な難しさは、AIシステムのセキュリティ問題の分析角度をどのように選択し、整理するかにあるという。他のソフトウェアやハードウェアと連携して動作するアプリケーションであるため、AI システムのセキュリティに対する分析アプローチは、従来のインターネット製品のアプローチとまったく同じではありません。徹底的な調査を行った結果、チームは最終的に AI の研究開発と展開ライフサイクルの観点から問題に取り組むことを選択しました。さまざまな段階で AI システムが直面するセキュリティ リスクをまとめ、AI 自体のセキュリティをグローバルな視点から検討しました。

この実用的なアイデアに導かれて、マトリックスは辞書と同じくらい便利に使用できます。 AI の展開と運用の基本的な状況に基づいて、研究者と開発者はリスク マトリックスに対して起こり得るセキュリティ上の問題を確認し、推奨される防御提案に基づいて既知のセキュリティ リスクを軽減できます。

Tencent AI Labは、機械学習、コンピュータービジョン、音声認識、自然言語処理の4つの基礎研究分野に注力するほか、信頼できるAIシステムの設計と展開を支援するために、AI分野におけるセキュリティ研究にも引き続き注力しています。テンセント朱雀研究所は、実用的な攻撃技術と AI セキュリティ技術の研究に注力し、攻撃を利用して防御を促進し、テンセントのビジネスとユーザーのセキュリティを保護します。これまで、Suzaku研究所では、実際のハッカーの攻撃経路をシミュレートし、AIモデルのニューロンを直接制御し、モデルに「バックドアを埋め込む」ことで、ほとんど意識することなく完全な攻撃検証を実現してきました。これは、AIモデルファイルを使用してバックドア効果を直接生み出す攻撃研究としても業界初となります。

テンセントクラウドの副社長でテンセントセキュリティプラットフォーム部門の責任者であるヤン・ヨン氏は、業界がAIの応用を深め続けるにつれて、あらゆるレベルでより実用的な攻撃方法と手段が出現するだろうと述べた。テンセントは、AI セキュリティ分野の研究を継続し、業界の最新調査結果に対応するためにリスク マトリックスを随時更新します。