GenAIがゼロトラスト環境でサイバーセキュリティを強化する方法

GenAI に対する信頼はまちまちです。 VentureBeat は最近、製造業とサービス業の複数の CISO と話をしたところ、マーケティング、運用、特にセキュリティの分野で生産性が向上する可能性があるにもかかわらず、知的財産とデータの機密性に関する懸念が取締役から最も頻繁に尋ねられるリスクの 1 つであることがわかりました。

新しい技術の軍拡競争に遅れを取らない

調査によると、企業の 69% が GenAI ツールを導入している一方で、サイバーセキュリティ専門家の 46% は GenAI によって組織が攻撃に対してより脆弱になると考えており、CISO とセキュリティリーダーの 88% は武器化された AI 攻撃は避けられないと述べている。

85% は、フィッシングやビジネスメール詐欺攻撃を仕掛けることに関心のある攻撃者向けに地下フォーラムで宣伝されている新しい GenAI である WormGPT の復活を挙げ、最近の攻撃は GenAI によって推進されている可能性があると考えています。兵器化された GenAI ツールはダークウェブや Telegram で販売され、すぐにベストセラーになりました。一例として、FraudGPT は 7 月までに急速に 3,000 件のサブスクリプションに到達しました。

CrowdStrikeの主任科学者兼上級副社長であるスヴェン・クラッサー氏は、攻撃者が大規模言語モデル（LLM）とGenAIを武器化する取り組みを加速させているとVentureBeatに語った。クラッサー氏は、サイバー犯罪者がフィッシングやマルウェアにLLM技術を採用しているが、「これによって攻撃者が実行できる攻撃の速度と量は増加するが、攻撃の質が大幅に変わるわけではない」と強調した。

クラッサー氏はさらに、「AI を使って世界中の信号を相関させるクラウドベースのセキュリティも、こうした新たな脅威に対する効果的な防御策です」と語り、「GenAI はこうした悪意ある技術の基準を引き上げるわけではありませんが、平均を引き上げることにより、スキルの低い敵がより効果的に攻撃しやすくなります」と指摘した。

「攻撃的なAIが主流になる前に、企業は防御のためにサイバーAIを導入する必要がある。これがアルゴリズム対アルゴリズムの戦いになると、AI強化攻撃を阻止するために機械のスピードで反撃できるのは自律的な対応だけだ」とダークトレースの脅威ハンティング担当ディレクター、マックス・ハインマイヤー氏は述べた。

GenAIのユースケースが市場の成長を牽引

GenAI の継続的な学習能力は、特にエンドポイントによって生成される膨大な量のデータを解読する際に大きな利点となります。また、継続的に更新される脅威評価およびリスク優先順位付けアルゴリズムは、CISO や CIO が行動の改善や脅威の予測に期待する魅力的な新しいユースケースも推進します。 Ivanti と Securin の最近のコラボレーションは、より正確でリアルタイムのリスク優先順位付けアルゴリズムを提供するとともに、顧客のセキュリティ体制を強化するための他のいくつかの重要な目標を達成することを目指しています。

Ivanti と Securin は、リスク優先順位付けアルゴリズムの更新で協力しており、Securin の脆弱性インテリジェンス (VI) と Ivanti の脆弱性ナレッジベース Neuron を組み合わせて、ほぼリアルタイムの脆弱性脅威インテリジェンスを提供することで、顧客のセキュリティ専門家が脆弱性の評価と優先順位付けを迅速化できるようにしています。 「Securinと連携することで、AIで人間の知能を強化し、発生源に関係なく、すべての脆弱性に関する強力なインテリジェンスとリスクの優先順位付けを顧客に提供できるようになります」とIvantiの最高製品責任者であるSrinivas Mukamala博士は述べています。

CISO コミュニティが現世代のテクノロジーに対する信頼をめぐって分裂しているにもかかわらず、Gen AI の潜在的な使用事例は数多くあり、市場の成長を促す魅力的な触媒となっています。 AI ベースの生産性の高いサイバーセキュリティ プラットフォーム、システム、ソリューションの市場価値は、2022 年の 16 億ドルから 2032 年には 112 億ドルに増加し、年間複合成長率は 22% になると予想されています。 Canalys は、GenAI が 5 年以内に企業のサイバーセキュリティ運用の 70% 以上をサポートすると予測しています。

Forrester は、GenAI のユースケースを、コンテンツ作成、動作予測、知識表現の 3 つのカテゴリに定義しています。セキュリティ ツールにおける AI と ML の使用は目新しいものではありません。過去 10 年間に開発されたほぼすべてのセキュリティ ツールは、何らかの形で ML を使用しています。たとえば、適応型認証と状況認証は、ヒューリスティック ルール、単純ベイズ分類、ロジスティック回帰分析に基づくリスク スコアリング ロジックの構築に使用されています」と、Forrester の主席アナリストである Allie Mellen 氏は書いています。

GenAIはさまざまなビジネスに適応できる柔軟性が求められる

CISO と CIO が取締役会に GenAI のリスクとメリットのバランスをとる方法についてどのように助言するかによって、今後数年間のこのテクノロジーの将来が決まります。ガートナーは、2026 年までにアプリケーションの 80% に GenAI 機能が含まれるようになると予測しており、この導入率はほとんどの企業ですでに前例となっています。

GenAI アプリケーションの第 1 世代から最大の価値を得ていると答えた CISO は、プラットフォームまたはアプリケーションがチームの作業方法にどれだけ適応できるかが重要であり、これは GenAI ベースのテクノロジーが、チームが構築しているより広範なゼロトラスト セキュリティ フレームワークをどのようにサポートし、強化できるかということにもつながると述べています。

GenAI を試験的に導入する CISO 向けのユースケースとガイダンス、そして期待される最大の価値は次のとおりです。

あらゆる世代の AI アプリケーション、プラットフォーム、ツール、エンドポイントがゼロ トラスト フレームワークの一部として保護されていることを確認します。

GenAI ツール、アプリケーション、プラットフォーム、エンドポイントとのすべてのやり取りにゼロトラスト アプローチを採用することは、あらゆる CISO プレイブックに必須であり、ユーザー、デバイス、および保存時と転送中に使用するデータの継続的な監視、動的アクセス制御、常時認証を含める必要があります。

CISO が最も懸念しているのは、防御する準備ができていない新しい攻撃ベクトルを GenAI がもたらす可能性があるということです。 LLMS を構築する企業にとって、クエリ攻撃、タイムインジェクション、モデル操作、データ汚染を防ぐことは最優先事項です。

Gen AIによる知識管理

最も一般的なユースケースは、よりコストと時間のかかるシステム統合プロジェクトの代替として、Gen AI を使用してセキュリティ チームや大企業全体の知識を管理することです。今年は、ChatGPT ベースの Co-Pilot が RSAC 2023 を制覇しました。 ChatGPT ソリューションを発表するベンダーには、Google Security AI Workbench、Microsoft Security Copilot (ショーに先立って発表)、Recorded Future、Security Scorecard、SentinelOne などがあります。

Ivanti は、顧客の IT サービス管理 (ITSM)、ネットワーク セキュリティ、サイバー セキュリティのニーズを深く理解しているため、この分野でリーダーシップを発揮しており、Ivanti の AL/ML 担当チーフ プロダクト マネージャーである Susan Feng が講演する、GenAI を使用して IT サービス管理を変革する方法に関するウェビナーを提供しています。

今年初め、サイバーセキュリティプロバイダーは毎年恒例のイベントであるCrowdStrike Fal.Con 2023で12の新たな発表を行いました。 Charlotte AI は会話型 AI のパワーを Falcon プラットフォームにもたらし、自然言語による対話を通じて脅威の検出、調査、対応を加速します。 Charlotte AI は、LLM を活用したインシデント概要を生成し、セキュリティ アナリストが脆弱性の分析にかかる時間を節約できるようにします。

Charlotte AI は来年、すべての CrowdStrike Falcon 顧客向けにリリースされ、Raptor プラットフォームでの最初のアップグレードは 2023 年 9 月下旬に開始される予定です。クラウドストライクの最高製品責任者であるラジ・ラジャマニ氏は、CharlotteAIは反復的なタスクを自動化することで、セキュリティアナリストの「生産性を2～3倍向上」させるのに役立つと述べた。ラジャマニ氏は、CrowdStrike がエンドポイント、クラウド、アイデンティティ全体にわたる Charlotte の機能をサポートするためにグラフ データベース アーキテクチャに多額の投資を行ったと VentureBeat に説明しました。

クラウド構成エラーを特定して修正する

攻撃者が攻撃手法の向上とクラウドの誤った構成の侵害に取り組み続けているため、クラウド攻撃は前年比で 95% 増加しました。これは、企業が防御する必要のある最も急速に増加している脅威の 1 つです。

VentureBeat は、2024 年にはマルチクラウドとハイブリッドクラウドのセキュリティギャップを埋めることを目的とした合併、買収、合弁事業が増えると予測しています。今年初めの CrowdStrike による Bionic の買収は、企業のアプリケーション セキュリティと状態管理の強化を支援するというより広範なトレンドの始まりに過ぎませんでした。クラウド セキュリティの向上を目的とした過去の買収には、Microsoft による CloudKnox Security の買収、Cyber​​Ark による C3M の買収、Snyk による Fugue の買収、Rubrik による Lamina の買収などがあります。

この買収は、統合プラットフォーム上で統合されたクラウドネイティブのセキュリティを販売する CloudStrikes の能力を強化することにも役立ちます。また、Bionic は CrowdStrikes のクラウドファーストのエンタープライズ顧客ベースに適合しており、買収がどのように Gen AI のサイバーセキュリティの可能性をさらに強化するために活用されるかを反映しています。