15人の専門家が予測：AIは2024年にサイバーセキュリティのルールを変える

AI技術の飛躍的な発展に伴い、攻撃者はAIの武器化を加速させ、ソーシャルエンジニアリング技術と組み合わせて企業の防御を困難にしています。同時に、防御の面では、AIはCISOが人工知能の軍拡競争に勝つための重要な武器でもあります。

2024 年に AI はサイバーセキュリティをどのように変えるのでしょうか?最近、テクノロジーメディアのVentureBeatは13社のサイバーセキュリティリーダー15人にインタビューし、2024年の予測をまとめました。回答者は一般的に、2024 年の CISO の最大の目標は、セキュリティ担当者と AI の協力関係を確立することだと考えています。 AI がサイバー攻撃に対する防御力を最大限に発揮するには、人間の洞察力が必要です。セキュリティ専門家による主な予測は次のとおりです。

人工知能は検出能力に改善と課題をもたらす

- ピーター・シルバ、エリコム・サイバーセキュリティ

AI のパターン認識機能を使用すると、検出機能 (新しい攻撃パターンや CVE 脆弱性、攻撃試行など) を向上させることができます。また、特定の L3DDoS 攻撃が不注意によるクレデンシャル スタッフィング攻撃の隠れ蓑であると予測することもできます。しかし同時に、人工知能は検出をより困難にします。たとえば、検出者は人間によるフィッシング攻撃と人工知能によって生成されたフィッシング攻撃を区別できません。これにより、検出技術の継続的な開発が促進されます。

シャドーAIと大規模モデルの導入により新たなデータセキュリティリスクが発生

— クラウドストライクのCTO、エリア・ザイツェフ

CrowdStrike は、2024 年までに攻撃者が最新の脅威ベクトルとして AI システムに焦点を移し、承認された AI 展開の脆弱性や従業員による AI ツールの承認されていない使用 (シャドー AI) の盲点を通じて組織を標的にすると予測しています。

セキュリティ チームはまだ AI 脅威モデルの理解と従業員のシャドー AI 監視の初期段階にあり、これらの盲点と新しいテクノロジーは、企業ネットワークへの侵入や機密データへのアクセスを熱望する脅威アクターにとっての扉を開いてしまいます。セキュリティ チームの監視なしに新しい AI ツールを使用する従業員は、会社に新たなデータ侵害のリスクをもたらします。

AIへの過度の依存はセキュリティ業務の監視不足につながる

—CyCognito CEO、ロブ・グルゼエフ

生成 AI はセキュリティにプラスの影響を与えますが、大きなリスクも伴います。AI によってセキュリティ チームが危険なほど油断してしまう可能性があります。 AI に過度に依存すると、組織のセキュリティ運用の監視が不十分になり、攻撃対象領域に簡単にギャップが生じる可能性があります。 AI が十分に賢くなったら、人間の洞察力への依存を減らすことができると想定しないでください。これは実際には危険な道です。

AIは企業の防衛対応速度の向上に役立つ

--サイバーヘイブンのCEO、ハワード・ティン氏

サイバーヘイブンが今年初めに実施した調査データによると、従業員の 4.7% が ChatGPT に機密データを貼り付けており、そのうち 11% が機密データだった。しかし、大規模な言語モデル/生成 AI が成熟するにつれて、状況は最終的に良い方向に変わり、セキュリティ チームはそれを活用して防御を加速できるようになります。

生成AIがセキュリティビッグデータの使いやすさを向上

— ジョン・モレロ、Gutsyの共同創設者兼CTO

生成 AI は、セキュリティ チームが大量のイベント データを効率的に処理するのに役立つ大きな可能性を秘めています。データ レイクと SIEM に対する従来のアプローチは、単にデータを収集するだけで、データの使いやすさの面ではあまり進歩しません。会話型 AI は、データの使いやすさを大幅に向上させることができます。

生成AIが重要インフラへの攻撃のハードルを下げる

--ハネウェル コネクテッド エンタープライズ最高技術責任者、ジェイソン ウルソ氏

重要なインフラストラクチャは常に悪意のある攻撃者の主な標的となっています。これまでの成功した攻撃には、一般的なハッカーの能力を超えた高度な技術が使われていました。しかし、生成 AI によって参入障壁が低くなり、経験の浅いハッカーでもマルウェアを生成し、高度なフィッシング攻撃を仕掛けてシステムにアクセスし、自動侵入テストを実行できるようになります。

重要なインフラストラクチャに対する脅威の状況は、AI による AI の防御へと進化しています。

重要なインフラストラクチャの防御側では、生成 AI がクローズドループの OT 防御アプローチとして使用され、脅威の状況の変化に応じてセキュリティ構成とファイアウォール ルールを動的に変更し、自動侵入テストを実行してリスクの変化を把握します。 ”

人工知能はサイバーセキュリティ専門家の失業を意味しない

—Ivanti 最高製品責任者、スリニバス・ムッカマラ氏

2024 年には、多くの従業員が人工知能が自分のキャリアに与える影響についてより懸念するようになるでしょう。たとえば、最近の調査では、IT 従業員の約 3 分の 2 が、今後 5 年以内に人工知能によって自分の仕事が奪われるのではないかと懸念していることがわかりました。信頼できる AI には人間による監視が必要であるため、ビジネス リーダーは優秀な従業員を維持するために、AI の導入計画について従業員に明確かつ透明に伝える必要があります。

さらに、AI により、より洗練されたソーシャル エンジニアリング攻撃が可能になります。 2024 年までに AI ツールの利用可能性が高まることで、ソーシャル エンジニアリング攻撃の成功率が高まります。企業が従来のフィッシングメールの検出能力を高めるにつれ、ハッカーはフィッシングメッセージの信憑性を高めるための新しい手法に目を向けるようになりました。さらに、AI ツールを使用する悪意のある人物によって作成された誤情報は、組織、政府、そして社会全体にとって真の脅威となります。

生成AIはサイバーセキュリティの仕事の性質を変える

—メリット・ベア、CIO、レースワーク

ロボットはセキュリティ関連の仕事を奪うことはありませんが、サイバーセキュリティ業務の性質を変えるでしょう。多くのセキュリティ専門家はすでに AI を使用して反復的なタスクを自動化し始めていますが、さらに一歩進むことができたらどうなるでしょうか?生成 AI エージェントが自動化の作成を促すだけでなく (「今週 X 回発生した問題/リクエストがあります。自動化しますか?」)、そのアクションを実行するために必要なコード (脆弱性の緩和コードやパッチ コードの作成など) も生成できるとしたらどうでしょうか。 。サイバーセキュリティの仕事の究極の価値は、コンピュータプログラミングのゴッドマザーであるエイダ・ラブレスが予見したものと一致すると私は期待しています。つまり、人間の創造性と革新的な思考は不可欠であり、コンピュータが優れているのは、信頼性の高い処理、大規模なデータセットからのパターンの抽出、数学的な精度でアクションを実行することです。 ”

AIはセキュリティチームが開発に追いつくのを助けます

—パロアルトネットワークスのプリズマクラウド担当シニアバイスプレジデント、アンクル・シャー氏

今日のセキュリティ チームはアプリケーション開発のペースに追いつけず、運用環境で数え切れないほどのセキュリティ リスクが生じています。さらに悪いことに、アプリケーション開発は加速しており、ますます多くの開発者が AI 技術を使用して新しいコードを迅速に記述してリリースしています。近い将来、人工知能によってアプリケーション開発の速度が 10 倍以上向上するでしょう。セキュリティ チームが競争力を維持できるようにするために、エンタープライズ セキュリティは AI に目を向ける必要があります。最後に、AI は主にデータの問題であり、AI をトレーニングするための強力なセキュリティ データがなければ、リスクを防ぐ能力は低下します。

ジェネレーティブAIが多才なセキュリティアナリストを生み出す

—パロアルトネットワークスCortexのCTO、マット・クラニング氏

今日、セキュリティ アナリストは、攻撃者が侵入する方法を理解するだけでなく、複雑な自動化とクエリを設定して大量のデータを効率的に処理する方法も理解する必要がある、万能のユニコーンにならなければなりません。今後は、生成 AI によって、セキュリティ アナリストがデータをより簡単に操作できるようになります。

人工知能はフィッシングメールを検出する上で重要な機能である

- テレサインの CEO、クリストフ・ヴァン・デ・ワイアー氏

詐欺師は、AI生成のディープフェイク音声や文章スタイルを使用して成功率を高めるなど、AI技術を使用して攻撃を拡大しており、2023年にはフィッシングメールの数が過去最高を記録する見込みです。 2024年までに、消費者が詐欺的な電子メールやテキストメッセージを見分けることは困難になり、フィッシングはアカウントを乗っ取ってより重大な窃盗を実行するためによく使用されるため、企業は防御を強化し、アカウントの整合性にさらに注意を払う必要に迫られるでしょう。企業は AI を活用して、不正行為のシグナルを継続的に分析し、ログインやトランザクションのリスク スコアを付けるべきです。サイバーセキュリティ企業は、機械学習の範囲を拡大して不正行為の兆候を学習し、電子メールセキュリティソリューションに高品質の情報を提供する必要があります。

AIは脅威の検出、分類、対応の課題を解決する

— テルストラ パープル、EMEA 責任者、ロブ ロビンソン氏

今日、サイバーセキュリティの専門家は、膨大な数のデータポイントを監視および管理する任務を負っています。クラウドとインテリジェント エッジが普及するにつれて、この傾向は今後さらに強まるでしょう。 AI テクノロジーは、脅威の検出、分類、対応におけるセキュリティ業界の最も困難な問題のいくつかを解決するのに適しています。したがって、2024 年までに、AI によって CISO に求められるスキルが再び変化することになります。

ジェネレーティブAIはセキュリティオペレーションの自動化を全面的に改善する

-- WinWire CTO、Vineet Arora 氏

生成 AI により、サイバーセキュリティの運用管理機能が大幅に強化されます。 AI により、脅威インテリジェンス、セキュリティ強化、侵入テスト、検出エンジニアリングなど、現在は手動で管理されているセキュリティ ワークフローの自動化がさらに進みます。ログ分析、インシデント対応、セキュリティ パッチ適用などの多くの日常的なタスクは、生成 AI によって自動化できるため、セキュリティ アナリストは貴重な時間を節約して、より複雑なサイバー セキュリティの問題に集中できるようになります。同時に、攻撃者は生成 AI を使用して、ソーシャル エンジニアリング攻撃、マルウェアの偽装、高度なフィッシング キャンペーンのための非常に「現実的な」シナリオを作成します。

ジェネレーティブAIがコンプライアンスの効率を大幅に向上

— クラウディオノール・コエーリョ（最高 AI 責任者）とサンジェイ・カルラ（Zscaler の製品管理担当副社長）

生成 AI は 2024 年にコンプライアンスに重大かつ広範囲な影響を及ぼすでしょう。歴史的に、コンプライアンスは、規制の策定、制限の実施、証拠の取得、顧客の質問への回答など、時間のかかる取り組みでした。これは主にテキストとプログラムに焦点を当てており、生成 AI によって自動化のレベルが大幅に向上します。