AIの有効性はサイバーセキュリティでは限られているが、サイバー犯罪では無限である

AI は大きな可能性を秘めているにもかかわらず、サイバーセキュリティにおける AI の応用は非常に限られています。 AI セキュリティ ソリューションには信頼性の問題があります。AI を活用したセキュリティ製品の開発に使用されるデータ モデルは、長い間リスクにさらされているようです。さらに、実装されると、AI は人間の知性と衝突することがよくあります。

AI は両刃の剣のような性質を持つ複雑なツールであり、企業は AI をより深く理解し、より慎重に使用する必要があります。対照的に、脅威の主体は事実上無制限に AI を悪用しています。

信頼の欠如

サイバーセキュリティにおける AI 主導のソリューションの導入における最大の課題の 1 つは、信頼の構築です。多くの企業は、セキュリティ企業の AI 製品に懐疑的です。これらの AI セキュリティ ソリューションのいくつかは、過大評価され、期待に応えられなかったため、これは当然のことです。 AI 強化型として宣伝されている製品の多くは期待に応えられていません。

これらの製品の最も広く知られている利点の 1 つは、セキュリティ タスクが大幅に簡素化され、セキュリティ担当者以外の人でもアクセスできるようになることです。これは、サイバー セキュリティの人材不足に悩む組織にとっては特に残念な主張であることが多いです。 AI はサイバーセキュリティ人材不足の解決策の 1 つであるはずですが、過大な約束や過小な約束をする企業は問題解決に貢献していません。実際、AI 関連の主張の信頼性を損なっています。

知識のないユーザーにとってもツールやシステムをより使いやすくすることは、サイバーセキュリティの主な目標の 1 つです。残念ながら、脅威の進化や、内部者による攻撃などセキュリティ体制を弱めるさまざまな要因を考えると、これを実現するのは困難です。ほぼすべての AI システムでは、依然として人間の指示が必要です。AI には人間の決定を覆す能力はありません。たとえば、AI 支援の SIEM は、セキュリティ担当者が評価できるように異常を正確に指摘できます。ただし、内部の脅威アクターがシステムによって発見されたセキュリティ問題の適切な処理を妨害する可能性があり、この場合 AI の使用は事実上無駄になります。

ただし、一部のサイバーセキュリティ ソフトウェア ベンダーは、AI の利点を最大限に活用するためのツールを提供しています。たとえば、AI を統合した拡張検出および対応 (XDR) システムは、複雑な攻撃シーケンスを検出して対応した実績があります。 XDR は、ML を活用してセキュリティ運用を強化し、時間の経過とともにより効率的な検出および対応プロセスを確保することで、AI セキュリティ製品に対する懐疑心を軽減するのに役立つ大きなメリットを提供します。

データモデルとセキュリティの制限

AI を利用した脅威に対抗する有効性に影響を与えるもう 1 つの問題は、一部の企業が限られたデータや代表的でないデータに重点​​を置く傾向があることです。理想的には、現場で何が起こっているか、企業が直面する具体的な状況を説明する現実世界のデータを AI システムに入力する必要がありますが、これは大規模な取り組みです。あらゆる可能性のある脅威や攻撃シナリオを表すために世界中からデータを収集するコストは非常に高いため、大企業でさえそれを可能な限り回避しようとします。

競争の激しい市場で競争するセキュリティ ソリューション ベンダーも、できる限り早く製品をリリースしようと努め、あらゆる機能を提供しますが、データ セキュリティについてはほとんど考慮していないかまったく考慮していないため、データが改ざんされたり破損したりする可能性があります。

幸いなことに、これらの問題に対処するための費用対効果の高い無料のリソースが多数あり、企業は無料の脅威インテリジェンス ソースや、MITRE、ATT、CK などの評判の高いサイバー セキュリティ フレームワークを利用できます。さらに、AI はユーザーやエンティティの行動についてトレーニングして、特定の企業の行動や活動を反映させることができます。これにより、システムは、侵害の兆候やファイルの良い特性と悪い特性などの一般的な脅威インテリジェンス データを超えて、企業固有の詳細を確認できるようになります。

セキュリティに関しては、データ侵害の試みを効果的に阻止できるソリューションは数多くありますが、これらのツールだけでは十分ではありません。AI が脅威を適切に識別してブロックするのを妨げるように設計されたデータ攻撃を総合的に阻止するために、適切な規制、標準、および社内ポリシーを導入することも重要です。政府が主導する進行中の AI 規制交渉と MITRE が提案する AI 安全規制フレームワークは、正しい方向への一歩です。

人間の知恵は最高だ

AI が人間の意思決定を回避できる時代は、まだ数十年、あるいは数世紀先のことです。これは一般的には良いことですが、悪い面もあります。人間は AI の判断や決定を軽視することがあります。これは良いことですが、ソーシャル アタックなど人間を狙った脅威が依然として有効であることも意味します。たとえば、AI セキュリティ システムはリスクを検出した後、電子メールや Web ページ内のリンクを自動的に編集する場合がありますが、人間のユーザーはこのメカニズムを無視したり無効にしたりすることもできます。

つまり、人間の知能に全面的に頼っていることが、AI 支援のサイバー攻撃に対抗する AI テクノロジーの能力を妨げているのです。脅威アクターが新しいマルウェアの生成と攻撃の拡散を無差別に自動化する一方で、既存の AI セキュリティ ソリューションは人間の意思決定に屈するように設計されており、特に AI の「ブラック ボックス問題」の文脈では、完全に自動化されたアクションを阻止します。

現時点では、完全に独立して機能する AI サイバーセキュリティ システムを実現することが目標ではありません。人間の知能が優位になることで生じる脆弱性は、サイバーセキュリティ教育を通じて対処できます。企業は、従業員がセキュリティのベスト プラクティスを使用し、脅威の検出とインシデントの評価をより熟達できるように、定期的にサイバーセキュリティ トレーニングを実施できます。

少なくとも今のところは、人間の知恵に従うのは正しいことであり、必要なことだ。それでも、これがサイバー犯罪者に悪用される抜け穴にならないようにすることが重要です。

物事を構築し保護することは、破壊することよりも困難です。 AI を使用してサイバー脅威に対抗することは、信頼を構築する必要性、ML トレーニングにデータを使用する際に必要な注意、人間による意思決定の重要性など、さまざまな要因により、常に困難を伴います。サイバー犯罪者はこれらの考慮事項をすべて無視することが容易なので、時には彼らが優位に立っているように見えることがあります。

それでも、この問題に解決策がないわけではありません。信頼は、標準と規制の助けを借りて、またセキュリティ プロバイダーがクレームの実績を示すための慎重な努力によって構築できます。データ モデルは、高度なデータ セキュリティ ソリューションを使用して保護できます。一方、人間の意思決定への継続的な依存は、適切なサイバー セキュリティの教育とトレーニングによって解決できます。

悪循環は今も続いていますが、逆のことも当てはまるため、希望を見出すことができます。AI の脅威が進化し続けると、AI のサイバー防御も進化します。