2020年のサイバーセキュリティの転換点: 人工知能

先日終了したRSAC2020カンファレンスのテーマは「ヒューマンファクター」でした。業界では、この重要なリンクの脆弱性をいかに強化し、軽減するかについて広く議論されましたが、多くの人が「ヒューマンエレメント」の背後にある隠された意味を見落としていました。排除できるすべての「ヒューマンファクター」を排除することが、ネットワークセキュリティの将来における最大のビジネスチャンスです。

[[317584]]

MarketsandMarketsのAIサイバーセキュリティ予測レポートによると、AIサイバーセキュリティ市場規模は2019年の88億米ドルから2026年までに382億米ドルに拡大し、年間複合成長率は23.3%になると予想されています（下図参照）。

市場成長の主な原動力は、モノのインターネットの普及や接続デバイスの増加、ネットワーク脅威の事例の増加、ビッグデータのプライバシー問題に対する懸念の高まりなどにより、新たな攻撃対象領域や攻撃ベクトルが従来のセキュリティ防御システムの認識範囲、処理能力、応答速度を超えることが多いことです。

さらに、今回のWeChat 2号で紹介したように、WiFiネットワークを介して実行できる「スマートフォン超音波攻撃」や、Security Cowが以前報じた「トロイの木馬ウイルスEmotetは「空気感染」する可能性があり、近くのWiFiネットワークに感染する」など、新たな脅威によってWiFiネットワークの脆弱性がますます露呈しています。

一方、サイバーセキュリティ市場における AI の潜在的な機会としては、中小企業におけるクラウドベースのセキュリティ ソリューションの需要の高まりや、ビジネス機能におけるソーシャル メディアの利用の増加などが挙げられます。 Weimob データベース削除事件は、すべての企業の CISO にとって打撃となりました。

人工知能はホラー映画を作ることはできないが、人間ならできる。重要人物であればあるほど、興行収入10億ドルを超える大ヒット映画を作るのは簡単だ。人工知能の最大の利点は、親戚や友人に無関心であることです。サイバー犯罪者が繰り返し使用するソーシャルエンジニアリング攻撃に直面して、人工知能従業員（コールセンタープログラムや、半分人間で半分AIのハイブリッドサイボーグ従業員など）は、どのように騙されるのか全く分かりません。

攻撃的なAI技術のホットスポット

上記のすべてが誇張されセンセーショナルだと思うなら、私たちの敵であるサイバー犯罪者が人工知能技術を使って既存のセキュリティ防御システムの「次元を縮小」する方法を見てみましょう。

• AI/ML データの汚染と破損

攻撃者は、意思決定や運用を妨害するために、ビジネス アプリケーション内の AI/ML トレーニング データを汚染 (敵対的なデータ サンプルなど) しようとします。セキュリティ業界は、このような新しい攻撃事例に細心の注意を払う必要があります。 AI 自動化サプライチェーンに依存している企業がこのような攻撃を受けたらどうなるか想像してみてください。汚染されたデータによって、深刻な製品不足や過剰供給が発生する可能性が非常に高くなります。

Splunk のセキュリティ市場担当上級副社長兼ゼネラルマネージャーである Haiyan Song 氏は次のように述べています。

機械学習アルゴリズムの学習プロセスを誤らせることを目的として、もっともらしいデータサンプルでアルゴリズムを汚染する攻撃が発生すると予想されます。これは、インテリジェント テクノロジーを騙すだけではなく、学習アルゴリズムが正しく動作しているように見えながら、誤った結果を生成するように見せかけることです。

• 偽の音声技術がビジネスメール詐欺を新たなレベルに引き上げる

ビジネスメール詐欺 (BEC) は、攻撃者が CEO やその他の上級管理職になりすまし、取引の完了やビジネス契約の履行を装って会社の銀行口座保有者を騙し、誤った資金送金を行わせる場合に発生します。 BEC は毎年、企業に数十億ドルの損失をもたらしています。今日、AI テクノロジーの助けにより、偽の電話音声を利用した BEC 攻撃は新たなレベルに達しています。 2019 年には、偽の音声を使用して企業の CEO からの電話を偽装する最初の攻撃の波が発生しました。あるケースでは、英国のエネルギー会社の従業員が騙されて、攻撃者の銀行口座に24万ドルを振り込んだ。専門家は、2020年にはAI技術を使って偽造されたCEOの偽音声を使ったBEC攻撃が増加すると考えています。

Illumio の創設者兼 CTO である PJ Kirner 氏は次のように述べています。

企業が従業員にフィッシングメールの見分け方を指導したとしても、偽の音声は非常に信憑性があり、効果的な検出方法がないため、フィッシング音声に対する備えができていない従業員が多すぎます。そして、こうしたタイプの「音声フィッシング」攻撃が知られるようになると、来年は上級管理職の音声を使って攻撃を仕掛ける悪質なハッカーがさらに増えるだろう。

• 人工知能マルウェアがサンドボックスを回避

ディープフェイクの音声や動画は、悪者が AI を使用して攻撃を実行する方法の 1 つにすぎません。セキュリティ研究者は、AI を活用したマルウェア回避技術に常に注意する必要があります。一部のセキュリティ専門家は、2020 年はマルウェアが AI モデルを使用してサンドボックスを回避する年になる可能性があると考えています。

人工知能技術を搭載したマルウェアは、ステルス性と標的性を向上させ、主流の検出技術を回避することができます。たとえば、IBM の AI マルウェア概念実証ツールである DeepLo​​cker は、公開されているデータを使用してサイバーセキュリティ ツールから自身を隠し、意図したターゲットに到達するまで休眠状態を保つことができます。顔認識または音声認識によってターゲットが検出されると、悪意のあるペイロードが実行されます。

Blue Hexagon の CTO である Saumitra Das 氏は次のように予測しています。

マルウェア作成者は、サンプルがサンドボックス内にあるかどうかを「機能」や「プロセス」が示しているかどうかを判断するためにルールを使用するのではなく、代わりに AI を使用してその判断を行うようになります。これにより、サンドボックス内で実行されているかどうかを判断するために自身の環境をより正確に分析できるマルウェアが効果的に作成され、サンドボックス回避の有効性が高まります。

• 生体認証の猫とネズミのゲーム

金融サービス業界は、顧客の身元確認にAIと生体認証が使用されるようになり、詐欺との戦いでいたちごっこに直面することになりそうだ。金融機関は、顔認識と AI を使用して、携帯電話のカメラや身分証明書によって生成されたオンライン ID をスキャン、分析、確認する、本人確認メカニズムを急速に繰り返しています。しかし、悪意のある人物が AI を使ってディープフェイク ID を作成し、生体認証システムを騙すこともできるため、警戒を怠らない必要があります。

Jumioの社長、ロバート・プリッジ氏は次のように述べた。

2020 年には、生体認証ソリューションがより広く採用されるようになるにつれて、ディープフェイクの武器化が増加し、悪意のあるハッカーによって悪用されるようになるでしょう。

• 分析データ保護の分野では差分プライバシーが注目を集めている

ビッグデータ、AI、厳格なプライバシー規制の組み合わせは企業にとって頭痛の種となっており、セキュリティとプライバシーの専門家は、今日の多くの AI アプリケーションが依存している顧客分析データから機密情報を保護するための、より優れたプライバシー保護方法の開発を余儀なくされています。良いニュースは、他の形式の AI でも同じことができるということです。

Avast の人工知能部門責任者である Rajarshi Gupta 氏は次のように語っています。

2020 年には、個人情報を隠しながらデータセット内のパターンの説明を共有する差分プライバシー システムなど、AI アルゴリズムの実際のアプリケーションが登場するでしょう。

グプタ氏は、差分プライバシーにより、企業は顧客や他の個人の個人情報を公開することなく、現在と同様にビッグデータの洞察から利益を得ることができると考えています。

• AIの倫理と公平性に関する痛い教訓

AI の倫理、公平性、影響に関する厳しい教訓がこれから待ち受けています。これらの問題は、セキュリティ担当者が真剣に検討する価値があります。 AI に依存して機能するシステムの整合性と可用性を保護する必要があります。

ブーズ・アレン・ハミルトンのサイバーセキュリティ戦略責任者であり、RSAカンファレンス諮問委員会のメンバーでもあるトッド・インスキープ氏は、次のように述べています。

サイバーセキュリティにおける AI の活用は、今後 1 年間で私たちに多くの新たな教訓を与えてくれるでしょう。 Apple Cardが男性と女性に異なるクレジット限度額を設定した最近の事例は、私たちがAIアルゴリズムの仕組みを本当に理解していないという事実を浮き彫りにしています。 AI が口先だけの対応をしたり、怠けたりしているケースもいくつかあるでしょう。

• 防御AIセキュリティ技術のホットスポット

キャップジェミニ・リサーチ・インスティテュートが850人の企業幹部を対象に実施した調査によると、2019年には5社に1社がAIサイバーセキュリティ技術を使用しており、3分の2もの企業が2020年に脅威の発見、予測、対応に人工知能技術を全面的に適用する予定であると回答した。現在、70% を超える組織が、不正行為や侵入検知からリスク スコアリングやユーザー/マシン行動分析 (UEBA) に至るまで、AI サイバーセキュリティのユース ケースをテストしています。各分野における需要熱の分布は以下のとおりです。

キャップジェミニの調査結果は、この記事の冒頭で引用した予測データと一致しており、AIサイバーセキュリティ市場の価値は2019年に88億米ドルに達し、2026年には380億米ドルを超えると予想されています。ビジネス界とサイバーセキュリティ業界の両方が人工知能の価値を信じていることは明らかです。

当初、セキュリティ防御の分野における人工知能の応用は、比較的単純なシナリオ（電子メールのスパムフィルターなど）でした。2020年からは、フィッシングやマルウェアから電子メールセキュリティ、詐欺対策、行動分析、APT防御まで、サイバーセキュリティチームのあらゆる機能と部門に人工知能技術が拡張される予定です。

人工知能技術の鍵はデータであり、企業が「穴を掘って水を貯める」のが早ければ早いほど、人工知能防御システムに蓄積される利用可能なデータが増え、セキュリティ防御能力が強化されることを意味します。

たとえば、フィッシング メールには大量のデータが残されます。機械学習アルゴリズムは、このデータを収集して分析し、既知の悪意のあるマーカーをチェックすることで、潜在的に有害な電子メールのリスクを計算できます。

分析レベルは、メールの添付ファイルや本文の URL のスキャンにまで拡張でき、コンピューター ビジョンを使用した機械学習の助けを借りて、正規の Web サイトになりすましたフィッシング Web サイトを検出することもできます。

同様の機械学習モデルは、マルウェアなどの他の一般的な脅威にも適用できます。マルウェアは時間の経過とともに成長し、進化し、組織が発見する前に大きな損害を引き起こすことがよくあります。

AI を活用したサイバーセキュリティ防御は、過去の同様の攻撃のデータと経験を活用して脅威の拡大を予測し、防止することで、このような脅威に迅速に対応できます。この技術が発展し続けるにつれて、ネットワーク セキュリティ防御におけるその人気は高まり続けるでしょう。

レポートによると、AI セキュリティ技術は次の分野で最大の可能性を秘めています。

不正行為検出、ユーザー/マシンの行動分析、リスクスコアリング、侵入検知、マルウェア検出は、現段階では人工知能セキュリティ技術の商業化の可能性が比較的高いアプリケーションです (収益性が高く、複雑さが低い)。

最後に、人工知能の最大の利点はそのスピードであるということを覚えておく必要があります。機械学習アルゴリズムは、高度なパターン認識技術を迅速に適用して攻撃を検出し、阻止し、人間よりも速く展開して対応することができます。