次世代のサイバー脅威はAIから生まれる

ボストン コンサルティング グループ (BCG) によると、米国と日本のサイバーセキュリティ専門家の 90% 以上が、攻撃者が攻撃に人工知能を使用し始めると予測しています。実際、これはすでに現実になっています。

人工知能はサイバー攻撃者に「核エネルギー」を提供し、攻撃の速度、量、洗練度を新たなレベルに引き上げることを可能にします。専門家によると、AI ベースの攻撃では従来の検出システムを回避する可能性が最大 15% あるのに対し、通常のフィッシング攻撃 (AI なし) ではその可能性はわずか 0.3% です。

AIがもたらすセキュリティリスク

この増大する脅威に対応して、AI ベースの攻撃には AI ベースの防御が必要であると多くの人が主張しています。たとえば、ディープフェイクは ID セキュリティ認証システムを欺くことができるため、より高度な AI を活用した ID 検証を導入する必要があります。

現在、人工知能から生じるリスクがあります。企業はこれらの攻撃からシステムを保護するために迅速に行動する必要があります。 WannaCry はすでにサイバー攻撃にまったく新しいレベルの洗練をもたらしていますが、そこに人工知能が加わったらどうなるでしょうか?

DeepFakes は、かつて世界中で人気を博した AI 顔変更ツールです。このソフトウェアを使用すると、専門的で複雑な AI 顔変更プロセスを簡素化し、他の人のアバターを自分のアバターにすばやく変換し、非常に高速な顔変更を実現できます。

AIがサイバー攻撃を実行する仕組み

スケーラビリティ

2016年のブラックハットカンファレンスで、上級研究者らが初めて自動化されたスピアフィッシングプログラムを実演しました。スピアフィッシングは、一般の個人ではなく、特定の企業や組織のメンバーをターゲットにしています。盗まれる情報は、一般的なフィッシングで盗まれる個人情報ではなく、知的財産や企業秘密などの機密性の高い情報です。研究者らは、データサイエンスと機械学習を使用してスピアフィッシング攻撃を自動化し、規模を拡大する方法を実証しました。

ブラック ハット カンファレンスは 1997 年に設立され、世界の情報セキュリティ業界における最高峰のイベントであり、最も技術的な情報セキュリティ カンファレンスとして認められています。この会議はセキュリティに関する考え方とテクノロジーをリードしており、参加者には企業や政府の研究者、さらには民間チームも含まれています。会議が現実に焦点を当て、解決策、問題解決方法、運用スキルを可能な限り迅速かつ最善に提案できるように、会議環境は中立的かつ客観的に保たれます。

なりすまし

数か月前、ロンドン大学ユニバーシティ・カレッジのドーズ未来犯罪センターの専門家は、ディープフェイクを最も深刻なAI犯罪の脅威として挙げた。その理由は理解しにくいことではありません。ディープフェイクは偽情報や欺瞞のツールです。さらに、悪意のある人物がそれを利用して、信頼している人物になりすまし、金融詐欺を働く可能性もあります。最悪なのは、見つけるのが難しいことです。また、偽造や改ざんから保護できない場合、視聴覚証拠に対する不信感も生じます。

検出漏れ

AI が検出を回避する方法の 1 つは、「データ ポイズニング」です。スパムを安全としてフラグ付けするなど、インテリジェントな脅威検出システムのトレーニングと構成に使用されるデータを特定して侵害することで、攻撃者はよりステルス的かつ危険な攻撃を実行できます。研究によると、データセットのわずか 3% を汚染するだけで、検出システムが誤検出する可能性が 91% 増加する可能性があります。人工知能は防御機構に素早く適応し、それを突破することができます。

オートメーション

これは、AI がセキュリティ攻撃を強化できる方法のほんの一部にすぎません。 AI 攻撃は、自動化と機械学習に基づく場合、さらに深刻になります。自動化により人間の努力の限界が押し上げられ、機械学習により攻撃アルゴリズムが経験に基づいて継続的に改善され、攻撃が成功するかどうかに関係なく効率が向上します。つまり、より強力な対策が開発されない限り、AI ベースの攻撃はより強力で危険なものになるだけです。

AIがAIを防御する

機械学習ベースの脅威検出

AI で AI を防御するプロセスにおいて、機械学習は脅威、特に従来のウイルス対策システムやファイアウォール システムでは防御できない新たな脅威を自動的に検出する役割を果たします。機械学習により、誤検知を 50% ～ 90% 大幅に削減できます。前世代のシグネチャベースの検出ツールとは異なり、機械学習は組織内のメンバーのネットワーク使用パターンを監視および記録し、異常な動作が検出されると管理者に警告することができます。

現在、SOC (System on Chip) の 93% が脅威の検出に人工知能と機械学習ツールを使用しています。生成されるデータが増え、サイバー攻撃がより巧妙になるにつれて、セキュリティ専門家は、教師ありおよび教師なしの機械学習を通じて防御および検出機能を強化する必要があります。

強化された認証

弱い認証は、侵入者が不正アクセスを行う最も一般的な方法です。そして、ディープフェイクで見られるように、生体認証でさえももはや完璧ではありません。 AI は、本人確認にさらに多くの条件を追加することで防御の有効性を向上させます (現在、多くの顔認証タスクでは、瞬きや口を開けることなどが必要になっています)。

同時に、本人確認もリアルタイム情報に拡張されます。適応型インテリジェンスとも呼ばれ、位置情報、IP アドレス、デバイス情報、データの機密性などの詳細を評価してリスク スコアを計算し、アクセスを許可または制限します。

たとえば、平日の朝はいつもコンピューターからログインしているのに、週末にレストランでモバイル デバイスからログインしようとしたことがある人は、危険信号とみなされ、システムによってフラグが立てられる可能性があります。

スマート セキュリティ モデルでは、攻撃者がシステムのパスワードを知っているだけでは十分ではありません。

さらに、AI 駆動型の認証システムにより、継続的な認証が可能になり、継続的な動作分析が実行されるようになります。システムはログイン時に一度だけ表示されるのではなく、バックグラウンドで継続的に動作し、ユーザーの環境と動作を分析して疑わしいパターンを特定することでユーザーを認証します。

フィッシングからの保護

強化された脅威検出は、AI を使用して電子メールのフィッシング攻撃を防ぎ、危険なリンクをブロックする方法の 1 つです。簡単なコンテンツ分析によっても実現できます。

たとえば、CEO から送信されたとされるメールを受け取ったとします。AI はメールを分析して、実際の CEO の通常のコミュニケーション方法との矛盾点（書き方、文法、単語の選択など）を特定できます。罠に陥るのを防ぎ、コンテンツを安全に閲覧およびダウンロードします。

AI は、電子メール アドレスが正常であるように見えても、電子メールのメタデータをスキャンして、変更された署名を検出することもできます。リンクや画像をスキャンして信頼性を検証することもできます。

予測分析

サイバーセキュリティにおける AI の最大の利点は、攻撃が発生する前に予測して防御を構築できることです。 AI は、管理者が組織のネットワーク インフラストラクチャ全体の包括的な概要を維持し、潜在的な脆弱性を分析して検出するのに役立ちます。 IT 部門ではリアルタイムのセキュリティ確保がますます困難になってきていますが、AI によってその仕事が楽になります。

人工知能はゼロデイ脆弱性に対抗するための最善の選択肢であり、悪意のある攻撃者がこれらの脆弱性を悪用する前に、インテリジェントな防御を迅速に構築することができます。人工知能によるサイバーセキュリティは、人間のシステムの抗体と同様に、いつでも異物を攻撃する準備ができている、企業機関や組織のデジタル免疫システムになりつつあります。

槍と盾の戦い

昨年、オーストラリアの研究者らは、一般的なデータセット汚染手法を使用せずに、有名なサイランス AI ウイルス対策ソフトウェアを回避しました。彼らは単にウイルス対策ソフトウェアの仕組みを研究し、普遍的なバイパスソリューションを作成しただけです。この演習により、サイバーセキュリティにおける AI の有効性について疑問が提起されました。

しかし、さらに重要なのは、この研究が、AI が万能薬ではなく、より高度なサイバー脅威に対処するために人間が AI の能力を継続的に向上させる必要があるという事実を浮き彫りにしていることです。重要なのは、AI を AI に対する最善の攻撃手段および防御手段として使用する必要があるということです。