GenAI時代のサイバー軍拡競争を生き残る方法

GenAIの急速な出現はすでにサイバーセキュリティに大きな変化をもたらし、各国政府に対策を取らせており、ジョー・バイデン米大統領は10月に包括的な大統領令（EO）を発令した。

安全で安心、信頼できる AI の開発と使用に関する大統領令は、この新興技術の安全性を確保する方法についての指針を提供します (以前の命令には欠けていたもの)。また、AI の急速な普及に伴う課題についても概説しています。 CEO たちは国内での AI の使用を安全かつ確実にしようと努めているが、おそらく最優先事項は AI の潜在能力を善のために活用し、悪用されるのを防ぐことに全力を尽くすことだろう。こうなると、次の 5 年間でより多くの利益を得るのは防御側か攻撃側かという疑問が湧いてきます。答えは、まだ明らかではありません。

確かなことは、防御側も攻撃側も、生成 AI の利点を獲得したいと考えているということです。現時点で予測できないのは、どちらかが勝利するかどうかであり、これは双方が時間、エネルギー、費用を投資する必要があるゲームであり、双方が爆発的な成功を収めることになるだろう。

完全な混乱になる必要はありません。企業、セキュリティ専門家、政府機関は、攻撃者に遅れを取らないようにするための対策を今すぐ講じることができます。また、さらなる連携、一貫した法的枠組み、イノベーションのための安全な空間を通じて、攻撃者をリードすることもできます。

AIが脅威アクターとセキュリティチームを強化

攻撃者にとって、AI は、特に大規模な場合、ソーシャル攻撃やなりすまし攻撃に前例のないスピードとパワーをもたらします。 AI がなければ、CFO の電子メールを狙ったフィッシング攻撃は、攻撃者にとって時間のかかるものになります。なぜなら、フィッシング メールでそれを模倣する前に、まず古い電子メールを精査してコミュニケーション スタイルを把握する必要があるからです。 GenAI モデルはすでに優れたライティング能力を実証しており、近いうちにそれが可能になり、より多くの脅威キャンペーンが可能になります。現在、攻撃者は一度に 10 件のフィッシング攻撃や電子メール詐欺攻撃を実行できますが、AI を使用すると、ボタンをクリックするだけで数秒で 1,000 件の攻撃を実行できるようになります。

こうしたタイプの攻撃が成功するのは、攻撃者が一度により多くの潜在的な被害者をターゲットにできるためであり、これは間違いなく AI の攻撃力によって倍増します。 GenAI を悪用すると、攻撃の激しさと結果の深刻さが増すことがわかっています。

もちろん、攻撃者からのこうした集中攻撃は見逃されることはないだろう。業界は、こうしたタイプの攻撃を検出して対応できる AI を活用したテクノロジーで反撃するだろうが、こうした対策の開発には 6 か月かかる可能性があり、その間多くの企業が脆弱な状態に置かれることになる。

軍拡競争はこのように進行しており、例えば、悪意のある AI チャットボットの開発者は、これまで以上に洗練されたツールを開発しており、その 1 つは、ダーク ウェブ全体を大規模な言語モデルの知識ベースとして使用しているという報告もあります。

一方、サイバーセキュリティ業界は要請に応え、AI を活用して前向きな改善を図っています。明らかな例としては、既存のセキュリティ脆弱性の修正が挙げられますが、これは主に手作業で時間のかかるプロセスです。これにリソースの限界が加わり、従来のソリューションは脆弱な状態になっています。自動化された攻撃が増加し続けるにつれて、欠陥を手動で修正することはもはや不可能になります。 AI を使用することで、ソフトウェア開発プロセスをシフトレフトし、最初から脆弱性を排除して、自動修正を優先できるようになりました。

AI は今後数年間でサイバーセキュリティのあらゆる分野でイノベーションを実現し、AI モデルはセキュリティ オペレーション センター (SOC) チームのエントリーレベルのアシスタントとして機能するようになります。開発プロセスに侵入する脆弱性が少なくなれば、脅威を軽減し、脅威から保護することが容易になることが期待されます。

同じ前線：産業界と政府はAI軍拡競争で協力すべき

GenAI は急速に進化しているため、サイバー軍拡競争の結果を予測することは困難です。私たちが知っているのは、コラボレーションが鍵だということです。雇用条例に規定されている規制は重要な一歩ではあるが、すべての問題を解決するわけではない。

テクノロジー企業は AI 製品の発売を続けており、競争において重要なパートナーとしての役割を果たしています。彼らがトラックの角を曲がる間に、顧客から受け取るフィードバックは、イノベーションを促進し、データを保護し、社会的懸念に対処する将来の AI 規制を形作る上で非常に重要になります。官民パートナーシップはさまざまな業界で何十年も利用されてきましたが、AI の必要性も例外ではありません。政府とテクノロジー業界の連携は、AI のイノベーションと安全性が繁栄するための安全な空間を作り出す鍵となります。

サイバー犯罪者や既存企業による AI の無制限な使用から一般市民を保護するために導入されたガードレールを、業界と政府が継続的に評価することが重要です。 COO は、AI システムが安全であり、真に標準化されるためには時間をかけて改良する必要がある厳格な一連の資格に照らしてテストされることを保証する標準を開発することを約束しました。

商務省はまた、AI 生成コンテンツを明確に表示するための透かしとコンテンツ認証のガイドラインも策定する予定であり、Alphabet、Meta、OpenAI などの企業はすでにそのような対策を実施することを約束している。このアプローチは、カラーコピー機やプリンターメーカーが紙幣を偽造できるほど進歩したため、メーカーに印刷ページにデジタル透かしを追加させるという米国シークレットサービスの動きと共鳴する。しかし、悪意のある行為者が悪用するには独特の課題がある。

AI テクノロジーの責任ある開発と導入を確実に行うためには、テクノロジー業界と政府が協力してリスクを軽減し、脅威と戦えるよう、透明性、可視性、理解を基盤として、法制度の枠組みを継続的に進化させる必要があります。

GenAIの実装に積極的に取り組む

サイバーセキュリティの軍拡競争は、AIが主導権を握る新たな段階に突入しています。新しいテクノロジーはどれも諸刃の剣ですが、GenAI のパワーと可能性はそれを特に鋭いものにしています。

猫とネズミのゲームは始まったばかりだ。軍拡競争がどのように展開するかは不透明だが、産業界と政府双方の防衛側が積極的に行動することが極めて重要である。良いニュースは、AI が前例のないペースで画期的な規制を実現していることです。この未知の領域に取り組むにあたって、防御的な AI 戦略を改善するには全力を尽くす必要があります。