今年、AIがサイバーセキュリティに影響を及ぼす可能性がある3つの重要な方法

この記事では、超強力なソーシャル攻撃から AI 搭載 PC まで、AI が今年サイバーセキュリティをどのように変えるのかを探ります。

最近の AI の進歩により、サイバーセキュリティの防御者や悪意のある行為者は新しいツールや能力を手に入れました。サイバー犯罪者はすでに、AI が攻撃を強化し、新世代の急速な脅威で企業を標的にする方法を模索し始めていますが、AI は良いことにも使用できます。セキュリティ チームが AI を使用して脅威の検出を強化し、修復をより効率的に行うことができます。世界中で 400 万人のサイバーセキュリティ専門家が必要とされていると報告されている今、これは絶好のタイミングで実現しています。

今年は、AI とその影響がサイバーセキュリティ分野に浸透し、フィッシング詐欺の手口が改良され、防御の弱点が特定され、攻撃の開発と対応にかかる時間が短縮されると予想されます。サイバーセキュリティ チームも AI を最優先に考え、AI 主導の脅威の新たな波に備え、テクノロジーを有利に活用します。

AI は、次の 3 つの方法でサイバーセキュリティの状況に影響を与えます。

1. AIがソーシャル攻撃を強力にサポート

サイバー犯罪者は、AI を利用して前例のない規模でソーシャル攻撃を強化し、数秒で説得力があり検出が難しいフィッシング詐欺メールを作成します。サイバー犯罪者はソーシャル メディアや侵害されたメールボックスから収集したデータを使用して詐欺メールを自動的にパーソナライズするため、フィッシング トレーニングを受けた後でも従業員が詐欺メールを検出することが困難になり、非常に信憑性が高くなる可能性があります。攻撃者は、AI を使用して少数言語で詐欺メールをさらに作成し、より本物らしく見せることも試みます。

また、重要な日付の前後には、AI を利用した大規模なキャンペーンが急増する可能性もあります。たとえば、2024 年には、史上最多の人が選挙で投票することになります。AI を使用すると、サイバー犯罪者は特定の地域をターゲットにしたローカライズされたルアーを簡単に作成できるようになります。同様に、年末の確定申告などの年間主要イベント、パリ オリンピックやユーロ 2024 などのスポーツ イベント、ブラック フライデーや独身の日などの小売イベントも、サイバー犯罪者がユーザーを誘い込むためのきっかけとなります。

なりすましメールが正規のメールと区別がつかなくなるにつれて、企業は従業員教育だけに頼ることができなくなり、AI を利用したソーシャル攻撃からユーザーを保護するために、ユーザーのための仮想セーフティ ネットを構築する必要があります。マイクロ仮想化では、PC のオペレーティング システムから分離された使い捨ての仮想マシンが作成されるため、ユーザーが誤ってクリックすべきでない項目をクリックしても保護されます。

2. 低コスト経営はチャンスと課題の両方をもたらす

今年はローカル大規模言語モデル (LLM) がパソコンに組み込まれ、「AIPC」によって人々が端末デバイスと対話する方法が完全に変わります。これらの LLM は、インターネットに依存しない AI を活用してユーザーの効率と生産性を向上させ、セキュリティとプライバシーの面でメリットをもたらします。これらのパーソナライズされたアシスタントとチャットボットは、個人データがクラウドに送信され保存されるセキュリティ リスクを軽減します。ただし、これらのローカル モデルが収集するデータがますます増えるにつれて、エンドポイントが脅威アクターの主なターゲットになります。

企業が LLM チャットボットの利便性を高めようとすると、セキュリティ チームは防御すべき別のシステムを持つことになり、これらのチャットボットはこれまで利用できなかったデータへのゲートウェイとして機能することができます。標的を絞ったプロンプトを使用して企業のチャットボットを騙し、制御を乗っ取ることで、脅威アクターは企業の LLM をソーシャルエンジニアリングして機密データを取得することができます。

3. AIは有害なファームウェアやハードウェアへの攻撃に対する障壁を下げる

サイバーセキュリティ技術の進歩により、攻撃者がシステムにアクセスして検出を回避することが難しくなりますが、AI によって強力な技術が多くの人の手に渡るようになると、高度な機能がより利用しやすくなります。これにより、攻撃者は革新を続け、セキュリティ チームが日常的に監視しにくいファームウェア層やハードウェア層を狙った攻撃を継続的に強化することができます。従来、オペレーティング システム (OS) にアクセスするには広範な技術的知識が必要でしたが、AI により、テクノロジー スタックの下位レベルを標的とした攻撃が容易になります。

検出が困難で破壊力の強い高度なサイバー攻撃が増加すると予想されます。攻撃者が AI を利用して脆弱性を見つけ出し、悪用し、オペレーティング システムの下に足掛かりを築くようになるため、サイバー インシデントはより頻繁に発生するようになります。これを防ぐために、組織はハードウェアとファームウェアのセキュリティにさらに投資する必要があります。

サイバーセキュリティの新時代

AI は脅威の状況に大きな影響を与えますが、セキュリティ チームには AI を活用して脅威の検出と対応を強化し、セキュリティ チームの負担を軽減する平等な機会が依然としてあります。 AIアシスタントは、従業員を騙して銀行振込をさせたり機密データを共有させようとする標的型フィッシング詐欺を自動的にスキャンして特定することで、ユーザーの保護にも役立ちます。

2024 年に AI PC が登場すれば、セキュリティ上の大きな利点がもたらされ、ユーザーはデータをクラウドに送信して保存するというセキュリティ上のリスクなしに、デバイス上で AI をより安全に活用できるようになります。また、無人デバイスを自動的にロックしたり、デバイスが監視されているときにプライバシー スクリーンを起動したりするなど、データの機密性を高める新たなレイヤーも実現します。

AI を安全に活用してその利点を生かすには、企業はゼロトラスト原則を採用した統合セキュリティ アプローチを早急に必要としています。信頼できる AI セキュリティ ベンダーと提携することで、顧客は AI のメリットを最大限に活用しながら、新たなセキュリティとプライバシーの脅威から保護されます。