生成AIを使用してフィッシングメール攻撃を防ぐ方法

今年、ChatGPTはインターネット全体で人気を博しました。近年、AI人工知能は大きな進歩を遂げ、あらゆる分野に革命的な変化をもたらしました。しかし、どんなテクノロジーでも、それを悪意ある目的で利用しようとする人が常に存在します。現在、ハッカーは WormGPT と呼ばれる人工知能ツールを使用して、フィッシングや BEC 電子メール攻撃を行っています。このツールはOpenAIのChatGPTをベースにしており、悪意のあるネットワーク攻撃向けに設計されており、企業の電子メールセキュリティに大きな脅威をもたらします。

WormGPT の紹介

近年、AI（人工知能）は大きな進歩を遂げ、生活のあらゆる分野に革命的な変化をもたらしています。しかし、どんなテクノロジーでも、それを悪意ある目的で利用しようとする人が常に存在します。現在、ハッカーは WormGPT と呼ばれる人工知能ツールを使用して、フィッシングや BEC 電子メール攻撃を行っています。このツールはOpenAIのChatGPTをベースにしており、悪意のあるネットワーク攻撃向けに設計されており、企業の電子メールセキュリティに大きな脅威をもたらします。

WormGPT は、人間が作成したものと同様のテキストを生成できる複雑な生成人工知能モデルに基づいています。同時に、電子メールのセキュリティ検出に関する関連データを学習しました。これにより、WormGPT によって作成された電子メールは非常に説得力があるだけでなく、電子メールセキュリティ検出を巧妙に回避し、フィッシングや BEC 電子メール攻撃における悪質な可能性を示しています。

WormGPTを試す

研究チームは最近、サイバー犯罪と頻繁に関連付けられる有名なオンラインフォーラムを通じて WormGPT を入手しました。フォーラムでは、このツールは悪意のある活動のために特別に設計された GPT モデルのハッキング版であると主張しています。

図1. ハッカーフォーラムで提供されているWormGPTツール

ウェブページの紹介によると、WormGPTの開発は2021年に始まり、GPTJ言語モデルに基づいて開発された人工知能モジュールです。悪意のあるコードを作成する機能、無制限の文字サポート、チャットメモリの保持、コードフォーマット機能など、さまざまな機能があります。紹介によると、WormGPT はさまざまなデータソースに基づいてトレーニングされており、特にマルウェアに関連するデータの学習に重点を置いています。ただし、トレーニングプロセスで使用された特定のデータセットは公開されておらず、著者によって機密扱いされています。

図2. WormGPTツールの紹介

研究チームは、WormGPT に関連する潜在的な危険性を完全に評価するために、WormGPT を使用した BEC 攻撃のテストを行いました。ある実験では、チームは WormGPT に、何も知らないアカウントマネージャーに不正な請求書の支払いを迫ることを目的とした電子メールを生成するよう指示しました。結果は不安なものだ。 WormGPT によって生成される電子メールは、非常に説得力があるだけでなく、非常に巧妙な言語を使用しており、フィッシングや BEC 電子メール攻撃の可能性を示しています。

図3. WormGPTがBECメールを作成する

WormGPTの危険性

全体的に、WormGPT には、ほとんどの大規模 AI モデルと同様に、倫理的な境界や制限はありません。この実験は、WormGPT のような生成 AI 技術がフィッシングや BEC の電子メール攻撃に非常に役立つことを示しています。電子メール攻撃を受けたことがなく、外国語をまったく理解していない人でも、いつでも世界中のどの企業や個人に対しても電子メール攻撃を仕掛けることができます。電子メール攻撃に生成 AI を使用すると、次のような利点があります。

非常に欺瞞的な電子メールコンテンツの作成: 生成 AI は、完璧なコンテンツと文法を持つ電子メールを作成できるため、電子メールが正当なものに見え、疑わしいとフラグが立てられる可能性が低くなります。
攻撃の閾値を下げる: 生成 AI を使用すると、高度な BEC 攻撃を実行する閾値が下がります。スキルが限られている攻撃者でもこの技術を使用できるため、広く利用可能なハッキングツールとなっています。

生成AIからのメール攻撃を防ぐ方法

人工知能の発展はさまざまな産業の進歩を促進してきましたが、新たな問題ももたらしています。企業は、生成 AI を使用して電子メールのセキュリティ攻撃を防ぐために、次の予防策を講じることができます。

企業の従業員トレーニング:企業は、BEC 攻撃、特に人工知能によって強化された攻撃に対処するために、関連するトレーニングプランを策定、開発し、定期的に更新し、フィッシングメールの訓練を定期的に実施する必要があります。トレーニングセッションを使用して、フィッシングや BEC メールの脅威、AI を使用してこれらの脅威を強化する方法、攻撃者がよく使用する戦術について従業員を教育します。同時に、従業員のセキュリティ意識をテストするために、フィッシングメールの訓練を定期的に実施する必要があります。
セキュリティ保護デバイスを定期的にチェックする:電子メールセキュリティゲートウェイや電子メールセキュリティサンドボックスなどの電子メールセキュリティ保護デバイスのポリシーが正しく構成され、有効であることを確認し、電子メールセキュリティゲートウェイや電子メールセキュリティサンドボックスの保護ライブラリが最新バージョンにアップグレードされていることを確認します。
送信者の身元を確認する:返信したり機密情報を提供したりする前に、送信者の身元を慎重に確認してください。電子メールアドレスと送信者名が公式の組織または会社の情報と一致していることを確認します。
従業員に疑わしいメールを報告するよう奨励する: 従業員が疑わしいフィッシングメールを受信した場合は、会社が他の従業員を保護するために適切な措置を講じられるよう、直ちに組織または関連機関に報告する必要があります。
緊急事態に注意してください:フィッシングメールは多くの場合、緊急事態を作り出して被害者に急いで行動を取らせようとします。冷静を保ち、脅されたり誘惑されたりしないでください。
個人情報やメール情報の漏洩を防ぐ:公開フォーラム、ソーシャルメディア、信頼できない Web サイトで個人情報やメール情報を公開しないようにしてください。攻撃者はこの情報を利用して、より標的を絞ったフィッシングメールを作成する可能性があります。
データを定期的にバックアップする:電子メールアーカイブ製品を使用して重要なデータを定期的にバックアップし、バックアップを安全な場所に保存します。こうすることで、フィッシングメールの攻撃を受けてデータが破損した場合でも、データを回復することができます。
金融取引を確認する:金融取引に関するメールを受信した場合は、メールで直接返信しないでください。代わりに、銀行の公式ウェブサイト、銀行のカウンター、財務部門の同僚などの安全なチャネルを通じて取引を確認してください。