サイバーセキュリティを変える、最もホットなハッカーツール：武器化された人工知能FraudGPT

FraudGPT の「成功」は、生成 AI の武器化とハッキング技術の民主化という危険な時代の到来を告げています。

FraudGPT は、Telegram で話題になっている新しいサブスクリプションベースの生成 AI ハッキング ツールで、サブスクリプション料金は月額 200 ドルまたは年額 1,700 ドルです。 2023年7月にNetenrichのセキュリティ研究者によって発見されたとき、FraudGPTにはすでに3,000人以上の加入者がいました。研究者らは、FraudGPT はオープンソースの大規模言語モデルに基づいて開発され、モデル内の倫理的およびセキュリティ上の制限がいくつか削除されたと推測しています。

FraudGPT は、生成型人工知能ツールを使用して、悪意のあるコードの作成、検出されないマルウェアの作成、説得力のあるフィッシング メールの作成など、従来の複雑なハッキング手法を初心者でも簡単に使用できる自動化サービスに変換するため、急速に人気が高まっています。

兵器化されたAIプログラムがダークウェブで最も売れているハッキングツールに

CrowdStrike、IBM Security、Ivanti、Palo Alto Networks、Zscalerなどの主要なサイバーセキュリティベンダーは、2022年11月下旬のChatGPTのリリース前から、国家が支援するサイバーハッキンググループを含む攻撃者が生成AIを武器化し始めていると警告した。

クラウドストライクの主任科学者兼上級副社長であるスヴェン・クラッサー氏は、攻撃者が大規模言語モデルや生成型人工知能の兵器化を加速させており、そのようなプログラムがダークウェブ上で最も売れているハッキングツールになっていると指摘した。サイバー犯罪者はフィッシングやマルウェアに大規模言語モデル技術を採用しているが、「これによって敵が実行できる攻撃の速度と量は増加するが、攻撃の質が大幅に変わるわけではない」という。

クラッサー氏は、現在の生成AIは攻撃技術を大幅に向上させるものではないが、平均レベルを引き上げ、スキルの低い敵でも効果的な攻撃を仕掛けられるようになると述べた。

FraudGPT が危険な時代を告げる

FraudGPT は、カスタム ハッキング ガイド、脆弱性マイニング、ゼロデイ エクスプロイトなどの実績のある攻撃ツールを活用した、サイバー攻撃者向けのスターター キットとして位置付けられています。 FraudGPT が提供するツールはどれも高度なハッキング知識を必要としません。 FraudGPT は、初心者の攻撃者が備えていなければならない次のようなスパイ活動技術のベースライン レベルも加入者に提供します。

• フィッシングメールやソーシャルエンジニアリングコンテンツの作成
• エクスプロイト、マルウェア、ハッキングツールを作成する
• 脆弱性、漏洩した認証情報、クレジットカード情報を保存しているウェブサイトを発見する
• ハッキング技術やサイバー犯罪に関するアドバイスの提供

FraudGPT は、民主化され武器化された生成 AI ツールの危険な時代の始まりを示しています。 FraudGPT の現在のバージョンは、北朝鮮軍のエリート偵察総局の第 121 サイバー戦部隊などの国家ハッカー組織の高度な諜報技術に匹敵することはできませんが、初級レベルの攻撃者を迅速に改善する能力は誰の目にも明らかです。

FraudGPT はサブスクリプション モデルのおかげで、わずか数か月で、北朝鮮の 121 部隊など、最先端の国家サイバー戦争部隊のユーザー数を上回りました。ニューヨーク タイムズによると、121 部隊には、ハッカーだけで約 1,700 人が所属しています。

FraudGPT は、現在のところ、より大規模で洗練された国家レベルのハッキング部隊のような差し迫った脅威をもたらしてはいませんが、それが助長する初心者による攻撃の試みの数は飛躍的に増加しており、教育、医療、製造などの「最も弱い」標的から始まるケースが多くなっています。

武器化されたAIがサイバーセキュリティを変える5つの方法

生成 AI ベースのサイバー攻撃ツールは、サイバーセキュリティ ベンダーとその企業顧客が AI 軍拡競争で競争力を維持するための取り組みを加速させる原動力となっています。 FraudGPTの急激な台頭により、サイバー攻撃者の数が急増しており、真っ先に狙われるのが「アイデンティティ」です。

生成 AI は、アイデンティティベースのセキュリティ アプローチに真の脅威をもたらします。前者は、ディープフェイクを使用して CEO になりすまし、ソーシャル エンジニアリング攻撃を組織して特権アクセス資格情報を取得するのに効果的であることが証明されています。 FraudGPT は、5 つの方法でサイバーセキュリティの状況に混乱をもたらし、武器化された AI の将来を描き出しています。

自動化されたソーシャルエンジニアリングとフィッシング攻撃

FraudGPT は、被害者を欺き、その ID や企業ネットワーク アクセスを盗むことができる「高品質」で説得力のあるソーシャル エンジニアリングおよびフィッシング スクリプト (またはシナリオ) を生成する生成 AI の能力を実証します。たとえば、攻撃者は ChatGPT に、ソーシャル エンジニアリングやフィッシング戦略が成功する仕組みについての SF ストーリーを書くように依頼し、大規模な言語モデルを騙して攻撃ガイダンスを提供させます。

VentureBeatによると、サイバー犯罪組織や国家レベルのハッカーグループは、ChatGPTやその他の大規模言語モデルを外国語（英語以外）でクエリすることが多く、モデルが潜在的な攻撃シナリオのコンテキストを英語のクエリほど効果的に拒否できないとのこと。ダークウェブにはプロンプトエンジニアリングを専門とするグループもあり、大規模な言語モデルのガードレールを回避してソーシャルエンジニアリング攻撃やサポートメールを生成する方法を攻撃者に教えています。

脆弱性を発見し、マルウェアを生成する

FraudGPT は、特定の被害者のネットワーク エンドポイントやより広範な IT 環境に合わせて悪意のあるスクリプトやコードを生成できることがわかっています。初心者の攻撃者も FraudGPT を使用して最新の脅威手法を素早く学習し、攻撃シナリオを学習して展開することができます。つまり、企業はネットワークの衛生状態とエンドポイントのセキュリティを確保するために努力を倍加させる必要があるということです。

AI によって生成されたマルウェアは、この新しい脅威を識別してブロックするように設計されていないほとんどの従来のサイバーセキュリティ システムを回避できます。最新の CrowdStrike Threat Index によると、マルウェアを使用しない攻撃は検出された攻撃全体の 71% を占めており、生成 AI が広く採用される前から攻撃手法がますます高度化していたことが示されています。サイバーセキュリティ業界全体から最近リリースされた新製品からも、マルウェア対策がサイバーセキュリティ業界の最優先事項であることが分かります。Amazon Web Services、Bitdefender、Cisco、CrowdStrike、Google、IBM、Ivanti、Microsoft、Palo Alto Networks などの企業は、マルウェア攻撃パターンを識別し、誤検知を減らすために、AI ベースのセキュリティ プラットフォーム拡張機能をリリースしています。

サイバー犯罪リソースの自動検出

手動による調査と比較して、生成 AI により、脆弱性の発見、侵害された認証情報の収集、新しいハッキング ツールの学習、複雑なサイバー犯罪のスキルの習得に必要な時間が大幅に短縮されます。あらゆるスキルレベルの攻撃者は、AI ツールを使用して保護されていないエンドポイントを発見し、保護されていない脅威の表面を攻撃し、AI ツールの推奨に基づいて効果的なサイバー攻撃を開始します。

アイデンティティ以外にも、エンドポイントはより多くの攻撃の脅威に直面しています。一部の CISO は、特に IoT センサーに依存するハイブリッド IT と運用技術 (OT) 環境において、自己修復エンドポイントを統合戦略とネットワークの復元力向上機能の中心に据えることを選択しています。自己修復エンドポイント テクノロジー製品を提供していると主張するベンダーには、Absolute Software、Cisco、CrowdStrike、Cyber​​eason、ESET、Ivanti、Malwarebytes、Microsoft、Sophos、Trend Micro などがあります。

AIによる防御回避は始まりに過ぎない

武器化された生成 AI はまだ初期段階にあり、FraudGPT はまだ始まったばかりです。しかし、より高度で致命的なツールが登場することを疑う人はいない。近い将来、攻撃者は生成 AI 技術を広範に活用してエンドポイント検出および応答システムを回避し、静的シグネチャ検出を回避できるマルウェアの亜種を開発するでしょう。 (防御側は、クラウドからのリアルタイムのテレメトリ データに基づいて異常な動作を識別し、すべてのエンドポイントを監視することが重要になります)。

サイバーセキュリティ ベンダーは、エンドポイントの攻撃対象領域を保護するために、エンドポイントと ID の統合を優先する必要があります。さらに、AI を使用して ID とエンドポイントを保護することも重要です。多くの CISO は、攻撃主導の戦略とテクノロジーの統合を組み合わせて、テクノロジー スタック全体の効率を高めながら、すべての脅威の表面をよりリアルタイムで統合的に把握できるように取り組んでいます。 CISO の 96% がセキュリティ プラットフォームの統合を計画しており、63% が XDR (Extended Detection and Response) がソリューションとして最優先の選択肢であると述べています。

検出と帰属はより困難

FraudGPT と将来の武器化された生成 AI ツールにより、検出と帰属はさらに困難になります。ハードコーディングが不要なため、セキュリティ チームがフォレンジック アーティファクトや証拠に基づいて AI 駆動型攻撃を特定の脅威グループまたはキャンペーンに関連付けることは困難です。匿名性が高く、検出率が低いということは、攻撃の滞留時間が長くなることを意味します。そのため、攻撃者は価値の高いターゲットに対する高度な持続的脅威 (APT) 攻撃の典型的なアプローチである「低速でゆっくりとした」攻撃を実行できるようになります。武器化された生成 AI ツールは、最終的にはすべての攻撃者に APT 機能を与えることになります。