悪意のあるハッカーが生成AIを武器化している

研究結果をブログのネタとして使うことに慣れていないのですが、次の点に注目しました。Vulcan Cyber​​ の Voyager18 研究チームは最近、ChatGPT のような生成 AI がすぐに武器となり、近くのクラウド システムを攻撃する準備ができていることを確認する勧告を発表しました。クラウド コンピューティング業界のほとんどの人々は、この瞬間を待ち望んでいました。

新たな攻撃方法

OpenAI の言語モデル ChatGPT を使用した新しい攻撃手法が登場し、攻撃者は開発者の環境にマルウェア パッケージを拡散しています。専門家は、ChatGPT が存在しない URL、参照、コード ライブラリ、関数を生成したことを確認しました。報告書によれば、これらの「幻覚」は古いトレーニングデータから生じている可能性がある。 ChatGPT のコード生成機能により、攻撃者は偽造したコード ライブラリ (パッケージ) を使用して、タイノスクワッティングなどの従来の方法を回避し、悪意のあるコンテンツを拡散することができます。

タイポスクワッティングは、URL ハイジャックまたはドメインのなりすましとも呼ばれ、個人または組織が、人気のある Web サイトまたは正当な Web サイトに類似しているが、わずかなタイプミスがあるドメイン名を登録する行為です。目的は、URL を入力するときに同じタイプミスをするユーザーを騙すことです。

別の攻撃では、ChatGPT に特定のコーディング問題を解決するためのソフトウェア パッケージを要求し、正規のリポジトリで公開されていないものも含め、複数のパッケージの推奨を受け取ります。これらの存在しないパッケージを悪意のあるパッケージに置き換えることで、攻撃者は ChatGPT の推奨事項に依存する将来のユーザーを欺くことができます。 ChatGPT 3.5 を活用した概念実証では、潜在的なリスクが実証されています。

もちろん、この種の攻撃を防御する方法はあります。開発者は、作成日とダウンロード数をチェックしてコードベースを慎重に確認する必要があります。しかし、この脅威に対処した今、私たちは疑わしいソフトウェア パッケージに対して常に疑いの目を向けることになります。

新たな脅威への対応

このタイトルは、この新たな脅威が今存在していることを意味するものではありません。生成 AI の力によってもたらされる新たな脅威が出現するのは時間の問題だと私は考えています。したがって、悪意のある人物が生成 AI を武器として利用できるようになるにつれて、こうした種類の脅威はより蔓延する可能性が高いため、これに対抗するためのよりよい方法が必要です。

先頭に立ち続けたいのであれば、防御メカニズムとして生成 AI を使用する必要があります。これは、今日の企業の典型的なアプローチであるリアクティブ アプローチから、可観測性や AI 駆動型セキュリティ システムなどの戦略のプロアクティブ使用に移行することを意味します。

AI テクノロジーが急速に進歩する中、企業にとっての課題はクラウド セキュリティの問題であり、DevSecOps プロフェッショナルが 24 時間のニュース サイクルの影響を受けないように手順を強化する必要があることがよくあります。これは、多くの IT 予算が削減されている時期に、企業がセキュリティへの投資を増やす必要があることを意味します。こうした新たなリスクに積極的に対処しなければ、組織は大規模な侵害のコストと影響の代償を払わなければならない可能性があります。

もちろん、セキュリティ専門家の仕事は人々を脅してセキュリティにもっとお金を使うようにさせることです。そうしないと、より深刻な状況が発生する可能性が高くなります。戦場の性質が変化し、効果的な攻撃ツールがほぼ無料で利用できることを考えると、企業のセキュリティの状況は少し厳しいものになっています。事態がどれほど悪化するかを実感したとき、私がここで最初に取り上げるのは、おそらく、Vulcan レポートで言及されている悪意のある AI パッケージの幻覚でしょう。

幸いなことに、いくつかの大規模で奇妙な侵害があったにもかかわらず、ほとんどの場合、クラウド セキュリティと IT セキュリティの専門家は攻撃者よりも賢く、過去数年間、常に先手を打つことができています。しかし、攻撃者は賢くならない限り、より革新的になる必要はなく、高度に防御されたシステムを侵害するために生成 AI をどのように活用するかを理解することが新たな課題となるでしょう。準備はできたか？

原題:悪意あるハッカーが生成AIを武器化

原作者:デビッド・リンシカム