生成 AI: サイバーセキュリティにとっての恩恵か、それとも災いか?

先月、イーロン・マスク氏は公開書簡でAIシステムの開発を6か月間停止するよう求め、「人間と競合する知能は社会と人類に重大なリスクをもたらす可能性がある」と警告した。これは大げさに聞こえるかもしれませんが、生成 AI がもたらす脅威は現実のものであり、AI が生成したフィッシング メール、マルウェア、ディープフェイク キャンペーンの増加により、サイバーセキュリティの世界ではすでに明らかになっています。この技術がさらに進歩するにつれ、生成 AI は必然的にサイバー犯罪活動を容易にし続け、サイバー犯罪者志望者がコードを 1 行も書かずに、ますます洗練された方法で組織を攻撃する力を与えることになります。

組織がこの新しい生成 AI の時代によってもたらされるリスクを懸念する必要があることは間違いありません。ただし、このテクノロジーは、ウイルス対策ソフトウェア、詐欺検出、ID およびアクセス管理をサポートし、悪意のある行為者から保護するためにも使用できます。

生成 AI は今後も存在し続けるでしょう。特に最高情報セキュリティ責任者 (CISO) は、この新しいテクノロジーがもたらすリスクを無視することはできません。では、リスクとは何でしょうか? また、組織は、新しい生成型 AI 主導の脅威環境において、どのように自らを保護できるのでしょうか?

サイバー犯罪者は生成AIを使用する

ChatGPT や同様の生成 AI モデルの出現により、事実上誰でも組織に対して悪意のあるサイバー活動を行うことができるという新たな脅威の状況が生まれました。サイバー犯罪者はもはや高度なコーディングの知識やスキルを必要としません。必要なのは悪意と ChatGPT へのアクセスだけです。

インパクト詐欺は、今後組織が特に重点を置くべき分野です。これは決して新しい概念でも斬新な概念でもありません。長年にわたり、ボットはソーシャル メディア プラットフォームや主流メディアのコメント セクションでコメントを生成し、政治的議論を形成するために使用されてきました。たとえば、2016年の大統領選挙の数週間前には、ボットがドナルド・トランプのツイートをリツイートする割合がヒラリー・クリントンの10倍だったことが判明した。しかし、生成型 AI の時代となった今、歴史的には高レベルの政治的詐欺に限定されていたこの種の欺瞞が、組織レベルにまで浸透する可能性があります。理論上、悪意のある攻撃者は ChatGPT または Google Bard を使用して、数秒のうちにソーシャル メディア、主要ニュース メディア、またはカスタマー サービス ページに何百万もの有害なメッセージを生成できます。顧客や従業員を含む企業に対する巧妙に練られた攻撃は、前例のない規模とスピードで実行される可能性があります。

組織にとってもう一つの大きな懸念は、悪意のあるボットの増殖です。 2021 年には、世界のインターネット トラフィックの 27.7% が悪意のあるボットで構成されており、この数はここ数年で増加の一途をたどっています。 ChatGPT は高度な自然言語処理機能を備えており、現実的なユーザーエージェント文字列、ブラウザのフィンガープリント、その他の属性を生成して、スクレイピング ボットを正規のユーザーのように見せることができます。実際、最近のレポートによると、GPT-4 は言語生成が非常に優れているため、チャットボットの CAPTCHA を解かせるために、その人が盲目であると信じ込ませることができるそうです。これは企業にとって大きなセキュリティ上の脅威となり、生成 AI が進歩するにつれて問題がさらに深刻化するでしょう。

生成型AIはCISOにとって恩恵となる可能性がある

生成 AI がもたらすリスクは間違いなく懸念されるものですが、このテクノロジーは今後も存在し続け、急速に進歩していくでしょう。したがって、最高情報セキュリティ責任者 (CISO) は、生成 AI を活用してサイバーセキュリティ戦略を強化し、新たに出現する高度な悪意のある攻撃に対するより強力な防御策を開発することが不可欠です。

現在、CISO が直面している最大の課題の 1 つは、サイバーセキュリティのスキルギャップです。現在、世界中で約 350 万件のネットワーク関連の求人があります。結局のところ、熟練した労働力がなければ、組織は脅威から自らを守ることができません。しかし、生成 AI はこの業界の課題に対する解決策を提供しており、ChatGPT や Google Bard などのツールを使用することで、手作業をスピードアップし、サイバーセキュリティ担当者のワークフローを削減しています。特に、ChatGPT はコード開発を加速し、脆弱なコードを検出してコードのセキュリティを向上させるのに役立ちます。 GPT-4 コード インタープリターの導入は、面倒な操作の自動化によりセキュリティ専門家が戦略的な問題に集中できる時間を確保できるため、人員不足の組織にとって大きな変革をもたらします。 Microsoft はすでに、GPT-4 を搭載した Microsoft Security Copilot を導入して、サイバーセキュリティ専門家がこれらの操作を効率化できるよう支援しています。

さらに、AI チャットボット ツールはインシデント対応をサポートできます。たとえば、ボット攻撃が発生した場合、ChatGPT と Google Bard はセキュリティ チームにリアルタイムの情報を提供し、対応活動の調整に役立ちます。このテクノロジーは攻撃データの分析にも役立ち、セキュリティ チームが攻撃元を特定し、その影響を制御および軽減するための適切な対策を講じるのに役立ちます。

組織は ChatGPT やその他の生成 AI モデルを使用して大量のデータを分析し、犯罪ボットの存在を示す可能性のあるパターンや異常を特定することもできます。 AI ツールは、チャット ログ、ソーシャル メディア データ、その他の情報ソースを分析することで、重大な被害が発生する前に潜在的なボット攻撃を検出し、セキュリティ チームに警告するのに役立ちます。

生成AIの新時代における保護

私たちは今、生成型 AI の時代に突入しており、その結果、組織はより頻繁かつ高度なサイバー攻撃に直面しています。 CISO はこの新たな現実を受け入れ、AI を活用したサイバー攻撃に対抗するために AI の力を活用する必要があります。機械学習をリアルタイムで使用できないサイバーセキュリティ ソリューションは、最終的には遅れをとることになります。

たとえば、生成 AI のおかげで、組織の Web サイトで詐欺行為を行おうとする悪意のあるボットの数が急増することが分かっています。悪意のある行為者がボットをサービスとして利用して、高度でステルス性の高い脅威を作り出す世界では、機械学習を活用してそれらの脅威を阻止しないことを選択することは、銃撃戦にナイフを持っていくようなものです。したがって、組織のサイバーセキュリティを確保するには、AI を活用したボット検出およびブロック ツールがこれまで以上に必要になっています。

一例を挙げると、長い間信頼できるサイバーセキュリティツールと考えられてきた従来の CAPTCHA は、今日のボットには太刀打ちできません。現在、ボットは AI を使用して信号機の画像などの「旧式の」 CAPTCHA を配信しているため、企業はまず交通を妨害するソリューションにアップグレードし、CAPTCHA を最後の手段として使用し、その後、サイバーセキュリティが強化された CAPTCHA のみを使用する必要が生じています。さらに、組織は、生体認証データを介してユーザーにアクセスを許可する多要素認証と ID ベースのアクセス制御を実装することで自らを保護し、不正アクセスや不正使用を減らすことができます。

生成 AI は組織に重大なセキュリティ リスクをもたらしますが、適切に使用すれば、脅威を軽減するのにも役立ちます。サイバーセキュリティは猫とネズミのゲームであり、CISO は、この新しい AI 主導の脅威環境の一部となる可能性のある壊滅的な財務的損害と評判の損害から組織を保護するために、常に一歩先を行く必要があります。 CISO は脅威を理解し、テクノロジーを効果的に使用することで、生成 AI によって引き起こされる新たな攻撃から組織を保護することができます。