仮想誘拐：人工知能がランサムウェア詐欺を助長

もしあなたの配偶者や子供があなたに泣きながら電話をかけてきて、誘拐されたと告げたら、あなたは冷静で慎重な懐疑心で応じる可能性はどれくらいあるでしょうか?

人工知能時代の文脈では、サイバー攻撃者はネットワーク侵入、ソーシャルメディア情報収集、その他のチャネルから取得したデータをAIと組み合わせ、現実的な手法を使用して「誰かが誘拐される」というオンライン詐欺を作成することができます。

仮想誘拐の仕組み

トレンドマイクロのチーフ脅威防御アーキテクト、クレイグ・ギブソン氏は、サイバー攻撃者が仮想誘拐を開始する際、まず「誘拐された人物」の身元情報を特定し、さらにその人物に関連する両親やその他の親族の情報を特定する必要があると述べた。

情報収集の点では、攻撃者は主にソーシャルメディアやダークウェブから漏洩したデータを通じてターゲットの情報を入手しますが、ソーシャルメディアインテリジェンスは、攻撃を開始するタイミングを決定し、関連する詳細を記入して攻撃をより現実的にするのにも役立ちます。

今年4月、CNNは、攻撃者が人工知能を使って15歳の少女の声を合成し、その母親のジェニファー・デステファノさんに「娘が誘拐され、身代金100万ドルが必要だ」と告げた事件を報じた。母親は、「誘拐犯」からの見知らぬ電話の中に、娘の助けを求める叫び声がはっきりと聞こえたと語った。声と口調は娘のものと全く同じだった。この詐欺が発覚したのは、後に娘本人から電話があったときだった。その後も、デステファノさんは娘の偽物だが本物のような声に恐怖を感じていた。

人工知能が誘拐犯のスキルを向上させる

この事件では、デステファノさんを襲った犯人は、彼女の裕福な家庭環境と、北部でのスキーレースに向けてトレーニング中など、娘が同伴していなかった状況を特定することに成功した。

この方法は検出が容易かもしれませんが、仮想誘拐はさらに多くの点で改善の余地があります。たとえば、攻撃者は古典的なSIMスワッピングを使用する可能性があり、攻撃者がデステファノ氏の娘の携帯電話をブロックした場合、娘が詐欺だと気付く前に身代金を徴収できる可能性がある。

「ChatGPTを使用することで、攻撃者は潜在的な被害者の大規模なデータセットと音声や動画の情報だけでなく、API経由で位置情報などの他の信号データも融合することができる」とトレンドマイクロの研究者は6月のブログ投稿に書いている。

理論的には、ChatGPT をテキスト読み上げソフトウェアや自動化ソフトウェアと組み合わせて使用​​することで、AI によって生成された被害者からほぼリアルタイムの応答を生成することもできます。ジョリー・ロジャー・テレフォン社が、ルーブ・ゴールドバーグのような AI および非 AI ソフトウェアの集合を使用して、自動化されたロボットのみを使用してテレマーケティング担当者との会話を容易にする実験を行いました。

仮想誘拐を防ぐ方法

サイバー犯罪者は、まさに発覚のリスクを避けるために、従来のサイバー恐喝よりも仮想誘拐を選択します。現時点では、知らない電話番号をブロックしたり、第二言語で話して AI 音声ジェネレータを混乱させたりする以外に、仮想誘拐に対する実際の技術的解決策はほとんどありません。

ギブソン氏は比喩的にこう語った。「従来のセキュリティ アーキテクチャを円と考えると、円の内側にあるものはすべて従来のセキュリティ製品によって制御されます。円の外側にあるものはすべてセキュリティ製品のない人間社会です。仮想誘拐は人間社会を攻撃するため、捕まる可能性ははるかに低くなります。」