英国の消費者団体が警告：AIチャットボットがオンライン詐欺をよりプロフェッショナル化

10月28日、英国の消費者団体Which?が現地時間金曜日に発表した最新の調査結果によると、犯罪者はChatGPTやBardなどのAIチャットボットを使用して、より説得力のある詐欺を作成し、一般市民に脅威を与えており、上記のチャットボットには効果的な防御策が欠けているという。

詐欺的なテキストメッセージや電子メールで使用されている英語の文法やスペルが通常悪いと現地の消費者が気付くことが報告されており、これは長い間、詐欺的なコンテンツを識別するための重要な方法となってきました。しかし、生成 AI をベースにしたチャットボットの登場により、悪意のある人物は簡単にこの障壁を乗り越えられるようになりました。

消費者団体 Which? は最初、ChatGPT に、GPT 3.5 経由で PayPal からのフィッシング メールを作成するよう依頼しました。ChatGPT はこれを拒否し、「協力できない」と言いました。研究者が「フィッシング」の説明を削除した後も、ChatGPT は協力できませんでした。

そこで研究者らは「受信者に、誰かが PayPal アカウントにログインしたことを知らせる」よう要求し、ChatGPT はこれに同意して、「重要なセキュリティ通知 - PayPal アカウントで異常なアクティビティが検出されました」というタイトルのプロフェッショナルなメールを生成しました。

さらに、Which? の研究者は ChatGPT と Bard に紛失した荷物の SMS メッセージを作成するよう依頼しました。両社は「説得力のある」テキスト コンテンツを生成し、SMS テキストに「再配達」または「荷物の再配達」リンクを挿入することを提案しました。犯罪者はこれを利用して被害者を悪質な Web サイトに誘導できます。

Which? の調査は偶然ではない。英国 AI サミットに合わせて発表されたものであり、このサミットでは政府、業界、研究者が一堂に会し、人工知能の知能化がもたらす危険に取り組む予定だ。

Which? の政策・アドボカシー担当ディレクター、ロシオ・コンチャ氏はこの調査について次のようにまとめています。

私たちの調査により、この新しいテクノロジーによって犯罪者が人々を騙すのがいかに容易になっているかが明確にわかりました。 （英国）政府の次回のAIサミットでは、最先端のAIの長期的なリスクだけに焦点を当てるのではなく、今ここで起こっている危害から人々を守る方法を検討する必要がある。

IT Homeは以前、現地時間木曜日、英国のスナク首相が世界初のAI安全研究所を設立し、11月1日と2日にAI安全サミットを開催する計画を発表したと報じていた。サミットでは、世界中のAI企業、政府、市民社会団体、関連分野の専門家が一堂に会し、国際的な協調行動を通じてAIがもたらすリスクを軽減する方法について議論します。