海外の詐欺師はAIを使ってテイラー・スウィフトの声を合成し、「無料のキッチン用品」の広告を偽造して詐欺行為を行った。

ニューヨーク・タイムズ紙は現地時間1月10日、ここ数週間、フェイスブックなどのプラットフォームに、アメリカの有名歌手テイラー・スウィフトの「宣伝広告」が掲載されていると報じた。この広告で、彼女はファンにル・クルーゼブランドのキッチン用品セットを無料でプレゼントすると「発表」した。ユーザーはボタンをクリックして、いくつかの質問に答えるだけでよい。

しかし、広告に関与した「当事者」であるル・クルーゼは、消費者が普段このブランドのキッチン用品を好んで使用しているにもかかわらず、同社は消費者向けの無料配布活動には参加していないと述べた。この場合、 AI技術を使用してテイラー・スウィフトの声を合成し、それをル・クルーゼのCMのクリップと組み合わせました。

詐欺師たちは合成音声を使ってテイラー・スウィフトのファンを「スウィフティーズ」と呼んでいる。被害者が偽のウェブサイトに誘導されると、9.96ドルの送料を支払うよう求められます。もちろん、無料で配布されるとされているキッチン用品は、実際には配布されない可能性があります。

過去1年間でAI技術が大きく進歩し、著名人本人の許可なく「デジタルダブル」を作成することが容易になったと報じられている。バッファロー大学メディアフォレンジック研究所のコンピューターサイエンス教授、シウェイ・リュ氏は、ディープフェイク詐欺はテキスト読み上げサービスを使って作成された可能性が高いと述べた。このようなツールは、スクリプトを音声に書き起こし、リップシンク プログラムを使用してそれをビデオ クリップに合成することができます。

リュウ氏は、今ではこうしたツールの入手が非常に容易になったため、「まともな」品質のビデオを45分以内に制作できると述べた。

IT Homeが以前に報じたように、有名なアメリカ人俳優トム・ハンクスも昨年、自分の肖像画のAIバージョンが同意なく歯科プランのオンライン広告に使用されたと主張していた。

「明日バスに轢かれて終わりかもしれないが、ショーは続けられる」と彼は語った。 「AIとディープフェイクを自分で識別する以外に、それが私ではないと断言できるものは何もありません。これは確かに芸術的な挑戦ですが、法的な挑戦でもあります。」