AIが自ら騙された！生成された写真詐欺はAI識別器の目を楽々と逃れ、マスクのロボットガールフレンドと3メートルの巨人は両方とも「実現」

AI が生成した画像は非常にリアルなので、AI 自身も違いを区別できません。

マスク氏とロボットのガールフレンドのこの写真は、5人の鑑別者のうち2人によって本物だと判断されました。

また、人間と高さ 3 メートルの巨人が写っているこの写真も、5 人の判別器が全員一致で真実であると判断しました。

ああ、AI識別器は信頼できないようです。

これはニューヨークタイムズが最近実施したテストです。彼らは市場で一般的な 5 つの AI 識別装置を見つけ、テスト用に 100 枚以上の写真を入力しました。

AI識別器はAIの写真を本物と誤認するだけでなく、本物の写真をAIが生成したものとして分類してしまうことも判明した。

さらに、異なる識別器間のレベルのギャップもかなり大きいです。

具体的な症状は何ですか?一緒に見ましょう

粒子を追加すると識別器を欺くことができる

このテストでは合計 5 つの AI 識別器が使用されました。

• うーん、多分
• イルミナティ
• AIか否か
• ハイブ
• 感性

テスト内容にはAIと人間が作成した画像が含まれており、各識別器に入力してどのように判断するかを確認します。

使用されるAI作成ツールには、Midjourney、Stable Diffusion、Dall-eなどがあります。

ニューヨークタイムズは主にそのような例をいくつか紹介しています。 AIが作成した写真5枚と、実際に人が撮影した写真2枚が含まれています。

統計結果から、5 つの識別器のうち Hive のみがすべての正しい判断を下しました。

うーん、おそらく最も悪い成績で、2枚の写真しか正しく判断できませんでした。

たとえば、この写真は AI によって生成されたものです。2 月に行われた写真コンテストでグランプリを受賞したそうです。この質問は、ほとんどの識別器を困惑させました。

しかし、この完全に AI によって生成された写真は、ほとんどの差別主義者の目を逃れることはできませんでした。

人間が作成した写真の場合、AI識別器の方が正解率が高く、うーん多分識別器のみが両方の写真に対して誤った判断を下しています。

さらに、研究チームは特に美術絵画をテストし、ほとんどの AI 識別器が絵画が実際の人間によって描かれたものであると判断できることも発見しました。

AIが作成した別の画像と比較した場合も、4つの識別器は正しい判断を下しました。

（うーん、そうでもないかな…本当に良くない）

AI 画像が何らかの方法で処理されると、AI 識別器は失敗することに注意してください。

たとえば、このナイキの男性の写真では、4 つの識別器が最初はこれが AI によって生成されたものであると判断しました。

しかし、画像にいくつかの粒子を追加すると、AI 識別子はこの画像の AI コンテンツを 99% からわずか 3.3% と判断するようになります。

最後に、実用化できるいくつかの識別器（Umm-maybe、Illuminarty、AI or Not）もテストしました。

結果によると、「ソビエト連邦のムスク」の写真については、Umm-maybe は、それが人間によって作成された可能性が 85% あると感じています。

イルミナティ氏は、これが AI によって作成される確率はわずか 5.4% だと考えています。

AI 生成であるかどうかは、AI かどうかによってのみ確認されます。

AI識別の基準は何ですか?

では、AI はどのようにして真正性を識別するのでしょうか?

一般的に言えば、AI の判断基準は人間とは異なります。人間は一般的に画像コンテンツの合理性に基づいて判断しますが、AI はピクセルの配置、鮮明度、コントラストなどの画像パラメータに基づいて判断します。

これで、すべての差別主義者が冒頭の巨大な写真が非常に本物であると考える理由が説明されます。

AIペイントが普及してから1年以上が経ち、市場には多くの識別器が登場しています。

誰でも無料で使用できるようにHugging Faceに直接配置されているものもあれば、すでに会社が設立されていてAPIインターフェースのみを提供しているものもあります。

たとえば、Hive はビジネスソリューションを提供する会社です。上記のテスト結果から、Hive のパフォーマンスが最も優れており、ほぼ常に正しい判断を下すことができることがわかります。

それ以前の主な事業は、プラットフォームのウェブサイト向けに画像、動画、テキストをサポートするデータレビューサービスを提供することでした。サービス提供プラットフォームには、Reddit、Quora などがありました。

参考リンク:
https://www.nytimes.com/interactive/2023/06/28/technology/ai-detection-midjourney-stable-diffusion-dalle.html