AI生成画像に追加されたデジタル透かしは簡単に解読できると研究で判明

10月6日、EngadgetやWiredなどの海外メディアの報道によると、メリーランド大学の研究チームがAI生成コンテンツに対する「デジタル透かし」技術の信頼性を研究し、この技術は簡単に解読できることを発見したという。

同校のコンピューターサイエンス教授であるソヘイル・フェイジ氏は、AI生成画像の透かしの現状について率直にこう語った。「現時点では信頼できる透かし技術はありません。透かしはすべて解読されています。」

テスト中、研究者らは既存の透かし方法を簡単に回避することができ、AIで生成されていない画像に「偽の透かし」を追加するのはさらに簡単であることを発見した。同時に、チームは、画像の知的財産権を完全に侵害することなく画像から削除することが「ほぼ不可能」な透かし技術も開発した。

カリフォルニア大学サンタバーバラ校とカーネギーメロン大学による同様の研究で、研究者らは、AI 生成画像の透かしは「シミュレーション攻撃」によって簡単に削除できることを発見しました。シミュレーション攻撃では、明るさやコントラストを破壊的に調整したり、画像を圧縮または回転させたり、ガウスぼかしなどの建設的な手法によって削除できます。

AIが生成したデジタル透かしはハッカーとの競争になるだろうと報じられている。この透かしは肉眼では見えませんが、AI 生成コンテンツの悪用を防ぐことができます。

IT Homeは以前、米国政府が7月下旬に、技術のセキュリティ向上のため、人工知能によって生成されたコンテンツに透かしを入れるなどの対策を講じるという、いくつかの大手人工知能企業からの自主的な約束を得たと発表したと報じていた。

アマゾン、アントロピック、グーグル、インフレクション、メタ、マイクロソフト、OpenAIの7社は、第三者の専門家によるモデルのレビューを許可するなど、システムのセキュリティと透明性を向上させることに合意した。

米国政府はテックレーダーへの声明で、「これらの新興技術を開発している企業には、自社製品の安全性を確保する責任がある。AIの潜在能力を最大限に引き出すために、米国政府は業界が最高水準を維持し、イノベーションが米国民の権利と安全を犠牲にすることがないよう奨励している」と述べた。