MIT、悪意のあるAI編集から画像を保護する「PhotoGuard」技術を開発
|
7月25日、AIベースのディープフェイク技術が進化を続ける中、人間が肉眼で「どのコンテンツがAIによって偽造されたものか」を見分けることがますます難しくなってきている。MITはこのほど、Photoguardと呼ばれる技術を発表した。Photoguard技術で処理された画像はAIによる直接的な識別や改ざんが困難であり、クローラーによって画像が改変され、誤って解釈されることを防ぐのに役立つ。 この「PhotoGuard」技術は、主に画像にわずかな修正を加えることで、AIが画像の内容を認識するのを防ぐと報告されています。この技術は、AI による画像の変更を防ぐ 2 つのソリューションを提供します。1 つは、画像のピクセルを変更することでアルゴリズム モデルの画像理解能力を妨害する「エンコーダ」方式です。もう 1 つは、AI に画像 A が画像 B であると認識させて誤った画像を生成する「拡散」方式です。 しかし、IT Homeは調査を通じて、この技術の応用範囲は実際には限られていることを知りました。研究者は、PhotoGuard技術はクローラー対策のシナリオに適しており、技術自体にも一定の限界があると警告しています。攻撃者は、処理された画像を切り取ったり反転したりするだけで、この技術を解読できます。 研究者らは、AI詐欺を解決するには、技術に加え、モデル開発者、ソーシャルメディアプラットフォーム、関連部門が共同で取り組み、包括的な「AI詐欺対策」ソリューションを提供する必要があると述べた。 |
<<: スタートアップ企業が大型モデルを商品化することは信頼できるのでしょうか?
>>: 沈向陽、周明、楊歌はビッグモデルについて議論した。パラメータを積み重ね続けると、ビッグモデルは新たな「知能の出現」につながるのか？
推薦する
GitHub で最も人気のあるオープンソース機械学習プロジェクト 28 件: TensorFlow がトップ
機械学習は現在、業界で徐々にホットな話題になりつつあります。20年以上の開発を経て、機械学習は現在、...
TensorFlow を使用した LSTM モデルの構築に関する詳細なチュートリアル
[[242005]]ターゲットこの記事の目的は、基本的な LSTM モデルを構築するために使用できる...
プリンストン・インフィニゲン・マトリックスが始動！ AI Creatorが爆発するほどリアルな100%自然を創造
ネオは、自分が住んでいる世界が現実ではなく、綿密に設計されたシミュレーションであることを発見します。...
ドローンは人気があり、3つの主要なアプリケーションが農家の役に立つ
今日は二十四節気の一つ、白露節気です。白露節気の季節には、我が国のほとんどの地域が秋の収穫期に入り、...
スケッチが本物の顔に変わる？ AI: はい、草はいくらでも大丈夫です。
この記事はAI新メディアQuantum Bit（公開アカウントID：QbitAI）より許可を得て転載...
AI天気予報には依然として人間の介入が必要
業界では、デート、マーケティング、ソーシャルメディアから宇宙探査、医療の進歩に至るまで、人工知能とそ...
筋肉の震えもはっきりと見えます！ 3D人体モデル自動生成アルゴリズム、第一著者北京大学チューリングクラス
この記事はAI新メディアQuantum Bit（公開アカウントID：QbitAI）より許可を得て転載...
携帯電話の AI 技術を使って撮影した写真は、本当に一眼レフカメラで撮影した写真に匹敵するのでしょうか?
最新世代のスマートフォンに搭載されつつある 3D センサーは、機械学習によって解き放たれた写真撮影技...
2018年の人工知能の発展に関する5つの予測
2017年は人工知能技術（AI）において画期的な発展があった年でした。過去 1 年間の大きな宣伝にも...
人間の世界チャンピオン3人を破り、ネイチャー誌の表紙に登場！ AIドローンエクストリームレースが自動運転の新時代を切り開く
チェスや事務作業、ゲームなどの知的活動において人間が AI に圧倒されていることはもはやニュースでは...
産業分野におけるAIの重要な役割
人工知能 (AI) は、多くの保守および制御エンジニアにとって新しい概念ではありません。デジタル変革...
ハイパーオートメーション: 次世代のサイバーセキュリティソリューション
[[421224]]ハイパーオートメーションがネットワークとデータ セキュリティに与えるプラスの影響...