MIT、悪意のあるAI編集から画像を保護する「PhotoGuard」技術を開発
|
7月25日、AIベースのディープフェイク技術が進化を続ける中、人間が肉眼で「どのコンテンツがAIによって偽造されたものか」を見分けることがますます難しくなってきている。MITはこのほど、Photoguardと呼ばれる技術を発表した。Photoguard技術で処理された画像はAIによる直接的な識別や改ざんが困難であり、クローラーによって画像が改変され、誤って解釈されることを防ぐのに役立つ。 この「PhotoGuard」技術は、主に画像にわずかな修正を加えることで、AIが画像の内容を認識するのを防ぐと報告されています。この技術は、AI による画像の変更を防ぐ 2 つのソリューションを提供します。1 つは、画像のピクセルを変更することでアルゴリズム モデルの画像理解能力を妨害する「エンコーダ」方式です。もう 1 つは、AI に画像 A が画像 B であると認識させて誤った画像を生成する「拡散」方式です。 しかし、IT Homeは調査を通じて、この技術の応用範囲は実際には限られていることを知りました。研究者は、PhotoGuard技術はクローラー対策のシナリオに適しており、技術自体にも一定の限界があると警告しています。攻撃者は、処理された画像を切り取ったり反転したりするだけで、この技術を解読できます。 研究者らは、AI詐欺を解決するには、技術に加え、モデル開発者、ソーシャルメディアプラットフォーム、関連部門が共同で取り組み、包括的な「AI詐欺対策」ソリューションを提供する必要があると述べた。 |
<<: スタートアップ企業が大型モデルを商品化することは信頼できるのでしょうか?
>>: 沈向陽、周明、楊歌はビッグモデルについて議論した。パラメータを積み重ね続けると、ビッグモデルは新たな「知能の出現」につながるのか？
推薦する
ファーウェイ、加算のみを使用するニューラルネットワークをオープンソース化：インターン生が開発を主導、効果は従来のCNNと同等
この記事はAI新メディアQuantum Bit（公開アカウントID：QbitAI）より許可を得て転載...
ブリッジで人間の世界チャンピオン8人が全員AIに負ける
最近、人工知能（AI）が再び人間に勝利しました。今回、人工知能はチェッカーやチェス、囲碁をプレイせず...
モデルはわずか1MBで、軽量な顔検出モデルはオープンソースであり、その効果は主流のアルゴリズムに劣らない。
[[279121]]この記事はAI新メディアQuantum Bit（公開アカウントID：QbitA...
カーリー：プロのカーリング選手に匹敵するスポーツロボット
海外メディアの報道によると、ロボットは多くのスポーツや活動で優れているが、1つのタスクだけを実行する...
AIが観測性を高める方法
今の時代、過去を懐かしむのは当然ですが、私たちは、以前と同じ観測可能性を持つことは決してできないよう...
APICloud CEO 劉欣: モバイルアプリケーションは人工知能の実装にとって最も直接的な媒体である
報道によると、APICloudが主催するAI時代のモバイル技術変革カンファレンスが2018年1月5日...
中国初の真のAI入力方式が発表され、未来の入力方式を革新する
入力がキーボードに別れを告げ、音声、表現、動作が入力方法になると、どのような魔法のような体験になるの...
無人バスは無人タクシーよりも信頼性が高いでしょうか?
バスがプラットフォームに到着するのを待って、バスに乗り、カードをスワイプします。いつもの朝の通勤風景...
生成 AI 規制: 「ディープフェイク技術」は大規模言語モデルの自由意志を実証するか?
特定のスタイルの生成 AI プロンプトを与えるということは、AI に想像力を働かせてほしいということ...
Google AI機能のアップグレードにより、ユーザーはテキストプロンプトに基づいて直接画像を作成できるようになります。
Googleは10月13日、今週の木曜日からGoogleの「Search Generative E...
人工知能が裁判官の判断に取って代われば、司法権は誤った方向に導かれる可能性がある
近年、社会構造の転換と国民の権利意識の強化に伴い、中国の裁判所が受理する事件の規模は毎年二桁増加し、...
独身者は幸せだ！スタンフォード大学の教授がキューピッドに変身、AIアルゴリズムの矢印が真実の愛を見つけるのを手伝う
今日の多くの若い男女にとって、オンラインデートは恋愛関係を見つけるための第一歩です。アメリカでは、こ...