新しい報告書によると、AIはディープフェイクから人々を保護できない

Data & Society の新しいレポートでは、機械学習を使用して改変されるディープフェイクを含む、動画の欺瞞的な改変に対する自動化ソリューションについて懸念が提起されています。著者のブリット・パリス氏とジョーン・ドノバン氏は、ディープフェイクは新しいものだが、メディア操作の長い歴史の一部であり、社会的および技術的な修正の両方を必要とするものだと主張している。 AIに頼ると、より多くのデータと権力が民間企業に集中することになり、事態が悪化する可能性があります。

[[277199]]

「ディープフェイクをめぐるパニックは、手っ取り早い技術的解決策では構造的な不平等に対処できないことを証明している」とパリス氏は語った。「これは大規模なプロジェクトだが、社会的、政治的側面も含めた解決策を見つけなければ、無力な人々が取り残されることになるだろう。」

パリス氏とドノバン氏は、テクノロジーだけではディープフェイクの問題を解決できないと考えている。 「メディアと真実の関係はかつてないほど安定している」と報告書は述べている。1850年代、判事が法廷で写真による証拠を認め始めたとき、人々は新しい技術を信用せず、目撃証言や文書による記録を好んだ。 1990 年代までに、メディア企業は夜の番組の映像を選択的に編集することで出来事を歪曲することに加担していました。 「これらの画像は本物だ」と報告書は述べている。 「彼らがそれをどのように文脈化し、解釈し、ケーブルテレビで24時間放送するかが操作的だ」

今日、ディープフェイクはさらに進歩しており、機械学習を使用して動画や画像を操作することを可能にしており、その結果は人間の目で検出することはほぼ不可能です。報告書では、「現在、ソーシャルメディアに公開プロフィールを持つ人は誰でも標的になっている」としている。偽の動画が存在すると、数秒でソーシャルメディア上で大量に拡散される可能性がある。

この問題に対処するため、Facebook は最近、ディープフェイクを検出するために設計された新しいモデルをテストできるデータセットを公開すると発表した。 AIとブロックチェーン技術を使って加工された写真を検出するTruePicのようなスタートアップ企業も勢いを増し始めている。最近では、米国国防総省の国防高等研究計画局（DARPA）が、ビデオピクセルの違いを研究して改ざんの有無を判断するメディフォーに投資している。ただし、これらのソリューションのほとんどは、キャプチャ ポイント (写真やビデオの撮影時など) または検出レベル (改ざんされたコンテンツと改ざんされていないコンテンツを区別しやすくするため) での操作を対象としています。

法律の専門家はこのアプローチを肯定的に捉えており、ディープフェイクの問題は裁判所を通じてのみ解決できると指摘している。電子フロンティア財団の公民権担当ディレクター、デビッド・グリーン氏は、偽の動画は政治評論や、個人情報を保護する必要のある人々の匿名化にも重要な用途があると述べた。

「ディープフェイク法を制定するなら、言論の自由を考慮する必要がある」と同氏は述べ、ディープフェイクを使って誰かを脅迫するなどの違法行為を行った場合、既存の法律に基づいて起訴される可能性があると付け加えた。

しかしパリス氏は、AI駆動型コンテンツフィルターやその他の技術的修正が実際に危害をもたらす可能性があると懸念している。 「一部の人にとっては良いことかもしれませんが、他の人にとっては悪いことになるかもしれません」と彼女は言う。「新しい技術モデルを設計することで、企業があらゆる種類の画像をキャプチャし、オンラインのライフライブラリを作成する余地が生まれます。」

「ディープフェイク：プライバシー、民主主義、国家安全保障への差し迫った挑戦」という論文の共著者であるボビー・チェズニー氏は、データ収集を問題視していない。 「規制がなければ、民間企業はより多くの情報にアクセスできるようになると思う」と彼は語った。 「しかし、この本質的に悪い考えには納得がいかない。」

チェスニー氏とパリス氏は、何らかの技術的解決策が必要であり、悪質な行為者を訴追し偽動画の拡散を阻止するためには法制度と連携して取り組む必要があることに同意している。 「問題に対処するのではなく、被害を軽減し制限することについて話し合う必要がある」とチェスニー氏は付け加えた。 「ディープフェイクは消えない」