あらゆる角度から監視されることへの不安：AI はプライバシー侵害にどう対抗できるか？

インテリジェント時代では、アルゴリズムと計算能力の継続的な進歩により、AI 技術が急速に発展しました。工業生産、医療、交通、エネルギーなどの分野では、AIとビッグデータ技術が相互に補助し、人々を多くの無意味、反復的、危険な仕事から解放し、企業の効率と安全性にも利益をもたらします。

しかし、完璧なテクノロジーは存在しません。私たちはデータによってもたらされる恩恵を享受する一方で、個人情報の「むき出し」という課題にも直面しています。私たちの周囲には、ますます多くのスマートデバイスが私たちのプライバシーを覗き見しています。

私たちは皆、このような経験をしたことがあるかもしれません -

同僚と気軽におしゃべりしながら、どこで火鍋や焼肉を食べようかと話し合い、Dianpingを開くと、ホームページには火鍋や焼肉のおすすめがいっぱいです。

親友や彼女と、どのミルクティーショップが一番いいか話し合ってみてください。新しい味を試してみたい場合は、フードデリバリープラットフォームでこのミルクティーが推奨されています。

家族と劉庚紅、ダイエット、ヨガウェアについて話し合っているときに、Taobaoを開くと、フィットネス製品の推奨事項がいっぱいの画面も表示されます。

私たちの周りにある電子機器は、さまざまな方法で私たちの言葉や行動を密かに監視しており、それはとても奇妙で不快です。私たちの声に対するこうした調査は、消費者市場のさまざまなアプリで使用されているマーケティング手法でもあります。権限とプライバシーを開放することで、私たちの声をリアルタイムでシステムに伝え、いわゆる AI を使用してカスタマイズされたサービスをプッシュできるようになります。実際、プライバシーの取得を目的としたこうしたマーケティング キャンペーンは、消費者にとって非常に迷惑なものです。

このような状況を回避するにはどうすればよいでしょうか。マイクを長時間オンにすることを許可せず、一度に 1 回ずつ許可することを選択する人もいますが、この方法は面倒すぎます。もっと極端な言い方をすると、外部の音楽やテレビドラマなどの騒々しい音を使って会話の音をわざと隠す人もいますが、敵を1000人殺して自分の仲間を800人失うという経験はあまりにも不快です。このような状況を回避するためにテクノロジーをどのように活用できるでしょうか?

01 魔法を使って魔法を倒す

AI を使って AI を倒すのは良い方法かもしれません。新しい AI システムがリリースされました。この AI システムの回避ロジックは、会話中に他のサウンド「調味料」を追加することです。ただし、これらの「調味料」は非常に弱く、外部の音楽や音ほどうるさくなく、通常の会話に影響を与えません。

人々が話しているときにこのシステムをオンにしておくと、その空間にかすかな音が流れ、マイクに拾われないように通常の会話に影響を与えることなく会話の音を覆い隠します。

このAIシステムは、米国コロンビア大学の研究チームが提案した新しい手法です。このシステムは、私たちが一般的に使用する電子機器に簡単に導入できます。コンピューターや携帯電話などのハードウェア上で実行される限り、ユーザーのプライバシーをリアルタイムで保護できます。

AI テクノロジーを使用してマイクが音を捉える方法に干渉するというのは、新しいアイデアではありません。この種の問題を解決するために、これまでも関連技術が使われてきましたが、音声会話の特殊な状況のため、数秒で会話の単語や話す速度を予測することは不可能であり、AIが双方の会話のリズムに追いつくことは不可能であり、会話のカバーやマスキングの効果に影響を与えます。

新しい AI システムは、ディープラーニング アルゴリズムを使用して、2 人が次に話す内容の特徴を予測し、2 秒間の入力音声に基づいてリアルタイムのパフォーマンスを実現します。リアルタイムで生成される適切なマイクノイズは、会話のプライバシーの取得を効果的に妨害する可能性があります。

新しいアルゴリズムは、自動音声認識モデルが書き起こすように訓練されたあらゆる単語を妨害する「予測攻撃」信号を使用します。また、妨害音が自然環境で再生される場合、遠くにある可能性のある不正な「盗聴」マイクを妨害できるほどの音量である必要があります。このシステムは、自然な周囲ノイズと複雑な形状を持つ実際の部屋でうまく機能することが示されています。ただし、アルゴリズム システムは現時点では英語でのコミュニケーションにのみ有効であり、チームは他の言語への移行アプリケーションに重点を置いています。

この戦いでは、AI システムがデバイスの背後にあるニューラル ネットワーク推奨システムに勝つ可能性が高いです。この研究成果は、研究室の枠を超えて、複数の言語やシナリオにも応用されつつあります。将来的には、会話のプライバシーを侵害するあらゆる「嫌がらせ」を回避するのに役立つかもしれません。

音声プライバシーが私たちに与える影響は、消費者分野においては主に干渉と侵害です。ビデオ分野では、肖像プライバシーはさらに深刻な影響を受けます。

02 新しいビデオ「ノイズ」方式

ビデオプライバシーの分野では、一般の人々のプライバシーに境界はありません。最も印象的だったのは、不動産会社の物件販売イベントで、顧客自らがヘルメットをかぶって住宅を購入していたことです。多くの人は、最初にニュースを読んだときは被害者を笑う気持ちになるかもしれないが、実際の状況を理解すると、被害者の機知に拍手を送らずにはいられなくなる。ヘルメットを着用する主な目的は、不動産会社のAIビデオ認識を回避し、差別化されたサービスを避け、自分の住宅購入の利益を失うことを避けることです。

ビデオ分野におけるさまざまな消費者グループへの不当な扱いは氷山の一角に過ぎません。さらに深刻なのは、いくつかの露骨なプライバシー侵害です。スカイアイの監視下では、街のいたるところにカメラが設置されており、すべての人のビデオデータが公開されています。安全上の理由で自宅にカメラを設置している人もいますが、ハッカーに攻撃されるリスクは依然としてあります。自宅でのユーザーのあらゆる行動は、裏で悪意を持った人々の目によって監視されているのです。

法律の制定に加えて、これらのビデオのプライバシーを保護する技術的な手段はありますか?

MITのコンピュータサイエンスおよび人工知能研究所の研究者らは、ビデオにノイズデータを追加して、ビデオ内で個人が特定されないようにする新しいシステムを開発した。同時に、公開ビデオを分析および調査のデータとして使用することもできるため、監視ビデオクリップに映っている人々のプライバシーをより適切に保護できる。

スカイアイやコミュニティ、公園などの監視ビデオでは、ビデオに記録されている人々にプライバシーがまったくないことがわかっています。すべての顔情報がカメラによってキャプチャされ、分析されます。公共領域の安全を確保し、歩行者や車両の密度と流れを監視し、健康および防疫対策の実施に役立ちますが、個人のプライバシーを犠牲にするこの状況は、テクノロジーのアップグレード中に徐々に打破されるはずです。

一部の企業はビデオ内の顔をぼかしていますが、この方法ではシステムで顔データの一部が失われる可能性があり、一部の研究が不可能になる可能性があります。新しい AI システム Privid により、研究者は、個人が特定されないことを保証し、ビデオ クリップに登場する人物のプライバシーを保護しながら、ビデオ データをクエリに使用できるようになります。さまざまなビデオやクエリにわたって、Privid の精度は非プライベート システムの 79% ～ 99% でした。

Privid AI システムは差分プライバシー保護技術を採用しています。差分プライバシーにより、ユーザーはデータ全体の出力に影響を与えることなく、データをある程度変更したり、ノイズデータを追加したりできるため、攻撃者がデータセット内の個人情報を知ることを防ぎ、プライバシー保護の目的を達成できます。

ただし、このシステムにも一定の制限があり、追加するノイズ データの量を決定できません。もちろん、理想的な状況は、全員を隠すのに十分なノイズを追加することですが、研究者にとって役に立たないほど多くは追加しません。しかし、現実には、データにノイズを追加し、ビデオの分析とクエリを確実に実行すると、ある程度の干渉が発生し、結果があまり正確ではなくなります。このノイズデータのバランスは、実際の基準値に影響を与えずにプライバシーを確​​保するための詳細な技術と考慮が必要です。

03 AIがプライバシー保護を強化

オーディオビジュアル分野ではオープンエリアに露出しており、一般人のデータは消費者分野でお金や交通となり、さまざまな消費シーンに導入されています。裕福で権力のある人々にとって、個人のプライバシーデータはさらに価値が高く、ハッカーの目には脅迫の「格好の材料」となる可能性が高い。カメラの下なら、行く先々が透けて見える。このデータを入手すれば、特定の場所に現れる人物のタイムラインを構築できる。データを集計するだけで、人物の過去の位置やさまざまな情報を把握できる。決意を持ったハンターが待つ限り、必ず太った獲物を捕まえることができる。

AI が賢くなるほど、より多くの情報を取得、保存、分析するようになり、その情報はより隠されるようになります。 AI技術の中立性についてはコンセンサスがあるものの、その背後にある大企業やハッカーの応用は利益を目的としており、この情報が合理的に使用されなければ、さまざまな重大な事件を引き起こすことになる。

オーディオビジュアル生活は現代の人々の娯楽や生活に欠かせないものであり、カメラやマイクが組み込まれたさまざまな電子製品がなければ誰も生きられないことは周知の事実です。都市、工場、企業の運営は、さまざまなカメラ機器の支援から切り離すことはできません。これは、より多くの社会、企業、個人の情報がデータの世界に流れていることも意味します。

技術の発展は常に法的制約を上回ります。法律や倫理で制約が課せられると、抜け穴が増え、セキュリティやプライバシーが保証されなくなり、AIの発展も遅れることになります。プライバシーとセキュリティの保護は技術開発の鍵となります。一部の AI 技術によるプライバシーの乱用を制限するために AI を使用することは、デジタル時代のネットワーク セキュリティ技術者にとって必須となっています。

しかし、AIディープラーニングに基づくプライバシー保護に関する現在の研究はまだ初期段階にあり、課題はまだ多く残っています。たとえば、暗号化アルゴリズムの応用では、暗号化技術はプライバシー保護の最も直接的かつ効果的な手段ですが、暗号化技術の技術コストと応用コストが、大量のコンピューティングリソースを消費するディープラーニングアルゴリズムと組み合わさると、アルゴリズムのパフォーマンスが大幅に低下します。

もう一つの問題は、後進性と監督の欠如です。技術開発の性質上、規制当局は常に技術に遅れをとっています。事後の是正措置ではなく早期警告を提供できる革新的な規制方法をどのように採用するか。規制レベルと他のサードパーティテクノロジー企業との協力のためのコミュニケーションプラットフォームを構築し、まだ発売されていない新しいアプリケーションを共同で評価し、新しいテクノロジーの合理的な適用を確保することも、今後の重要な研究課題です。

技術の諸刃の剣の発展は避けられないが、プライバシー保護とAI技術は両立できる。論争や欠陥があるからといってAIを放棄するのは逆効果だろう。インテリジェントテクノロジーを使用して AI テクノロジーのプライバシーの抜け穴を修正することも、AI の発展に遅れを取らないための最善の方法です。プライバシーに関するさまざまな異常や問題は常に存在しますが、魔法には魔法でしか勝てないAIによって、私たちの不安や悩みは軽減されました。

プライバシー保護は多次元のゲームベースのプロセスであり、現在検討しているソリューションもプライバシーの抜け穴が存在するという前提に基づいています。では、プライバシーの抜け穴を根絶する方法はあるのでしょうか? 実際、最善の解決策は、開発と設計の初期段階でプライバシー漏洩を引き起こす可能性のあるソリューションを意識的に回避することです。研究開発技術者は、AI技術が人間や社会に与える影響をより深く考慮し、イノベーションの最初から物議を醸す領域を避けるよう考慮する必要があります。技術道徳と倫理の内容は絶えず改善されており、技術者集団の実施と充実も求められています。

テクノロジーは常に中立です。非倫理的で違法なプライバシー侵害は、最終的に企業とその背後にいる技術開発者を恥の柱に釘付けにします。将来、テクノロジーと法律が改善されれば、ワイン3杯の罰は存在しなくなります。最終的には、誰かがプライバシーとセキュリティテクノロジーの開発における行動の代償を払い、AIの開発のために自分自身を犠牲にするでしょう。