この記事はAI新メディアQuantum Bit(公開アカウントID:QbitAI)より許可を得て転載しています。転載の際は出典元にご連絡ください。 週末の午後、自宅でゲームをしていたとき、隣にあるスマートスピーカーに小さな緑色の点があることに気づきませんでした。 それは窓の外の通りの向かい側の別の建物から発せられたレーザー光線でした。 突然、部屋の電気がついた。 エアコン、空気清浄機、掃除ロボットはオンになり、eコマースプラットフォームは携帯電話に引き落とし通知を受け取り、家の外のガレージのドアもすでに開いています... そして、あなたの携帯電話やタブレットが突然おかしくなり始め、さまざまなアプリを必死にダウンロードしたり削除したり、奇妙なビデオや音楽を再生したり、ソーシャル ソフトウェアで友人に奇妙なメッセージを送信したりします... いったい何が起こったのでしょうか?気づかないうちにあなたの人生に侵入してきたのは誰ですか? 実際、これは日本の電気通信大学とミシガン大学の科学者による新たな発見です。 音声アシスタントを搭載したデバイスにレーザーを当てると、人間の声を模倣し、マイクによって電気信号に変換され、接続されたデバイスを制御するコマンドを静かに発行することができます。 そのため、Google Assistant、Amazon Alexa、Apple Siriに接続された機械は、スマートランプ、ドアロック、電化製品などのハードウェア設備であれ、さまざまな電子商取引、決済、ソーシャルアプリであれ、知らないうちに制御されることになります。 科学者たちはまだ他のブランドの音声アシスタントでこれをテストしていないが、Quantum位はテンセントのセキュリティチームであるTencent Blade Teamにインタビューし、彼らは「原則として、問題はほとんど同じです」と語った。 非常に強力なレーザーは必要ありません。通常のレーザーペンの強さで十分です。距離が110メートル離れていても、屋外の別の建物にいても、ガラス窓を通り抜けなければならない場合でも、自宅のスマートスピーカー、携帯電話、タブレットを制御できます。 ひどいデモプロセス科学者によるライブデモンストレーションを見に来てください。 Google アシスタントにガレージのドアを開けるよう指示する「OK Google、ガレージのドアを開けて」という文章がレーザーに埋め込まれ、スマート スピーカーのマイクに当たります。 スマートスピーカーが「OK、開けます」と応答し、ガレージのドアが開きました。 では、距離が非常に遠くに設定された場合はどうなるのでしょうか? 2回目のデモンストレーションでは、レーザー送信機とスマートスピーカー間の距離は最大110メートルでした。 科学者たちは「OK Google、今何時?」という文章の中にレーザーを埋め込み、それをスマートスピーカーのマイクに向けて照射した。 「9時43分です」誰も尋ねていないのに、スマートスピーカーが突然時刻を言いました。 窓の外の別の建物にいても、スマートスピーカーのレーザー制御には影響しません。 3番目のデモンストレーションでは、科学者らはレーザー光源を遠くにある高層ビルに移動し、ガラス窓を通してレーザーを発射し、窓用スマートスピーカーのマイクに、Googleアシスタントにガレージのドアを開けるよう指示する「OK Google、ガレージのドアを開けて」という文章を埋め込んだ。 発射地点は高くて遠かったため、科学者たちはレーザーに望遠レンズを装備しただけだった。 スマートスピーカーは「OK、開けます」と正常に応答し、ガレージのドアを開けました。 最後に、3つのデモンストレーション全体を視聴したい場合は、ビデオをクリックしてください↓↓↓ https://www.ixigua.com/i6757897498930446852/ もちろん、デモには「ゴースト ストーリー ライブ」のような雰囲気はありませんでした。その理由の 1 つは、レーザーが見えたこと、もう 1 つの理由は音声アシスタントの声が聞こえたことです。 そのため、科学者たちは、人間の目には見えず、比較的近い距離で作用する赤外線も試してきました。 音声アシスタントの応答が所有者に聞こえるという事実については、レーザーを使用して音量をゼロにするコマンドを送信するだけで、すべてを静かに制御できます。 これを見ると、レーザーがどうやって人間の声を真似できるのかと不思議に思うかもしれません。 マイクを人間の声のように聞こえるようにする物語は去年の春に始まります。 菅原健氏は日本のネットワークセキュリティ問題を研究する科学者です。彼は、新たに習得したスキルをミシガン大学の同僚であるケビン・フー教授に披露するために、わざわざ米国まで足を運んだ。 高強度のレーザーをiPadのマイクに向けて、1 秒間に約 1,000 回振動する正弦波を使用してレーザーの強度を連続的に調整します。 傅嘉偉はヘッドホンを着けて、マイクが受信した音を聞いていた。驚いたことに、彼は高周波の音を聞いた。 音波を受信する装置であるにも関わらず、光波を音波として受信してしまう。これがMEMSマイクの重要な弱点である。ほとんどの携帯電話やスマートスピーカーは MEMS マイクを使用しています。 この驚くべき発見以来、菅原君は傅佳偉の研究室と協力し、レーザーを使ってスマートスピーカーを騙し、音声コマンドを受信するさまざまなデバイスを攻撃する研究を始めました。 科学者らは、特定の周波数でレーザーの強度を調整することにより、レーザーが同じ周波数でマイクに干渉し、マイクが光波を電気信号に復調できるようになると述べています。 下の図に示すように、上部はレーザーから放射された信号を示し、下部はマイクで受信された信号を示しており、周波数はほぼ同じです。 照射位置を指定する必要はなく、レーザーをマイクに向けるだけで、日常生活で音波を電気信号に変換するのと同じように、マイクが光を電気信号に変換します。 もちろん、ランダムな電気信号だけではスピーカーにあなたの声を聞かせることはできません。人間が話していると思わせる必要があります。 そのため、研究者は、マイクが人間の音声に近い信号を生成できるように、レーザーを振幅変調 (AM) する必要もあります。 冒頭で示したように、彼らは「今何時ですか?」「音量をゼロにしてください」「レーザーポインターを購入してください」「ガレージのドアを開けてください」など、一連のコマンドを選択しました。 次に、これらの単語の音声波形を使用して、レーザーの強度の変化をカスタマイズします。 こうすることで、スマートスピーカーが受信する電気信号は、人間の声を聞いたときとほぼ同じになります。 当初、彼らは60ミリワットのレーザーを使用して16種類のスマートスピーカーをテストしました。 その結果、受信が成功できる最大距離は50 メートルになります。 携帯電話への攻撃はもう少し難しく、iPhone の場合は10 メートル以内、Android フォンの場合は5 メートル以内にある必要があります。 その後、科学者たちはこの技術の限界をテストしたいと考えました。そこでレーザーの強度を安価なレーザーペンと同等の5ミリワットに下げ、距離を110メートルまで延長した。 多くのスピーカーは反応しなかったものの、冒頭で述べたように、 Google Homeと第 1 世代のEcho Plus は依然として影響を受けていました。 難易度をさらに上げるには、 76 メートル離れた窓からレーザーを発射します。今回は、Echo を騙せませんでしたが、唯一残っている Google Home を騙すことができました。 マイクが光波にも反応する理由について、ハーバード大学の元電気工学教授ポール・ホロウィッツ氏は、マイクがレーザーを音波と誤認する原因となる物理的なメカニズムが少なくとも2つあると述べています。 1つは、レーザーパルスがマイクの振動板を加熱し、周囲の空気を膨張させて一種の圧力を生み出すというものです。音は音圧を発生させることでマイクで捉えることもできます。 第二に、攻撃を受けたデバイスが完全に遮光されていない場合、光は実際にはマイクを直接通過してチップに直接到達し、光波の振動を電気信号に変換することができます。 これは、太陽電池パネルのダイオードや光ファイバーケーブルの端における光電効果と同じ原理であると考えられます。こうなると、レーザーを音声コマンドとして解釈させる方が簡単になります。 さらに、Quantum位はテンセントのセキュリティチームであるTencent Blade Teamにもインタビューを行い、彼らの理解は次の通りです。
攻撃の難易度は下がりますが、防御の難易度は上がります。 Blade チームは、この研究の重要性は非常に大きいと考えています。
ハッキングを回避するにはどうすればいいですか? この攻撃の影響を見て、Google と Amazon はすぐに対応しました。 グーグルは研究結果を注意深く観察しているとし、ユーザー保護とデバイスのセキュリティ性能向上を常に重視していると強調した。 アマゾンも声明を発表し、論文を読んでおり、研究をより深く理解するために後日著者らと連絡を取る予定だと述べた。 メーカーが対策を講じる前に、研究者たちはメーカーに親切なアドバイスを提供している。
もちろん、製品をこのようにアップグレードするには、かなりの時間がかかります。 今できることは、スマートスピーカーをハッカーが見ることができる場所に置かないようにすることです。 それ以外の場合は、ロック解除が必要なデバイスを使用する必要があります。顔認証と指紋認証は保護を提供し、音声アシスタントがハッカーからの指示を受け取るのを防ぐことができます。 Tencent Blade Team はまた、音声認識をオフにすることが最善であると提案しています (音声認識はレーザーによって偽装することもできるため)。または、デバイスの外側にあるマイクのポートに黒いラベルを貼り付けてレーザー攻撃をブロックすることもできます。 著者第一著者の菅原健氏は、日本からアメリカに渡り、自らの腕を披露した人物で、電子通信大学(UBE)の准教授である。 ミシガン大学の教授であるケビン・フー氏は、さまざまな AI への攻撃に焦点を当てています。 QuantumBitは以前、ハードドライブを盗聴装置に変える方法を報告しており、彼もその研究に参加していた。菅原くんが彼を探すために何千マイルも旅するのも不思議ではない。 ダニエル・ゲンキンはミシガン大学の助教授です。彼と傅佳偉氏はともにこの研究のリーダーである。 さらに、Fu Jiawei 教授の研究室に所属する Benjamin Cyr 氏と Sara Rampazzi 氏の 2 名の著者もいます。 |
<<: クアルコム副社長ライナー・クレメント氏:「5G+AI+クラウド」は将来の産業をどのように変えるのでしょうか?
>>: 未来はここにあります。人工知能がもたらすリスクをどう軽減できるでしょうか?
デンマークは、1970年代初頭から国家政策の一環として風力タービンに投資した最初の国の一つであり、こ...
国際的に著名な学者である周海中教授は、1990年代に「科学技術の進歩により、人工知能の時代が到来しよ...
1. C言語プログラミング実験住所: http://www.shiyanlou.com/course...
エッジ コンピューティングへの期待が高まる中、業界では「エッジがクラウドを飲み込む」や、医療、小売、...
ChatGPT の人気が高まるにつれ、生成型人工知能 (GenAI) がテクノロジー業界の未来を大き...
この共有のテーマは、「OpenLLM を使用して大規模な言語モデル アプリケーションを迅速に構築およ...
コンシステント ハッシュ アルゴリズムは、1997 年にマサチューセッツ工科大学によって提案された分...
すべての分野の中で、人工知能は製造業に最も大きな影響を与えており、この変革はまだ始まったばかりです。...
[[436890]]最近、清華大学のチームが事前トレーニングを必要としない効率的な NLP 学習フ...
5月のI/Oカンファレンスでは、Med-PaLM 2が大幅にアップグレードされ、エキスパートレベルに...
これまで、韓国における常温超伝導の再現に関する多くの研究で示された重要な指標は、常温常圧の条件下で、...