AIがAIを攻撃、サイバーセキュリティ戦争が激化

最近のサイバーセキュリティ会議では、調査対象となった業界専門家100人のうち62人が、AIを活用したサイバー攻撃の第1弾は今後12か月以内に発生する可能性が高いと考えている。

AIの介入により、現在のサイバー犯罪とサイバーセキュリティシステムがさらにエスカレートし、攻撃者と防御者の間の軍拡競争の中核となる柱の1つになるでしょう。

この懸念は根拠のないものではありません。サイバーセキュリティは人手が限られている市場です。コンピューターは食事や休憩の必要がないだけでなく、AI自動化によって複雑な攻撃の速度と実行効率を向上させることもできるため、ハッカーがAIを使って攻撃するように誘導することも容易です。

ただし、現在公開されている研究は、コンピューターを使用して脆弱性を特定し、修正を提案するホワイトハットハッカーに限られています。しかし、AI の発展の速度を考えると、攻撃者が AI を大規模に利用し始めるのは時間の問題です。

AI ベースのサイバー攻撃はどのような脅威をもたらすのでしょうか?

まず、AI はハッカーが攻撃をカスタマイズするのに役立ちます。たとえば、スピアフィッシング攻撃では、攻撃者は銀行口座や希望する健康保険会社など、潜在的な標的の個人情報やその他の詳細を入手する必要があります。

AI システムは、攻撃者が大規模なデータベースを迅速に収集、整理、処理して情報を関連付けて識別するのに役立ち、最終的には攻撃の実装のハードルを簡素化し、攻撃の実行を高速化します。

さらに、作業負荷が軽減されると、サイバー犯罪者は小規模な攻撃を大量に実行できるようになります。単一の攻撃の影響は比較的限られているため、この種のアクティビティは検出されたとしても気付かれないことがよくあります。

AI システムを使用すると、複数のソースから同時に情報を抽出し、攻撃キャンペーンに対して脆弱なターゲットを特定することもできます。

第二に、AI は適応性の向上に役立ちます。 AI を活用した攻撃者は、抵抗に遭遇した場合や、サイバーセキュリティの専門家が元の脆弱性を修正した場合に、迅速に対応できます。この場合、AI は人間の指示なしに別の脆弱性を悪用するように切り替えたり、侵入する新しい方法を探してシステムをスキャンしたりする可能性があります。

これは、防御側が AI ソリューションの攻撃速度に追いつけないことを意味します。これにより、防御側が攻撃活動を検出して抵抗するための AI アシスタントを開発し、さらには報復攻撃機能を備えた AI ソリューションを作成するという、プログラミングとテクノロジーの軍拡競争の新たなラウンドが引き起こされる可能性があります。

第三に、AIは危険をもたらす可能性もあります。 AI の自律的な動作により、攻撃すべきでないターゲットを攻撃したり、システムに予期せぬ損失を引き起こしたりする可能性があります。

たとえば、当初は金銭を盗むことだけを目的としていた攻撃者が、AI ソフトウェアを実行した後に病院のコンピューターを標的にすることを決めると、身体的損傷や死亡などの深刻な結果に簡単につながる可能性があります。

結果と影響の重要性にもかかわらず、ほとんどの組織は最初の AI 攻撃を経験しても大きな変化に気付きません。しかし、私たちが AI システムを活用して家庭、工場、オフィス、さらには交通システムの改善に努めるにつれ、AI がもたらす潜在的な脅威は増大し続けるでしょう。

AIを使ってAIを攻撃する

AI によってもたらされる自動化された攻撃に加えて、AI を利用して AI を攻撃するハッカーも、業界が最も懸念する潜在的な脅威となっています。

敵対的機械学習の研究では、AI がハッキングされて完全に間違った判断を下す可能性があることが示されています。車の運転、ビデオ監視システムの分析、顔による人物の識別など、人工知能が私たちの生活のあらゆる側面に浸透するにつれて、これらのシステムへの攻撃はより起こりやすく、より危険になります。

たとえば、ハッカーが道路脇の交通標識を改変すると、自動車事故や人身事故を引き起こす可能性があります。機械学習システムのデータにわずかな変更を加えると、人工知能システムの判断に逸脱が生じる可能性もあります。

ハッカーがデータセットや現実世界の環境を改ざんして AI を攻撃するのを防ぐために、研究者は敵対的機械学習の研究に目を向けています。この場合、研究者は、ニューラル ネットワークや AI システムを騙して、存在しないものを見たり、存在するものを無視したり、何を分類するかについてまったく間違った決定を下したりするようにデータを操作します。

Google と NYU の研究者が行ったように、スクールバスの写真に人間には見えないデータノイズの層を追加すると、ニューラルネットワークはそれをダチョウだと認識するだろう。

このように使用できるのは画像だけではありません。隠された音声コマンドを放送に埋め込むことで、人に気づかれずにスマートフォンを制御することもできます。

「攻撃者が機械学習モデル生成プロセスのどの段階にいるかによって、攻撃の範囲は非常に広くなります」と、一時停止標識の研究にも携わったワシントン大学のコンピューターセキュリティ研究者、アーレンス・フェルナンデス氏は言う。例えば、顔検出アルゴリズムでは、攻撃者が悪意のあるデータでモデルを汚染し、検出アルゴリズムが攻撃者の顔を正当な人物として認識してしまう可能性がある。 ”

一方、推論時間攻撃は、さまざまなアルゴリズムを通じてモデルに慎重に作成された入力を提示することでニューラル ネットワークを混乱させます。高速勾配符号法 (FGSM) と現在最も優れた攻撃方法 (Carlini と Wagner) は、最も人気のある 2 つの方法です。

この種の作業は現在では攻撃として説明されていますが、哲学的に言えば、敵対的例はもともとニューラル ネットワーク設計におけるほぼ盲点と見なされていました。つまり、機械は人間と同じように物事を見て、人間と同様の基準を使用して物体を識別すると想定されているのです。

このアイデアは、Google の研究者が 2014 年に発表した「ニューラル ネットワークの興味深い特性」という論文で初めて説明されました。この論文では、画像に「混乱させる」要素を追加すると、ニューラル ネットワークがミスを犯す可能性があることが説明されており、研究者らはこれを「敵対的サンプル」と呼んでいます。

彼らは、わずかな歪みがニューラルネットワークを騙して数字を誤読させたり、スクールバスを他のものと間違えたりする可能性があることを発見した。この研究は、ニューラルネットワークの「固有の盲点」と、その学習プロセスの「非直感的な特徴」についての疑問を提起している。言い換えれば、私たちはニューラルネットワークがどのように機能するかを実際には理解していないのです。

ニューラルネットワークの不可解さゆえに、当面はAI攻撃についてあまり心配する必要はありません。 「我々の知る限り、この種の攻撃は現実世界で悪意のある人物によって使用されたことはない」とMITの研究者であるアニッシュ・アサリー氏は語った。

AI攻撃に対する防御

では、潜在的な AI 攻撃リスクに対して、どのような防御策を講じることができるのでしょうか?

まず、当然のことですが、サイバー防御における AI の利用を増やすことは悪い選択肢ではありません。サイバー防御ではすでに、教師あり学習と教師なし学習を組み合わせて、既存のパターンに基づいて新たな脅威やマルウェアを予測しています。

行動分析は、検討すべきもう一つの手段です。機械学習技術を使用して、システムや人間の活動を監視して、潜在的に悪意のある逸脱を検出することができます。

しかし、防御のために AI を使用する場合は、攻撃者がこれを予期していると想定する必要があることを理解することが重要です。また、悪意のあるアプリケーションを確実に予測できるように、AI の開発とネットワークにおけるその応用についても常に最新の情報を把握しておく必要があります。

この目標を達成するには、業界の専門家、学術研究者、政策立案者間の協力が不可欠です。立法者はAIの潜在的な用途を考慮し、「ハッカー」の定義を更新する必要がある。研究者は、研究結果が悪意を持って使用されないように注意する必要があります。パッチおよび脆弱性管理プログラムも、企業の世界では当然の注意を払う必要があります。

最後に、ユーザーもセキュリティを意識し、ソーシャル エンジニアリング攻撃を防ぎ、パスワードの再利用を控え、可能な場合は 2 要素認証を推進する必要があります。