セキュリティにおける AI の必要性: 機械学習から機械の作成まで

セキュリティ専門家は、自分の仕事が人工知能に置き換えられることを心配する必要があるのでしょうか?

警備員は自分の仕事が人工知能に置き換えられることを心配する必要があるのでしょうか? 今日、この質問を再び受けました。学生たちの不安と期待に満ちた目を見ていると、セキュリティ業界で20年以上働いてきたベテランとして、とても感動し、言いたいことがあるような気がします。

1. 20年以上前、私は大学に入学したときに人工知能の授業に配属され、ちょうど人工知能ブームの底に間に合うように卒業しました。

私のクラスメートは卒業証書から「人工知能」という言葉を削除したかったに違いありません...音声認識、自然言語理解、画像認識に取り組んだ人たちは人工知能について一度も言及しませんでした。私も大学4年生の時に仕事を辞めて、ネットワークシステムグループに早めに異動しました。無知でしたが、幸運にもネットワークセキュリティの仕事に就くことができました。

今は状況が変わり、人工知能の新しい波が来ています。 今回はディープラーニング技術が主導権を握ります。 ディープラーニング技術は、視覚や音声への幅広い応用、自動運転の推進、AlphaGoによる人間のチェスプレイヤーの圧勝、そして継続的な進化により、世界を席巻しつつあるようです。 私たちのセキュリティ業界でも、このシナリオは例外ではありません。 セキュリティ研究に携わる私の新旧の友人の多くが、ディープラーニングをナイフのように使って、さまざまなセキュリティ問題に取り組んでいると聞きました。

人工知能の他の分野、特に従来の機械学習と遺伝的アルゴリズムは、セキュリティのいくつかのサブフィールドで実際に大きな成果を上げています。特に、異常な動作の検出や情報の分類などのシナリオで役立ちます。 最近、多くの古い友人も、セキュリティ分野に人工知能を適用してきた長い歴史を示すために、その資産を掘り起こしました。

同時に、自動機械攻撃と防御、自動脆弱性発見と悪用も業界の焦点となっています。 米国DARPAはCGC全自動攻撃防御チャレンジを開催し、中国のQihoo 360とYongxin ZhichengもRHGマシン自動攻撃防御コンテストを開催しました。Sai Ning XCTFは、世界で初めて人間と機械の協力によるCTFコンテストを開催しました。 現時点では、若い警備員が業界の将来性を心配し、職を失うことを懸念していることは理解できます。

[[212400]]

2. 私の意見を述べる前に、2 つの事実を述べさせてください。

1つは、昨年のCGC決勝後の人間と機械の安全性の対決の結果です。 2016 DEFCON CTF 決勝には 15 チームが参加しました。CGC チャンピオンの Mayhem システムは、14 の人間チームに敗れ、最下位となりました。

もちろん、これは単なるゲームであり、ゲームの初日には Mayhem インターフェースに問題が残っていました。ただし、競技内容はマシン専用に設計されており、現実世界のタスクとはまったく異なる単純化された環境で実行されることを忘れないでください。もちろん、他のチームにも自動システムがあり、セキュリティ対決における機械の役割については後ほど説明します。 いずれにせよ、この結果は、少なくとも機械が人間のセキュリティ チームになるにはまだまだ遠いことを示しています。

もう一つの事実は、トップクラスの警備員の賃金が最近高騰し続けていることだ。どうすればわかりますか? 業界の非技術者であれば、人事部に確認を依頼できます。 セキュリティ技術者の場合、得意分野であれば、直接オファーを数えることができます。ヘッドハンティング会社から連絡がない場合は、LinkedIn ページを更新していないことが原因である可能性があります。

[[212401]]

3. 冒頭の質問に戻りますが、まず少し変えさせてください。ディープラーニングで解決されていないセキュリティ上の問題は何でしょうか?

直接的な答えは、ほとんどのセキュリティ問題はディープラーニングでは解決されないということです。 セキュリティは非常に広範な分野であり、ここでは、セキュリティ分野においてディープラーニングが現在最も得意としていない点に焦点を当てます。

個人的には、ディープラーニングが現在最も苦手としているのは、セキュリティ業界における最も重要な技術の 1 つ、つまりハッキングにおける「ハッキング」行為だと考えています。

ハッカーの「ブラック」という言葉。 一般の人が「黒」というと、違法産業の黒、あるいは闇の黒と考えるのは簡単です。 ハッカーの「ヘイ」は実際には動詞であり、ハッキングの行為に由来しています。 ハッキングとは何でしょうか? 私の定義では、ハッキングとは型破りな方法を使って問題を解決する行為です。

セキュリティの問題を具体的に言えば、セキュリティにおけるハッキングとは、プログラムの設計されていない機能を発見し、それらの機能を組み合わせて新しいプログラムを書き直して形成し、元のプログラムやシステムにない機能を実装することです。 たとえば、一般ユーザーにとって、Microsoft の数式エディターは、Word 文書や PPT に数式を挿入するために使用されるプログラムです。 しかし、私はあなたに、Word プログラムを即座にスパイ プログラムに変え、マイクをオンにして、録音した音声をインターネットにアップロードできる公式を教えますが、信じますか?

警備員ならそれができる。 この例は私が作ったものではなく、2017 年に表面化した多くの脆弱性の 1 つにすぎません。

Microsoft の数式エディタを含め、ほとんどのプログラムには「主な仕事」をこなすだけでなく、さまざまな「特別な機能」が備わっています。 これらの特殊機能の一部はプログラマーのミスによって発生しますが、プログラム自体やコンピュータ システムの実装におけるさまざまな要因によって発生するものも多数あります。 実際の例で言えば、食品配達員をプログラムとして想像すると、ユーザーは食品の注文と配達だけを見ることになります。 しかし、この機能を実現するには、配達員が食べ物を配達しなければなりません。ユーザーは配達員がどのルートを通ったか、道路で赤信号を無視したかどうかを知ることはできません（気にしないかもしれません）。 セキュリティ担当者は、プログラムの設計されていない機能を発見し、これらの機能を組み合わせて、対象プログラムとは無関係な機能を実装することができます。たとえば、配達員（プログラム）が特定の場所では必ず赤信号を無視する場合、攻撃者はこれを悪用して、配達員に特定の注文行動を通じて特定の時間と場所で交通問題を引き起こすように誘導する可能性があります。 対象プログラムの設計されていない機能をプログラム的に利用するプロセスをハッキングと呼びます。

技術的な観点から見ると、ハッキングには次のような困難があります。 1 つ目は、プログラムやシステムのさまざまな設計外の機能を探すことです。 2つ目は、デザイン以外の機能をコンポーネント化し、有機的に組み合わせる方法です。 つまり、これらの非設計機能を使用してプログラムを作成します。 これらのプログラムは、コンポーネントが特別に設計されていないため、作成が容易ではありません。 通常のプログラミングが、子供がレゴを使ってブロックを組み立てるようなものであるとすれば、ハッキングは、いたずらな子供が廃棄ブロックを使ってバイオリンを作るようなものです。そして彼は大人たちに内緒でそれをやったのです。 これは、セキュリティ研究において、攻撃者はこれらの設計されていない機能をどのように組み合わせるかを考慮する必要があるだけでなく、防御者のさまざまな防御に対抗または回避する必要があるためです。

ほとんどのセキュリティ研究者は、ROP、JOP、DOP などの攻撃手法に精通しています。これらの攻撃の核心は、さまざまなプログラム フラグメントやデータへの影響を論理的につなぎ合わせることです。これらの設計されていない機能断片を接続する方法があるだけでなく、より包括的な攻撃機能を実現するために、セキュリティ研究者はこれらのコンポーネントを使用してチューリングマシンを実装する方法を研究します。 セキュリティ研究者は、これらの設計されていないコンポーネントがチューリング完全なマシンを形成できることが証明されると、そのマシン上で任意のプログラムを作成できることも証明しました。 攻撃と脆弱性の悪用を研究するプロセスは、コンポーネントを発見し、それを使用してチューリング マシンを構築するプロセスです。

結局のところ、セキュリティのハッキングには、マシンを作成してプログラムするスキルが必要です。そのため、セキュリティの中核には、機械学習ができる人工知能だけでなく、機械創造ができる人工知能も必要になります。

現在、このタイプのマシンを作成する手段は、セキュリティ担当者が厳格なロジックに基づいて構築することです。 このプロセスでは、設計者はシステム内の可能なコンポーネントを完全に理解し、それらを組み合わせる方法と、導入される障害に対して防御する方法に精通している必要があります。 問題を解くときに最も必要なのは、指定された命令のレジスタ値を特定の値にどう変更するかといった、精密なロジック制御です。 これが、ロキハートのようなトップハッカーがこれほどまでにリードしている理由です。なぜなら、彼らは Microsoft のエンジニアよりも Windows カーネルをよく理解しており、Apple のプログラマーよりも Safari ブラウザをよく理解しているからです。

現時点では、統計的手法を使用して複雑な論理システムを構築する方法がわかっていません。 現在普及しているディープラーニングは統計アルゴリズムです。 ディープラーニングは、多くの統計ベースのタスクの解決に役立ちます。 たとえば、木がどのように見えるかについての説明。 木とは何でしょうか? 人間の判断は、詳細な論理ではなく経験によって定義されます。 ディープラーニングは、正確な論理的記述がない物事への対応を支援するのに優れていますが、現在のところ、ディープラーニングの論理的帰納および判断能力はまだ非常に弱いです。 推論と強力な論理的関係を備えたディープラーニングも、現在重要な研究方向です。

したがって、セキュリティの中心的な問題は機械の作成であり、これは現時点ではディープラーニングでは解決できないと私は主張します。

もちろん、機械構築の過程では、ディープラーニングによって支援できる問題がいくつかあります。答えはもちろんイエスです。 しかし、ディープラーニングはまだセキュリティの中核に革命的な変化をもたらしておらず、トップクラスのセキュリティ人材の需要は高まるばかりです。 上記は私の個人的な意見ですので、批判していただいても結構です。 研究者は実践を通じて私の主張に異議を唱えることも歓迎します。

さらに、人工知能技術には、記号論理演繹、遺伝的アルゴリズム、機械学習、ニューラル ネットワークなど、多くの技術分野があります。 上記はディープラーニングに焦点を当てていますが、他の人工知能手法も広く使用されており、セキュリティに効果的です。若者はセキュリティにおける人工知能の応用に注目しており、人工知能は単なるディープラーニングだと考えるべきではありません。

[[212402]]

4. 2 番目の質問は、将来、人工知能が本当に自動機械構築へと進化した場合、セキュリティ研究者は職を失うことになるのでしょうか?

生徒たちはこの質問をしなかったが、先生はもう少し言葉を添えるのが習慣だった。 セキュリティ業界で長年働いてきた人なら誰でも、セキュリティの本質は対決であることを知っています。 人工知能の能力が向上するにつれて、セキュリティの対抗手段の能力も向上します。実際、一部の分野では、ブラック産業（ハッキングという意味でのブラックではありません）がディープラーニング技術を活用し始めています。統計ベースの AI との戦いは、セキュリティ研究の新たな焦点となるはずです。

将来、人工知能が自ら機械を構築し、プログラミングできる段階に達すると、セキュリティ攻撃や防御を行う研究者は、機械を自動構築する能力を持つ敵とどのように戦うかを考える必要があるだろう。我々人類が存在する限り、攻防の対決は終わりなく続くだろう。