AIがサイバーセキュリティにできること、できないこと

過去数か月間にネットユーザーを最も怖がらせたものは何かと問われれば、それは以下のウイルス攻撃だろう。

7月にはCopyCatウイルスが1,400万台のAndroid携帯に感染した。

6月には、ペティアウイルスが世界60か国以上に感染した。

5月にはWannaCryウイルスが猛威を振るい世界を席巻し、少なくとも150カ国が攻撃を受けた。

しかし、セキュリティベンダーのRisingがウイルス感染数、亜種数、代表性などに基づいて選んだ「2017年上半期トップ10ウイルス」では、恐ろしいWannaCryウイルスは9位に留まりました。

ライジングが発表した「2017年上半期の中国サイバーセキュリティレポート」によると、2017年1月から6月まで、ライジングの「クラウドセキュリティ」システムは合計3132万件のウイルスサンプルを傍受し、23億4000万件のウイルス感染が発生した。ウイルスの総数は2016年の同時期と比較して35.47％増加した。

ウイルスの増加によりサイバーセキュリティへの注目がかつてないほど高まり、AI主導のサイバーセキュリティ企業も資本の支持を受けるようになりました。 6月だけでも、サイバーセキュリティに人工知能を活用している少なくとも7社が新たな資金調達ラウンドを実施し、資金調達総額は5億ドル近くに上った。

ネットワークセキュリティは深刻な課題に直面している

「2016年、世界のインターネット利用者は35億人に達し、世界の総人口の約半分を占めています。2020年までに、インターネットに接続される端末機器の数は120億に達すると予想されています。」これは、国際電気通信連合が2017年7月に発表したグローバルサイバーセキュリティインデックスのデータです。

スマートデバイスの普及により、モノのインターネットの大規模な普及は、攻撃者に多くの新たな機会を提供することは避けられません。仕事と生活の境界はますます曖昧になっています。インターネットに接続されたデバイスが侵害されると、銀行などの金融情報から健康などの個人情報まで、あらゆる情報が漏洩する可能性があります。インターネット時代では、1 つのデバイスが制圧されると、他のデバイスも瞬時に破壊される可能性があります。

これには前例があります。 2016年10月、Miraiと呼ばれるマルウェアが、スマートカメラ、スマートゲートウェイ、スマート家電など、脆弱性を持つ多数のIoTデバイスを攻撃しました。感染後、それらは瞬く間にネットワーク内の「ゾンビ」デバイスとなりました。産業制御の分野では、2010 年に Stuxnet ワーム ウイルスがシーメンスの監視制御およびデータ収集 (SCADA) システムを攻撃し、USB フラッシュ ドライブとローカル エリア ネットワークを通じて拡散しました。

すべてがつながり、イントラネットとエクストラネットの境界は徐々に曖昧になり、ネットワークの一般化が大きなトレンドになっています。たとえば、テスラの車はさまざまな場面で WiFi にアクセスでき、3G/4G ネットワークにもアクセスできます。将来の交通では、自動運転車は信号機、交通ステーション、さらには他の車とも通信するようになり、潜在的な攻撃ポイントが増えることになります。

「ネットワークに接続されると、多くの従来の攻撃方法は、コンピュータを攻撃するのと同じように、自動運転車を攻撃することができます。WannaCryウイルスは自動車にも侵入することができ、さらに大きな問題を引き起こすでしょう」と、ドイツのフラウンホーファー応用統合情報セキュリティ研究所の認知情報セキュリティ研究グループの責任者であるシャオ・ホアン氏は、マシンパワーとのインタビューで語った。

これは、ネットワーク セキュリティが現在も将来も厳しい試練に直面することを示しています。人工知能がさまざまな垂直分野に応用されるにつれて、ネットワーク セキュリティが直面する新たな課題は、人工知能がその能力を発揮する重要な機会も提供しています。

この新興分野では、すでに巨人が出現しています。人工知能を使ってサイバー攻撃を予測する企業、サイランスは評価額10億ドル以上のユニコーン企業。同社の人工知能ウイルス対策ソフト「Cylance PROTECT」は、脅威の発生を予測できる。同社は昨年、ネットワーク接続なしでわずか60MBのメモリとCPUの1%を使用してコンピュータを攻撃から保護できる技術を実証した。

サイバーセキュリティにおける人工知能: 異常検出と効率性の向上

サイバーセキュリティの分野では、脅威の特定は一夜にして行われるものではなく、段階的なプロセスです。アジア情報サイバーセキュリティ産業技術研究所のトン・ニン副所長は、7月上旬に開催されたC3セキュリティサミットで、セキュリティベンダーは当初、ブラックリストとホワイトリストの技術を使用してターゲットを善悪に分類し、そのような一元的な特徴を使用して脅威を特定していたと紹介した。次に、一致する文字列などの 2 次元の特徴があります。リクエストに特定の種類のデータが含まれている場合、それは不正であると見なされます。次は多次元の特徴です。プログラムの良し悪しを判断するには、まずプログラムを実行し、その実行プロセスを監視し、実行プロセス中の情報を多次元の特徴に形成して判断します。しかし、多次元機能技術の致命的な欠点は、コストが高すぎて効率が悪く、顧客の要件を満たすことができないことです。

2000 年以降、モバイル インターネットの発展に伴い、多数のデバイスがさまざまなログを生成するようになり、ログの管理と分析が大きく進歩しました。関連性分析を含む機械学習アルゴリズムも広く使用されています。

童寧氏は、機械学習において、教師あり学習は、悪意のあるプログラム、ランサムウェアウイルス、スパムの予防と治療に適した効率的な多次元特徴発見方法であると述べた。しかし、教師あり学習にも課題があります。まず、モデルの新しさです。脅威は毎日変化しますが、教師あり学習は毎日学習するわけではありません。毎日学習しなければ、最新の脅威を特定できません。 2 番目は、モデルの精度です。学習は重要ですが、実際に使用したときの精度は別の問題です。 3 番目は、モデルのリコール率、つまり、どれだけの脅威が見逃され、どれだけの脅威が捕捉されなかったかです。

したがって、教師あり学習は万能ではありません。たとえば、不正行為防止、状況認識、ユーザー行動分析などは、教師なし学習の方が適しています。ただし、教師なし学習は通常、顧客のネットワーク環境で実行されるため、ポイズニング攻撃を受ける可能性があり、他の課題にも直面します。

「機械学習技術の利点は、多次元認識能力です。しかし、機械学習技術がいかに強力であっても、より良い結果を得るには他の手段と組み合わせて使用​​する必要があります」と童寧氏は述べた。

シャオ・ホアン氏はまた、ネットワークセキュリティに機械学習を使用する場合、多くのシナリオで予測精度が要求される誤報基準である0.000001に達しないことを指摘した。この観点から見ると、人工知能は補助的な手段に過ぎず、従来の手段と組み合わせる必要があります。

しかし、シャオ・ホアン氏は、ネットワークセキュリティに人工知能を使用すると、分析効率が向上するという別の利点もあると考えています。人工知能の典型的な役割は、多くの反復的な作業を人間に代わって行うことです。たとえば、人工知能を使用して画像解析を行うことで、放射線科医は非効率的で反復的な作業から解放されます。

サイバーセキュリティ業界でも同様です。

統計によると、現在、中国のサイバーセキュリティ人材の総需要は70万人を超えていますが、新しい人材の数は毎年2万人から3万人しか増えておらず、95％のギャップが残っています。さらに、アナリストが毎日分析できる脆弱性の数は非常に限られています。

「自動化手段を使わないと、将来IoT接続デバイスの数が爆発的に増えたときに、大量の情報セキュリティリスクを分析するのに人間だけに頼るのは不可能になるだろう」とシャオ・ホアン氏は言う。情報セキュリティアナリストは1日に1000～2000個のログデータ、もしくは100～200個のコードスニペットしか見ることができないが、人工知能なら数百万のデータでも数分しかかからない。

シャオ・ホアン氏の観察によると、情報セキュリティと人工知能は異なる分野であり、思考方法にも一定の違いがある。前者はシステム工学に傾倒しており、後者は数学的思考に傾倒している。そのため、シャオ・ホアン氏の同僚の多くは、人工知能は限られた問題しか解決できないと考えており、従来の方法を使用することを好みますが、分析の自動化の方向についても考えています。

「情報セキュリティに携わる人は誰でもこの方向に進むべきだと私は信じています」。シャオ・フアン氏は、ますます成熟する自動化手法を使用して、分析の効率、適時性、規模、説明可能性など、垂直分野でのパフォーマンスを向上させたいと考えています。

人工知能時代の攻撃と防御

サイバーセキュリティは、悪魔が常に善よりも強力である世界です。セキュリティ担当者は人工知能技術を使用してハッカーの攻撃をブロックしますが、これによりハッカーは人工知能技術を使用してより高度な攻撃を仕掛けることができるようになります。多数の人工知能モデルがオープンソース化されるにつれて、ハッカーツールはより多様化しています。

シャオ・ホアン氏は、ハッカーはほんの少し学習するだけでオープンソースのツールを使って認識システムを欺くことができ、技術的な難易度が下がったことで多くの人がハッカーになったり、これまでは不可能だった攻撃を実行したりするようになるだろうと述べた。

これは根拠のない心配ではありません。

フィッシングメールにおいて、ハッカーが人間の話し方や内容を模倣するケースがあり、企業や個人がハッキングされたかどうかを特定することが困難になっています。

シャオ・ホアン氏は、今後ウイルスの変異体はますます増え、検出がますます困難になり、規模が大きくなり、生成時間が短くなると考えています。

典型的な画像入力に敵対的入力を重ねると、分類器がパンダをテナガザルと間違えてしまう可能性があります。

2017 年 2 月、OpenAI は最新の研究を発表し、人工知能のセキュリティ分野におけるもう 1 つの大きな懸念事項である「敵対的サンプル」を指摘しました。画像認識の問題では、攻撃者は敵対的なサンプルを機械学習モデルに入力して、機械に視覚的な幻覚を作り出し、システムに誤った判断をさせます。論文「敵対的事例の説明と活用」には、パンダの写真に人工的に設計された小さなノイズを追加した後、システムがパンダをテナガザルとして認識するという例があります。

Xiao Huang 氏は長年にわたり、敵対的機械学習を研究し、機械学習アルゴリズム自体の欠陥を克服することに専念してきました。彼は、データに依存する機械学習アルゴリズムとディープラーニングアルゴリズム自体に大きな欠陥があると分析した。敵対的生成ネットワークはこの欠陥を利用して、モデルを生成するための新しいアーキテクチャを設計します。

「現在の機械学習はデータ分布に大きく依存しているため、データ分布自体が複雑であったり、人工的に複雑にされたりした場合、ハッカーが悪意のあるサンプルを生成する手段を持っていれば、認識の失敗や誤認識につながる」とシャオ・ホアン氏はさらに説明した。

シャオ・ファン氏は、無人運転の分野で妨害行為が行われれば、結果は悲惨なものになるだろうと述べた。たとえば、ドイツのA9高速道路の無人運転テスト区間には、無人運転車を誘導するための特別な標識があります。道路標識が悪意を持って改変され、それに依存する自動運転車を誤解させるようなことがあれば、極めて危険な状況が生じる可能性がある。

シャオ・ホアン氏は、アルゴリズム自体の欠陥により、人工知能が大規模に利用されるようになった後、ネットワークセキュリティは考え方を変え、新しい方法を設計する必要があると考えています。

彼は次の道筋を示しています。

まず、分析終了時の解釈可能性を高めます。シャオ・ホアン氏は、ウイルスの脅威の侵入であれば、機械学習の検出方法では解決が難しいと分析しています。そのため、統計的手法を使用して、情報セキュリティ漏洩が発生したときに、ハッカーがどのようにシステムに侵入したか、攻撃経路は何か、どのリンクに問題があるかなどの相関関係を理解し​​たいと考えています。これらの相関関係を見つけたり、因果関係図の観点から分析したりすることで、分析側の解釈可能性を高めます。

第二に、現在の機械学習アルゴリズムモデルは複雑すぎるため、大量のデータを使用する必要があり、トレードオフが発生します。 Xiao Huang 氏は、事前の知識を導入したり、モデルが一方向に学習するように誘導するなど、アルゴリズムの複雑さを軽減する方法はたくさんあると考えています。このようにして、学習したモデルの複雑さが軽減され、必要なデータも少なくなります。

第三に、情報セキュリティインテリジェンスの共有も非常に重要です。たとえば、あるモデルに特定の欠陥がある場合、この欠陥を抽出し、効率的な方法を使用して別のモデルにコンパイルすることで、他のモデルにこの欠陥がないようにすることができます。 Xiao Huang氏は、これは転移学習に似ていると考えていますが、転移学習は学習結果を途中で転移する点が異なります。実際には、途中で学習した異常も転移できるため、アルゴリズムのセキュリティが向上します。

声明: この記事はもともとMachine Power (WeChatパブリックアカウント: Almosthuman2017) によって作成されたものです。