人工知能とサイバーセキュリティは諸刃の剣

[[379153]]

[51CTO.com クイック翻訳] 研究によると、人工知能技術はさまざまな業界の組織のビジネスに大きな発展の可能性をもたらしますが、脅威とリスクももたらします。個人や組織がAI技術を利用して不正な利益を得たり、犯罪を犯したりした場合、AI技術は彼らの手に渡って武器となり、さまざまな脅威をもたらすことになります。セキュリティに関しては、AI テクノロジーにとって悪いニュースばかりではありません。たとえば、AI はネットワークの監視と分析に非常に効果的です。

人工知能は今日ホットな話題となっており、その用途や起こり得るリスクについての誤解や混乱が増えています。一方、文学作品や映画では数十年にわたり、人工知能技術はディストピア的で万能なロボットとして描かれてきた。一方で、AIが人類社会の発展を加速させる可能性を理解している人も少なくありません。コンピュータ システムは学習し、推論し、行動を起こすことができますが、これらの動作はまだ初期段階にあります。機械学習 (ML) では、大量のデータから学習し、それを人間が AI に割り当てた機能に基づいてトレーニングやガイダンスに変換する必要があります。 AI に情報へのアクセスを許可し、完全な自律性を与えることは、制御しなければならない重大なリスクを伴います。

AI の主なリスクは、本質的にその作成者と関連しています。 AI システムは、人為的なミスや偶発的な偏見、プログラマーの不注意、データエラーなどにより、さまざまなミスを犯す可能性があります。 AI システムの設計が不適切だと、コンピューティング システムが大きすぎたり小さすぎたりして、AI システムが不必要な決定を下したり停止したりする可能性もあります。人間による監視などの制御システムを導入し、AI システムを厳密にテストすることで、設計段階でこれらのリスクを軽減できます。したがって、コンピューティング システムの意思決定能力を測定および評価して、偏った決定や疑わしい決定を必要に応じて迅速に解決および修正できるかどうかを確認する必要があります。説明した AI のリスクは、設計と実装における意図しないエラーや欠陥に基づいていますが、個人または組織が AI システムを悪意のある目的で使用し、犯罪者の手に渡って武器のように機能する場合、AI はさらなる脅威をもたらします。

サイバー犯罪者は、人々が考えるよりも簡単に AI 技術を利用し、そこから利益を得るために AI システムを「訓練」できる可能性があります。攻撃者は、コンピューターに入力されたデータセットを操作して（データポイズニング）、AI を「トレーニング」したり、制御パラメータを変更したりして、AI を自らの目的に向かわせようとします。サイバー犯罪者がデータセットにアクセスできない場合、改ざん技術を使用して AI システムに計算エラーを強制したり、データセットを正しく識別することを困難にしたりすることができます。単に経済的な理由からデータや入力の正確性を確認することが現実的でない場合でも、セキュリティ担当者は信頼性が高く検証済みのソースからデータを収集するためにあらゆる努力を払う必要があります。サイバー攻撃に対する防御策としては、AIシステムの一部または全体に自動防御機構を備えた隔離機能が追加されていることが特筆に値します。

ディープフェイクの力

サイバー犯罪者は、AI を使用してサイバー攻撃やソーシャル戦略をより効果的にすることもできます。人工知能は、どの手法が最も効果的かを研究するためのハッカー活動のデータセットを提供することができます。 AI を使用すると、サイバー犯罪者が現在実行しているすべての戦術が大幅に改善される可能性があります。 AI を活用できる可能性のあるもう 1 つの分野としては、ソフトウェア、アプリ、または Web サイトのコードにおける新たな欠陥の特定が挙げられます。この場合、AI システムは、よく訓練されたブラッドハウンドのように、潜在的な攻撃ポイントの範囲を提供します。

ディープフェイクの影響を忘れてはならない。ディープフェイクは、サイバー犯罪者がソーシャル ソフトウェアを悪用する最前線となる可能性がある。たとえば、2019年に英国でディープフェイクを使った詐欺事件が発生し、ある企業の財務担当者がディープフェイクの音声通話技術に基づいた巧妙な詐欺の被害者となった。被害者は会社のCEOと話していると信じ込まされ、指示に従って躊躇することなく25万ドルをサイバー犯罪者に送金した。電話詐欺がディープフェイク技術を使って不正な利益を得る手段の一つであることは間違いない。

しかし、これまで見てきたように、ディープフェイクは明らかに成功し、説得力を持って展開することができます。被害者は当時、CEOの声を「わずかなドイツ訛り」と「話し方のリズム」で特定したと語っていた。最近では、ディープフェイクオーディオを作成するプロセスは非常に簡単です。サイバー犯罪者は、ターゲットの声を複製するために機械学習技術を使用するだけでよく、多くの場合、ターゲットの声を何時間も録音できるスパイウェアや機器を使用します。

収集できるデータが増えるほど、オーディオファイルの品質は向上します。実際、音声クローンの精度が高ければ高いほど、損害が発生する可能性が高くなります。音声パターンが作成されると、AIはターゲットの声を模倣することを「学習」し始めます。次に、生成的敵対ネットワーク (GAN) と呼ばれるものを使用して改善され、これにより、アルゴリズムは多くの試行を通じて指数関数的に改善されます。

これは、知名度の高いターゲット（有名企業の CEO など）にとっては良いニュースではありません。彼らのスピーチはオンラインで録画され、ソーシャルメディアで共有される一方、電話、インタビュー、日常会話の音声や動画は比較的簡単にアクセスできます。十分なデータがあれば、ディープフェイク音声ファイルで達成される精度のレベルは驚異的であり、サイバー犯罪者は人工知能を使用して、話させたい言葉を何でも模倣することができます。

フィッシングの進化

もちろん、フィッシングは今でも蔓延しており、85% の組織がサイバー攻撃の標的になっています。しかし、ディープフェイク音声がこれほど普及した主な理由の一つは、ほとんどのセキュリティ対策を回避できることです。一方、AI によって生成された通話は、完全に人間のミスや騙されやすさに依存しているため、潜在的なリスクとなります。さらに、常に手元にあるスマートフォンでさえ、人々が考えるほど安全ではないという事実も加わり、サイバー犯罪者がセキュリティ防御を回避する方法が数多くあることは容易に想像できます。

現在、フィッシングが大規模な問題になるのを妨げている大きな障害が 2 つあります。 1 つは、より高い費用対効果比がまだ達成されていないことです。フィッシング メールを送信するボットネットは、短期間で数百万通のメールを送信できます。ディープフェイクオーディオには、ターゲットの調査と処理時間が必要です。この期間中、従来のサイバー攻撃手法はより多くの利益を生み出すことができます。第二に、AI を活用したサイバーセキュリティ対策はまだ実験段階にあるのは事実ですが、この脅威に対抗する効果的な方法はすでに存在します。ユーザーがそれが真実かどうか確信が持てない場合は、電話を切ることができます。

ディープフェイク詐欺のほとんどは、サイバー犯罪者が標的と連絡を取るために作成した VoIP アカウントを使用して実行されます。折り返し電話をかけることで、相手は実際の人間と話しているかどうかをすぐに判断できるようになります。

組織と個人のセキュリティのために人工知能を活用するにはどうすればよいでしょうか?

人間にとって、セキュリティの面で人工知能は悪いニュースばかりではありません。人工知能はネットワークの監視と分析に非常に効果的です。このようなコンピューティング システムは、標準的な動作を検出し、異常の可能性を特定するのに驚くほど効果的であることが証明されています。この機能は、たとえば、サーバーのアクセス ログやデータ トラフィックを分析するときに使用できます。侵入を事前に検出することで、サイバー攻撃の破壊力を最小限に抑えられる可能性が高まります。初期のアプリケーションでは、AI システムが異常を報告し、IT 部門にさらなる調査を警告することが役立つ場合があります。 AI技術は現在も進歩を続けており、近い将来には脅威を排除し、サイバー攻撃をリアルタイムで防止できるようになるかもしれません。公共部門と民間部門の両方でサイバーセキュリティの欠陥が存在することを考慮すると、AI システムがこれらの監視タスクの一部を実行し、組織の人々が複雑な問題の解決に集中できるようにすることができます。

組織が人件費の削減に努め続ける中、AI はますます魅力的になり、近い将来にサイバーセキュリティ担当者に取って代わると予想されています。この移行により、結果とコスト効率の面で組織にさらなるメリットがもたらされます。しかし、賢明な組織は、AI テクノロジーを使用したサイバー攻撃によってもたらされる潜在的なリスクを軽減するために、今すぐセキュリティ戦略を策定する必要があります。

原題: 人工知能とサイバーセキュリティ: 両刃の剣、著者: Pierguido Iezzi

[51CTOによる翻訳。パートナーサイトに転載する場合は、元の翻訳者と出典を51CTO.comとして明記してください]