敵対的 AI とは何ですか?なぜそれが重要なのでしょうか?

[[250514]]

[51CTO.com クイック翻訳] 人工知能 (AI) は、政府、企業、国民がサイバー攻撃から身を守るための重要な要素として急速に成長しています。当初は特定の手動タスクを自動化していたテクノロジーから、ますます高度なシステムを使用してデータを解釈および分析する機械学習まで、ディープラーニング機能のブレークスルーはセキュリティ アジェンダの不可欠な部分になります。これらの能力が防御態勢にどのように貢献するかについては、大きな注目が集まっています。しかし、敵が AI をどのように利用して新しい世代の攻撃ベクトルをもたらすのか、そしてセキュリティ コミュニティがどのように対応すべきなのかについては、見落とされがちです。結局のところ、AI の本当の危険性は、それが攻撃者の共犯者になる可能性があることです。

チャレンジ

敵対的 AI とは、通常は人間の行動に関連する知的プロセスを備えた高度なデジタル技術およびシステムの悪意のある開発と使用を指します。これには、過去の経験から学び、複雑なデータから意味を推論または発見する能力が含まれます。

脅威の状況の変化はすでに明らかです。犯罪者はすでに、自動化された偵察、標的設定、ネットワーク侵入を利用しています。近い将来、テクノロジーによって、詐欺対策の学習やキャッシュアウトおよびマネーロンダリング戦略の産業化など、現在は手作業で行われているプロセスを含め、攻撃サイクルのあらゆる部分を自動化できるようになるでしょう。

ビッグデータの中核原則に基づいて、敵対的 AI は主に 3 つの方法で脅威の状況に影響を与えます。

1. より広範囲の攻撃サイクルにおける大規模な攻撃

通常、攻撃に人力と専門知識を必要とする新しいスケーラブルなシステムを導入することで、犯罪者はさまざまな標的に対する新しいインフラストラクチャの構築と変更にリソースと能力を投入することができます。

2. 状況に応じて変更できる新しい攻撃ペースと速度

テクノロジーにより、犯罪組織はますます効果的かつ効率的になるでしょう。テクノロジーにより、リアルタイムで攻撃を微調整し、特定の状況に適応し、防御姿勢をより迅速に学習することが可能になります。これは、すべての攻撃シナリオ、業界、テクノロジー プラットフォームに反映されます。

3. これまでは人間の介入に頼っていた場合には不可能だった新しいタイプの攻撃

最後に、次世代のテクノロジー システムにより、これまでは実現できなかった攻撃方法が可能になります。これにより、攻撃から保護するために導入された一連の制御を完全に回避する一連の変化によって、脅威の状況が変化することになります。

サイバーセキュリティコミュニティが対応すべき5つの方法

攻撃者が利用できる次世代システムの進歩には、強固なセキュリティ基盤に基づいた総合的かつ多層的なアプローチが必要です。攻撃ベクトルの変更や追加には、現在の防御フレームワークを進化させ、適応させる必要があります。新世代の攻撃方法が成功するには、従来の検出および対応体制を回避する必要があります。

1. 現在の脅威環境を理解する

企業を常にあらゆるチャネルからの攻撃から保護することは不可能です。敵対的な AI を理解し、防御するには、脅威が現在のセキュリティ体制にどのような脅威をもたらすのか、また限られたリソースをどこに集中させるべきかを深く理解する必要があります。

2. スキルと分析に投資する

この新たな安全保障環境に適応するために、政府、企業、教育システムは、必要なスキル基盤と人材パイプラインを確保する必要があります。優秀な人材を引き付け、採用する能力、そして高度なコンピューティング、数学、統合分析など、複数の分野でその優秀な人材を再訓練する能力が、近い将来重要になります。

3. サプライヤーや第三者への投資

包括的な多層防御は、進化する脅威の状況に適応しながら、運用レベルと戦略レベルの両方で防御を積極的に管理および改善する一連のサービスとサードパーティに基づいています。セキュリティ コミュニティは、敵対的 AI によって引き起こされる新しいタイプの攻撃に適応するために、明確なロードマップ、戦略、必要なスキルを備えている必要があります。ホストベースの検出とネットワーク監視のための統合クラスタリングと機械学習分析への投資は、ますます業界標準になりつつありますが、この高度なテクノロジーは、まもなく企業の攻撃対象領域全体に適用する必要が出てきます。

4. 新たな政府と企業のパートナーシップに投資する

新しい AI 駆動型システムの導入により、従来の防御態勢が揺らぎ、企業を保護するために、より深く幅広いパートナー基盤が必要になります。世界規模で実行される可能性のある大規模な攻撃に対抗するには、従来の構造を超えた積極的なパートナーシップと同盟が必要です。ここで鍵となるのは、業界横断的なパートナー、規制当局、政府との積極的な戦略策定です。これらのパートナーや規制当局、政府と連携して、新たなセキュリティ課題に積極的に取り組むための戦略を共同で策定することができます。これにより、パートナー間の認証と通信のルールを調和させる必要性が高まります。

5. 主要なビジネスプロセスと機能を継続的に統合する

この新世代の攻撃は、企業全体の攻撃対象領域全体を標的とし、総合的な防御メカニズムの欠如を悪用するため、構造的な運用サイロへの圧力が増大します。

今行動することがなぜ重要なのでしょうか?

サイバーセキュリティは 21 世紀においても引き続きセキュリティ上の課題となります。これにより、企業、政府、国民が協力して犯罪と闘う方法が根本的に変化しました。しかし、これはほんの始まりに過ぎません。

原題: 敵対的人工知能とは何か、そしてなぜそれが重要なのか?、著者: ウィリアム・ディクソン

[51CTOによる翻訳。パートナーサイトに転載する場合は、元の翻訳者と出典を51CTO.comとして明記してください]