OT システムは、生成 AI によってもたらされるセキュリティ上の課題にどのように対処するのでしょうか?

現在、ほとんどのサイバー攻撃では、データの流出とデータの暗号化という 2 つの主な方法が使用されています。攻撃者は侵害されたデータを公開すると脅したり、復号化のために支払いを要求したりすることで金銭をゆすり取ることができるため、これらの戦術は効果的であることが証明されています。これらの攻撃は悪意のあるものでしたが、その範囲は限定されていました。彼らの目的は通常、人々に重大な危害を与えることではありませんが、攻撃者がそれ以上のことをするケースもあります。

現代のサイバー戦争では、真に斬新で創造的なアプローチは稀です。注目すべき例の 1 つは、イランでウラン処理に使用されている機械を妨害する自律型ワームである Stuxnet マルウェアです。また、2015年と2016年にはウクライナの変電所へのサイバー攻撃にBlackEnergyとIndustrioyerのマルウェアが使用され、大規模な停電を引き起こした。こうした展開は、サイバー脅威の進化する性質を浮き彫りにしており、一部の攻撃は現実世界に物理的な影響を及ぼし始めています。最近、サイバー攻撃によりクロロックス製品が不足しました。

もう一つの統計は、サイバー攻撃による産業や重要なインフラへの物理的な被害の事例が大幅に増加しているというものです。こうした攻撃の頻度は、過去10年間のわずか15件とは対照的に、2020年以降毎年倍増している。しかし、これらの物理的影響は通常、革新的な攻撃から生じるのではなく、むしろ物理的なプロセスに不可欠な機械を無効にする汎用の暗号化技術から生じます。

物理的な結果を伴う攻撃: 2023 年脅威レポート – OT サイバー攻撃とその物理的な結果。

ジェネレーティブAIが攻撃をどう変えるのか

映画や小説では、信号の操作から電車のスピードアップまで、人工知能が素晴らしい仕事をしているのをよく見かけます。これらの多くは人間向けに作られたもので、現実ではなく娯楽なので、サイバーセキュリティが崩壊したときに何が起こるかはわかっています。 AI がビル管理システムなどの環境内のネットワークを完全に制御できたら、何ができるでしょうか?

これを調査するために、私たちは、産業用制御と一般的な展開を備えた架空の水処理プラントに対する考えられる攻撃シナリオについて、生成 AI モデルと会話を行いました。その回答の多くは予想通りだったが、偽のデータの挿入など、いくつかは驚くほど正確だった。問題は、攻撃者が達成したい影響について基本的な考えを一度持つと、生成 AI を研究アシスタントとして使用して、非常に効果的な方法でそれをさらに発展させることができることです。

産業システムへの攻撃によって引き起こされる潜在的な被害に関して、ChatGPT は次のように回答しました。

1. インフラの被害:

• タービンの過負荷: 攻撃者は HMI を操作することで、タービンを安全でない速度または不適切な条件で動作させ、機器の損傷や故障を引き起こす可能性があります。
• 圧力の急上昇: システムを操作すると突然の圧力変化が発生し、パイプラインやその他のインフラストラクチャに損傷を与える可能性があります。
• オーバーフロー: 貯蔵タンクまたは貯水池がオーバーフローし、水害や機器の損傷を引き起こす可能性があります。

2. 業務中断：

• 不正なデータ挿入: 攻撃者が HMI に不正なデータを提供し、オペレーターに誤った判断をさせる可能性があります。
• シャットダウン: 攻撃者はプラントの一部または全部をシャットダウンし、水処理プロセスを中断して水不足を引き起こす可能性があります。
• 設定点の変更: 動作設定点を変更すると、プラントの動作が非効率になり、コストが増加し、処理が不完全になる可能性があります。

著名なサイバーセキュリティ専門家のロバート・M・リー氏は、画期的な論文「産業用制御システムのサイバーキルチェーン」の中で、運用技術のサイバー攻撃の段階を詳細に説明しています。この論文では、産業用制御システムへの攻撃を 2 つの異なる段階に分類しています。最初のフェーズは、一般的な情報技術 (IT) 攻撃方法と密接に関連しており、OT 侵入に特化した、より専門的な第 2 フェーズで最高潮に達します。

ICS キル チェーンの例: ステージ 1 は青、ステージ 2 は黄色です。画像クレジット: WATERFALL SECURITY

生成 AI は、主に人間の脆弱性を狙う初期の侵害段階を大幅に変更します。これには、音声の複製から、巧妙に作成された説得力のあるフィッシング メールまで、さまざまな戦術が含まれます。しかし、攻撃 AI の真の潜在能力は第 2 フェーズで発揮されます。

これらの OT シナリオでは、攻撃者はさまざまな動作環境、特に特定の物理プロセスに合わせて調整されたプログラマブル ロジック コントローラー (PLC) やその他のサーバーの調整を必要とする動作環境に合わせて効果的な攻撃を設計することが求められます。多くの攻撃者は従来の防御を回避できますが、水処理や製造などの特殊な領域になると、不十分な場合が多くあります。

生成 AI は、このダイナミクスを再構築し、攻撃者に洗練された適応型で効果的な攻撃方法を生み出す能力を提供する可能性を秘めています。これには、機械を損傷したり、人命を危険にさらしたりする可能性のあるコードが含まれる可能性があります。 Li 氏の論文では、「低信頼デバイス効果」などの動作は、実行が難しいものから比較的簡単なものへと移行すると述べられています。本質的に、第 2 段階の攻撃規模の全体的な状況は、生成 AI によって根本的に変化しました。

安全工学は AI に対する新たな安全網となるのでしょうか?

AI の民主化により、システムの誤った構成や資格情報の盗難に対する防御がより複雑になります。 OT システムでは、第 2 フェーズのリスクはさらに高くなります。ファイルを暗号化することは、マシンを破壊することとはまったく異なります。従来の防御システムは簡単に回避される可能性があり、これらの新たな脅威に対処できない可能性があります。もちろん、すべての希望が失われたわけではありません。

エンジニアリングの専門家は、AI によってもたらされる OT サイバーリスクを相殺するための強力なツールを自由に利用できます。たとえば、機械式過圧バルブは圧力容器の爆発を防ぐことができます。これらのシステムには CPU がないため、ハッカーの攻撃を受けることはありません。同様に、トルク制限クラッチはタービンを損傷から保護することができ、一方通行ゲートウェイは光学システムを使用して攻撃情報が特定の方向に通過するのを防ぎます。これらのツールは、IT セキュリティの対応が不足しているために見過ごされがちですが、すべてが変化しており、すぐに不可欠なものになる可能性があります。

AI の継続的な発展、IT システムと OT システムの融合、そして人間の安全や重要なインフラストラクチャを危険にさらす可能性のある独創的で効果的な攻撃の創出により、産業企業は確実な防御を必要としています。最先端の AI でさえも突破できないこれらの物理ベースの防御により、デジタル化が進む世界でも私たちの安全を確保できます。おそらく、今後数年のうちに、最も先進的な AI システムさえも阻止できるようになるでしょう。