AIシステムのセキュリティテストのための自動化ツール

高度なサイバー攻撃が増加していることから、サイバーセキュリティは今日マイクロソフトにとって最優先事項となっています。このため、Microsoft はサイバーセキュリティの脅威から自らを守るために、セキュリティ インフラストラクチャを継続的に更新しています。最近、マイクロソフトは Counterfit と呼ばれる新しいツールをリリースして、AI システムのセキュリティの問題に対処しました。

Counterfit は、企業または組織の人工知能システムのセキュリティ テストを自動化するために Microsoft が開発したオープン ソース ツールです。業界全体で AI システムが広く使用されていることを考えると、企業が自社の AI システムの堅牢性と信頼性に高い自信を持つことが最終的な目標となります。マイクロソフトは、調査対象となった28の組織のうち25の組織が、AIシステムを保護するための適切なメカニズムが導入されておらず、セキュリティ専門家がAIシステムに対する脅威に適切に対処できていないと考えていることを指摘した。

Counterfit はもともと、AI モデルを攻撃するために使用できるスクリプトのセットでした。 Microsoft は当初、これを自社の内部テストで使用していましたが、現在では Counterfit は複数の AI モデルを大規模に攻撃できる自動化ツールへと進化しています。同社によれば、これはマイクロソフトのAI事業の主要ツールとなっており、現在開発・生産段階にあるAIサービスの敵対的セキュリティテストの実行と自動化に使用されているという。

Counterfit を使用する利点は、環境、モデル、データに依存しないことです。つまり、オンプレミス、エッジ、クラウドで使用して、テキストや画像など、ほぼあらゆる形式の入力データに依存するあらゆる種類の AI モデルをテストできます。

Microsoft によれば、Counterfit は、Metasploit または PowerShell Empyre を使用するセキュリティ チームにとって使いやすいとのことです。侵入テストや脆弱性スキャンに使用できるほか、AI モデルへの攻撃を記録することもできるため、データ サイエンティストはテレメトリを使用して AI システムのセキュリティをさらに強化できます。

Counterfit の詳細と、それを企業に導入する方法については、オープン ソース プロジェクトの GitHub ページ (https://github.com/Azure/counterfit) を参照してください。