チームメイトが機械の場合: CISO が AI について尋ねるべき 8 つの質問

AI は、私たちが行うほぼすべての方法を変えています。私たちが行くところすべてで、かつては人間が行っていた作業を機械が実行しています。これらの AI 駆動型のインスタンスには、自動運転車から、人間が登場する前に現場を移動する必要がある顧客サービス ロボットまで、さまざまなものがあります。サイバーセキュリティの世界では、AI は急速に攻撃者の味方となり、攻撃力を増強する存在となりました。好むと好まざるとにかかわらず、機械をチームメイトとして扱うことは CISO が受け入れなければならない確立された現実ですが、AI パートナーを受け入れる前に尋ねるべき質問がいくつかあります。

この概念は新しいものではありません。 2019年、65人の共同科学者からなる国際チームが、このテーマに関する819の研究課題を提案し、「共同研究者に、設計された機械のチームメイトの意図された効果を調査するための研究課題を提供する」ことを目指しました。当然のことながら、共同科学者チームによる研​​究のハイライトの一部は、米国国防総省の「責任あるAI」の原則とガイドラインに組み込まれました。この原則とガイドラインは、AIが使用される前に備えなければならない5つの主要要素（責任、公平、追跡可能、信頼性、管理可能性）を概説しています。

AIをあなたの相棒にしましょう

AI をチームメイトとして機能させるという概念を想像するには、自律型の僚機として機能する戦闘ドローンと組み合わせることで F-35 多目的戦闘機の有効性を高めるという米国空軍の計画を見るだけで十分です。 AI強化ドローンと連携することで、航空機は人間の能力を超える速度で情報を収集することができます。これにより、観察、方向付け、決定、行動 (OODA) ループを通じて行動のスピードと柔軟性が向上し、リアルタイム情報の受信者がより洗練された対応を行えるようになります。

StrikeReadyのCEOであるアヌラグ・グルトゥ氏は、AIは事実上、自動化されたプロセスの延長となり、より広範囲の情報を発見し、複雑さをますます速いペースで評価するのに役立つだろうと述べた。 AI は、CISO が生産性の向上、熟練したアナリストの増強、作業負荷の軽減、スタッフの維持を検討している場合に最も効果を発揮します。

AIは意思決定のスピードアップに役立つ

グルトゥ氏は、AIは意思決定の迅速化、検出力の強化、アナリストへの攻撃の可能性の提供にも役立つと付け加えた。これまで、意思決定ツリーとルールベースのモデルでは、脅威と脆弱性の検出がかなり面倒なプロセスでしたが、AI を使用すると、さまざまなデータセットを取り込んでアナリストの「説明可能性」を向上させることができます。 LIME (ローカル解釈可能モデルに依存しない説明) と SHAP (Shapley 加法説明) はどちらも、「解釈可能性」という厄介な問題を解決するのに役立ちます。

グルトゥ氏は、「生成 AI を導入する組織が増えるにつれ、組織は『幻覚』の増加に備える必要があります。生成 AI の結果に『幻覚』が出ないようにするには、グラフ AI 言語モデルを使用するのがよいでしょう」と述べています。

この点を説明するには、現実世界の例が見つからない場合に存在しない事件を「幻覚」として提示した AI チャットボットの助けを借りて、弁護士が最近裁判所に提出した弁論要旨を見るだけで十分です。このため、裁判官は、AIを使用して作成された要約は人間によって解読および検証されなければならないという常設命令を出した。グルトゥ氏は、「グラフィカルなアプローチを使用することで、AI はユーザーにコンテキストを理解する素晴らしい能力を提供します。それがなければ、結果は多くの幻覚となるでしょう」と考えています。

機械のチームメイトは人間と互換性がある必要がある

最終的にはほぼすべての業界が AI の影響を受け、機械とチームを組むことになるでしょう。 2022年8月にFrontiers in Psychologyに掲載された記事の中で、著者らは、効果的なチームワークが人間のチームの成功に不可欠であると指摘しました。その中で、リーダーシップ、紛争解決、適応性、支援行動などの要素が、チームワークを成功させるための重要な側面として特定されています。

著者らは、将来の人間と機械のチームワークの問題を解決するには、人間のチームメイトとのチームワークをうまく促進し、参加するように設計された機械エージェントに部分的に依存すると推測しています。

AIの文脈では、信頼は依然として重要な考慮事項です。最高信頼責任者の責任に、製品や業務における AI の倫理的かつ責任ある使用が含まれることを保証できる組織はいくつあるでしょうか? AI が間違いを犯した場合、誰が報告しますか? 誰がそれを修正しますか? 機械と人間のチームメイト間の信頼関係をどのように測定しますか?

すべてのCISOが尋ねるべきAI関連の質問

IEEE会員であり、コンサルティング会社「The Privacy Professor」の創設者でもあるレベッカ・ヘロルド氏は、AIをセキュリティ技術に組み込むことで、作業を効率化してプロジェクトの完了時間を短縮したり、迅速に意思決定したり、問題をより迅速に特定したりできるなど、多くの潜在的なメリットがあると述べた。

しかし、AIが約束どおりに機能するかどうかを慎重に検討せずに、購入者がAIプールの深いところに飛び込んでしまう、時期尚早な導入の例も数多くあると彼女は付け加えた。欠陥のある AI が誤った結果を生成し、プライバシー侵害、偏見、セキュリティ インシデント、非準拠罰金につながると、AI を使用する人々は突然その暗い側面に気付きます。

正確で、偏りがなく、プライバシーが保護され、データ保護に準拠した結果を得るために、すべての CISO が自問すべき 8 つの質問を以下に示します。

1. AI アルゴリズムが期待どおりに動作することを確認するために包括的なテストが実行されましたか? 製造元および/またはサプライヤーに、そのようなテストを確認する文書の提供を依頼し、使用されている標準および/またはフレームワークを確認してください。たとえば、NIST AI リスク管理フレームワーク (AI RMF 1.0) などです。

2. AIのトレーニングに使用されるデータはどこから来ますか？そのようなデータに個人データが含まれる場合、関係者は個人データがそのような目的で使用されることに同意する必要があります。

3. 結果の偏りを防ぐ、または最小限に抑えるために AI アルゴリズムはどのように設計されましたか? 記録された結果を確認するように依頼してください。

4. 生成 AI に関連する新しい困難なリスクを軽減するために、アルゴリズムはどのように設計されていますか? これを継続的に管理するための計画に関するドキュメントの参照を求めてください。

5. ベンダーは機械学習に関連するセキュリティ問題に十分対処していますか? 対処している場合、どのように対処していますか? 文書化されたポリシーと手順を確認するように依頼してください。

6. AI の設計では、AI システムの攻撃対象領域の複雑さが考慮されていますか。考慮されている場合、どのような方法で考慮されていますか。提供された情報を確認するためにドキュメントを要求してください。

7. サプライ チェーンとサードパーティの AI コンポーネントのセキュリティとプライバシーのリスクをどのように確認し、リスクを軽減しますか? 継続的な AI サプライ チェーンとサードパーティのリスク管理プロセスがあることを確認します。

8. AI メーカーまたはサプライヤーが開発した AI 製品は、販売される地域のデータ保護要件に準拠していますか?

ヘロルド氏は、営業チームの言うことを信じるだけでは十分ではなく、難しい質問に対する答えを見つけ出す能力を自分で身につけるか、信頼できて有能な第三者を見つける必要があると付け加えた。

AIがパートナーになると、人間がガイド役を務めることになる

投資家で講演家のバリー・ハード氏は、機械がチームメンバーになった場合、人間は機械の決定に対して責任を負わなければならないと述べた。 「AI チームと協力するには、仕事上の関係を壊すのではなく、最適化するための専門的な才能が必要です」と彼は語った。「人間は本来、機械ほど寛容ではありません。SF 映画では、ロボットの腕は人間の弱い体に比べて壊れにくく、人間の論理と意思決定能力は AI チーム メンバーの処理速度に比べて同じように脆弱です。」

ハード氏は、正しいか間違っているかに関わらず、機械が私たちの行動を増幅させるだろうと指摘している。倫理的かつ準拠した行動のための時間を確保するには、規模と速度を人間の反応時間とバランスさせる必要があります。大規模な AI は、幅広い分野にわたって甚大な付随的損害をもたらす可能性があることを意味します。

「行動を起こすと決断したら、何が起こったのかを推測する前に終わります」とハード氏は言います。「しかし、効果的な倍数を達成する方法を理解している才能ある人間のパートナーのグループと提携することで、批判的思考、主題の専門知識、倫理が計算された行動と大規模な自動化とバランスのとれた共生関係が可能になります。これがリスクを最小限に抑え、効率を倍増できる場所です。最高の人材が最高のテクノロジーを生み出し、その逆もまた同じです。」

グルトゥ氏は、AI チームメイトが決定を下す場合、人間のチームメイトもその決定を下した理由を説明できなければならないと付け加えた。