企業の4分の1以上が従業員による生成AIの使用を禁止している

シスコの 2024 年データ プライバシー ベンチマーク調査によると、プライバシーとデータ セキュリティのリスクを理由に、組織の 4 分の 1 以上 (27%) が従業員による生成 AI の使用を一時的に禁止しています。

ほとんどの組織では、このようなツールに対する制御も実装しています。回答者のほぼ 3 分の 2 (63%) が入力できるデータに制限を設けており、61% が従業員が使用できる GenAI ツールに制限を設けています。

こうした制限にもかかわらず、多くの組織は、すでに機密データを生成 AI アプリケーションに入力していることを認めています。これらには、社内プロセスに関する情報 (62%)、従業員の名前または情報 (45%)、会社に関する非公開情報 (42%)、顧客の名前または情報 (38%) が含まれます。

回答者の大多数 (92%) は、生成 AI は新たな課題をもたらし、データとリスクを管理するための新しい手法を必要とするまったく新しいテクノロジーであると考えています。

回答者の AI テクノロジーに関する最大の懸念は次のとおりです。

• 組織の法的および知的財産に損害を与える可能性がある（69%）
• 入力された情報は公開されたり、競合他社と共有される可能性がある（68%）
• ユーザーに返される情報が間違っている可能性がある（68%）
• 人体に有害（63％）
• 他の従業員に代わる可能性が高い（61%）
• 自分と交代するかもしれない（58％）

従業員の AI アカウントの漏洩や悪用も、企業が直面する大きなリスクです。カスペルスキーの調査によると、盗まれたChatGPTアカウントが大量にダークウェブ上で高値で売買されており、ユーザーや企業にとって大きな脅威となっている。

さらに、ChatGPT などの一般的な大規模言語モデルのトレーニング データと生成データも、GDPR などのデータ保護規制に違反するリスクがある可能性があります。

セキュリティとプライバシーの専門家の 91% は、AI によるデータの使用について顧客に安心してもらうために、さらに多くのことを行う必要があると認識しています。

しかし、シスコの調査によると、AI への信頼を構築するために役立つ以下の活動はいずれも、回答者の 50% 以上が採用していないことがわかりました。

• AIアプリケーションの仕組みを説明する 50%
• プロセスの50%に人間の介入が必要であることを確認する
• AI倫理管理計画を策定する 49%
• 監査AIアプリケーションの偏り 33%

シスコの最高法務責任者であるデヴ・シュタルコプフ氏は次のようにコメントしています。「回答者の90%以上が、AIにはデータとリスクを管理する新しいテクノロジーが必要だと考えています。AIのセキュリティガバナンスは、顧客の信頼を築く上で非常に重要です。」