企業の4分の1以上が従業員による生成AIの使用を禁止している

シスコの 2024 年データプライバシーベンチマーク調査によると、プライバシーとデータセキュリティのリスクを理由に、組織の 4 分の 1 以上 (27%) が従業員による生成 AI の使用を一時的に禁止しています。

ほとんどの組織では、このようなツールに対する制御も実装しています。回答者のほぼ 3 分の 2 (63%) が入力できるデータに制限を設けており、61% が従業員が使用できる GenAI ツールに制限を設けています。

こうした制限にもかかわらず、多くの組織は、すでに機密データを生成 AI アプリケーションに入力していることを認めています。これらには、社内プロセスに関する情報 (62%)、従業員の名前または情報 (45%)、会社に関する非公開情報 (42%)、顧客の名前または情報 (38%) が含まれます。

回答者の大多数 (92%) は、生成 AI は新たな課題をもたらし、データとリスクを管理するための新しい手法を必要とするまったく新しいテクノロジーであると考えています。

回答者の AI テクノロジーに関する最大の懸念は次のとおりです。

従業員の AI アカウントの漏洩や悪用も、企業が直面する大きなリスクです。カスペルスキーの調査によると、盗まれたChatGPTアカウントが大量にダークウェブ上で高値で売買されており、ユーザーや企業にとって大きな脅威となっている。

さらに、ChatGPT などの一般的な大規模言語モデルのトレーニングデータと生成データも、GDPR などのデータ保護規制に違反するリスクがある可能性があります。

セキュリティとプライバシーの専門家の 91% は、AI によるデータの使用について顧客に安心してもらうために、さらに多くのことを行う必要があると認識しています。

しかし、シスコの調査によると、AI への信頼を構築するために役立つ以下の活動はいずれも、回答者の 50% 以上が採用していないことがわかりました。

シスコの最高法務責任者であるデヴ・シュタルコプフ氏は次のようにコメントしています。「回答者の90%以上が、AIにはデータとリスクを管理する新しいテクノロジーが必要だと考えています。AIのセキュリティガバナンスは、顧客の信頼を築く上で非常に重要です。」