シスコの調査：企業の25％以上が社内で生成AIの禁止を実施している

シスコが実施した調査によると、データプライバシーの面で生成AIに欠点があることを理解しているにもかかわらず、多くの従業員が依然としてChatGPTやその他の同様のAIアプリケーションに機密性の高い会社のデータを入力していることがわかりました。

シスコが世界 12 か国のプライバシーおよびセキュリティ専門家 2,600 人を対象に毎年実施しているデータ プライバシー ベンチマーク調査では、企業の 4 分の 1 以上が社内で生成 AI の禁止を実施しており、3 分の 2 が大規模言語モデル (LLM) ベースのシステムに入力できる情報を制限したり、特定のアプリケーションの使用を禁止したりしていることがわかりました。

「回答者の3分の2以上が、自分のデータが競合他社や一般の人々と共有されるリスクを懸念していると答えた」とシスコのプライバシーセンターオブエクセレンスディレクター、ロバート・ウェイトマン氏はブログ投稿で述べた。「それにもかかわらず、回答者の多くは、自社に関する非公開情報（48％）など、問題となる可能性のある情報を入力した。」

回答者の大半は、生成AIにおけるデータプライバシーの問題を認識している。

当然のことながら、調査では回答者が生成型 AI にますます精通していることが明らかになり、55% がこの技術に「非常に精通している」と回答しました。 2023年の調査では、52％が「よく知らない」と回答した。一方、今年の調査回答者の 79% は、生成 AI アプリケーションから「大きな、または非常に大きな価値」を引き出していると回答しました。

それでも、回答者は、そのようなツールを導入する際に自社がデータを安全に保つ能力について疑問を抱いています。これには、AI が企業の法的および知的財産を危険にさらす可能性がある (69%)、独自のデータが競合他社または一般に漏洩する可能性がある (68%)、アプリケーションの出力が不正確になる可能性がある (68%) という懸念が含まれます。同時に、回答者の 92% は、生成 AI を導入するには「データとリスクを管理するための新しいテクノロジー」が必要になると考えています。

こうした懸念にもかかわらず、多くの回答者は、生成 AI アプリケーションに会社の機密データを入力したことを率直に認めました。たとえば、62% が社内プロセスに関する情報を入力し、48% が生成 AI アプリケーションで機密性の高い企業データを使用して新しい洞察を求めています。

企業が生成AIの社内使用を禁止することが一般的になりつつある

多くの企業も、生成 AI の使用に関するガードレールを設けることで、こうした誘惑に対応しているようです。回答者の27%は、自社でこの技術の使用を全面的に禁止していると答えた。その他の企業は、データ制限 (63%)、ツール制限 (61%)、データ検証要件 (36%) などの形で特定の制限を設けています。

これらの調査結果は、小売、製造、金融サービス業界の組織が 2023 年に生成 AI の社内使用に関するガードレールを導入するという同様の発表と一致しています。 5月にサムスンは従業員による生成AIの使用を禁止し、アマゾン、アップル、ベライゾンも同様の制限を課している。

生成AIの専門家ヘンリー・アジダー氏は、これらの決定は規制の不確実性とデータプライバシーに関する懸念によってもたらされた可能性が高いと述べた。

「現在の規制環境下で、生成AIを現在のように使用した場合、一部の行動が規制に違反したり、セキュリティ維持の面で企業にかかるコストが非常に高くなることに人々は気づき始めている」とアジダー氏は述べた。