ガートナーの調査によると、ジェネレーティブAIは企業にとって新たな大きなリスクとなっている

この調査は、249人の上級企業リスク管理責任者を対象に実施され、2023年第2四半期の最も深刻な5つの新興リスクをまとめた。

ガートナーが発表したデータによると、2023年第2四半期には、生成AI（OpenAI ChatGPTやGoogle Bardを含む）の大規模な導入が企業のリスク管理者にとって最大の懸念事項となっている。

「第 2 四半期の調査では、生成 AI が 2 番目に多いリスクになりましたが、これがトップ 10 のリスク要因に登場したのは今回が初めてです」と、ガートナーのリスクおよび監査業務のリサーチ ディレクターである Ran Xu 氏は述べています。「これは、生成 AI ツールに対する一般の認知度と人気が急速に高まり、潜在的な使用事例の幅が広いことから、これらのツールがもたらす潜在的なリスクを過小評価できないことを示しています。」

2023 年 5 月、ガートナーは 249 人の上級企業リスク管理責任者を対象に調査を実施し、20 の新たなリスクに関するベースライン ビューを提供しました。この四半期ごとの新興リスクレポートでは、これらのリスクの潜在的な影響、時間的範囲、懸念のレベル、認識される機会に関する詳細が提供されます。

第 2 四半期の最新調査では、サードパーティの存続が、あらゆるタイプの組織にとって最大の懸念事項となる新たなリスクとなりました (表 1 を参照)。財務計画の不確実性は3位、クラウド集中リスクは4位でした。中国との貿易摩擦は、現在のマクロ経済の弱さと、より広範な地政学的不安定性に起因する実際的および技術的な懸念に分類され、5位にランクされました。

2023年第2四半期に最も頻繁に言及される新興リスクトップ5

ガートナーの調査によると、ジェネレーティブAIは企業にとって新たな大きなリスクとなっている

出典: ガートナー (2023 年 8 月)

生成AIの大量導入

ガートナーはこれまで、生成 AI の 6 つのリスクと、機能保証に関連する AI 規制の 4 つの領域を特定してきました。ガートナーの専門家は、企業リスクを管理するには、次の 3 つの主要な課題に対処する必要があると述べています。

• 知的財産担当の徐氏は、「生成 AI ツールに取り込まれた情報は、そのトレーニング データセットの一部になる可能性があります。つまり、そこに含まれる機密情報や秘密情報は、他のユーザーにエクスポートされる可能性があります。さらに、これらのツールを使用して生成された出力は、ツールの他のユーザーの知的財産権を意図せずに侵害する可能性があります。」と説明しています。

この問題を解決する鍵は、ビジネスリーダーがこのようなツールを使用する際に慎重かつ透明性を保つよう教育し、生成 AI ツールの入力レベルと出力レベルで知的財産リスクを適切に管理できるようにすることです。

• データプライバシー

生成 AI ツールは、事前の通知なしにユーザー情報を他の第三者 (サプライヤーやサービス プロバイダーなど) と共有することがあり、複数の管轄区域でプライバシー法に違反する可能性があります。例えば、中国や欧州連合はすでに規制を実施し始めており、米国、カナダ、インド、英国などの国々も規制案を提出している。

• サイバーセキュリティの徐氏は、「ハッカーは常に自らの目的のために新しい技術を積極的にテストし、それを侵害する方法を模索しており、生成AIも例外ではありません。生成AIが騙されてマルウェアやランサムウェアのコードを生成する例や、AIツールを騙して出力すべきではない情報を明らかにさせるために慎重に設計された手がかりを使用する「キューワードインジェクション」攻撃の例も見てきました」と述べています。さまざまな傾向により、高度なフィッシング攻撃は産業化と大量生産へと進んでいます。 ”

第三者生存リスクの原因と影響

「金利引き上げではほとんど緩和されず、予想以上に長引いているインフレが、第三者機関のコストと利益への圧力を悪化させている」と徐氏は説明した。「米中央銀行がインフレ対策として金利を引き上げ続ける中、信用引き締めサイクルが続くのは必至で、サプライヤーは事業停止を余儀なくされるか、借入コストの上昇により破産に追い込まれる可能性が高い」

経済状況が全般的に悪化した場合、需要がさらに減少し、サードパーティサプライヤーの存続可能性や、商品/サービスをタイムリーに提供する能力に影響を及ぼす可能性があります。ガートナーの専門家は、リスク管理者が実際の状況に基づいて監視すべき、サードパーティの存続問題によって引き起こされる 3 つの潜在的な結果を指摘しています。

• 重要な入力および材料の損失:マクロ経済状況によりサードパーティのサプライヤーが価格を引き上げた場合、サードパーティはより高い価格を支払う意思のある顧客を優先するため、重要な入力および材料に大きな損失が生じる可能性があります。
• 財務計画の前提が成り立たなくなる可能性があります:サプライヤーが価格を引き上げたり、予期せず廃業したりすると、当初のコストの前提が成り立たなくなり、コスト調整と商品/サービスの取得価格の上昇が必要になります。
• サプライ チェーンを超えた課題:パートナー (ホスティング プロバイダー、ビジネス パートナー、債権者、テクノロジー サプライヤーなど) が通常の業務を縮小または停止する可能性があり、顧客の業務運営に重大な影響を及ぼす可能性があります。