2024 年の AI セキュリティに関するトップ 10 の予測

水曜日、英国、米国、中国（および欧州連合）を含む約30カ国がAI安全サミットで初の世界的なAI安全合意に達し、「AI安全宣言」を発行し、AIが安全な開発のための強力な規制の時代に正式に突入したことを示しました。

サミットでは、AIのセキュリティリスクの深刻さに関してAIオピニオンリーダーの間で大きな意見の相違があり、両者は白熱した議論を交わした。人工知能のゴッドファーザーであるジェフリー・ヒントン氏とヨシュア・ベンジオ氏は、人工知能は重大なリスクをもたらし、テクノロジー企業は競争を阻止し責任を回避するために人工知能のリスクについて嘘をつき、それが厳しい規制を引き起こし（そしてそれを支持もした）と考えている。アンドリュー・NG氏とMetaの主任AI科学者ヤン・ルカン氏は、人工知能のリスクは誇張されており、大手テクノロジー企業がイノベーションを抑制し権力を強化するために利用している陰謀論だと考えている。

テスラの創業者マスク氏はどちらの側にも立たなかったが、人工知能のリスク規制と「AI軍拡競争」の矛盾した現状を風刺する投稿をXに投稿した。

業界ではまだ人工知能に関連するリスクのレベルについて合意に達していないものの、先週フォレスター・リサーチが発表した2024年の人工知能予測レポートは、企業が人工知能技術を安全に使用するための新たな視点を提供しています。このレポートは、測定可能な AI の成長の道筋を示すとともに、生産性向上のために AI ツールを使用して自主的に行動する従業員が増えるにつれて、ビジネス リーダーは「シャドー AI」の蔓延に備えるよう警告しています。

Forrester は、企業が AI モデルを構築、展開、監視するためのスケーラブルなソリューションに投資するにつれて、AI プラットフォームの予算が 2024 年までに 3 倍になると予測しています。しかし、Forrester は、従業員のニーズを満たすにはこれでは不十分だと警告しています。レポートでは、従業員の 60% が職場で独自の AI ツールを使用することになり、新たな規制およびコンプライアンスの課題が生じると予測されています。

Forrester は、企業の 85% が ChatGPT などの一般的な大規模言語モデル アプリケーションだけに頼るのではなく、GPT-J や BERT などのオープン ソース モデルを通じて AI 機能を拡張していることを発見しました。 Forrester は、EU、米国、中国からのより厳しい規制に先立ち、40% の企業が AI コンプライアンス ガバナンスに積極的に投資すると予測しています。

AIがユーティリティの時代へ

イノベーションの面では、フォレスターは、2024年までに大手保険会社がAIエラー（AI幻覚）による損失や損害をカバーするAI「幻覚保険」の提供を開始すると予測しています。

Forrester は、ビジネス リーダーに対し、人工知能アプリケーション戦略を開発する際には、誇大広告や「娯楽」に惑わされないように警告しています。

Forrester は、2024 年は AI テクノロジーが企業の研究開発支援から生産環境での商用アプリケーションへと移行する「AI ユーティリティ時代」の始まりであると考えています。

「生成型AIの消費者化が進む中、2023年は間違いなくAIの年として知られるようになるだろう。合併や買収、企業の超高評価、超大規模なベンチャー投資や社内投資に関する発表が相次ぐだろう」とフォレスターのアナリストチームはレポートで述べた。

「2024年は、企業チームが積極的に行動し、有意義なAI戦略を策定し、規制や新たなリスクを注視しながらAIの約束を実現する意欲が高まる年になると予測しています」と報告書は付け加えている。

フォレスターによる 2024 年までの AI セキュリティに関するトップ 10 の予測

1. 従業員の 60% が職場で独自の AI ツールを使用するため、セキュリティ リスクが生じます。
2. AI 機能に対する企業の需要が急増するにつれて、AI プラットフォームの予算は 3 倍になります。
3. 企業の 85% がオープンソース AI モデルを自社のテクノロジー スタックに組み込みます。
4. 企業の 40% は、コンプライアンスを実現するために AI ガバナンスに積極的に投資します。
5. 保険会社はAIのエラーを補償する「AI幻覚保険」の提供を開始する。
6. 導入が急増するにつれ、生成 AI は 2023 年から 2030 年にかけて年平均成長率 36% で成長するでしょう。
7. 企業は AI を研究開発から実稼働ビジネス アプリケーションに移行します。
8. AI 戦略は、シャドー AI の使用と価値創造の管理に重点を置きます。
9. テクノロジーリーダーは、従業員や経営陣から AI (BYOIA) を導入するようプレッシャーを感じています。
10. 2024年には、誇大宣伝が実用主義に取って代わられ、「AI ユーティリティ時代」が始まります。

Forrester は、世界的な規制環境が非常にダイナミックに変化しているため、ビジネス リーダーは AI アプリケーションを拡大する際に受動的に従うのではなく、積極的にリスクに対処する必要があると考え、ターゲットを絞った AI 戦略を策定する必要性を強調しています。

4大会計事務所の一つであるEYが「人工知能の世界的な規制状況に関する報告書」で指摘したように、世界の人工知能の規制環境には依然として違いや課題が残っている。欧州連合は世界的に最も積極的な姿勢を示し、生体認証や重要インフラなどリスクの高いAIの利用を義務付ける包括的なAI法案を提案している。中国はまた、コンテンツの推奨や顔認識などのAIを規制することに強い意欲を示している。対照的に、米国は自主的な業界ガイドラインと業界固有の規則に重点を置いた穏健なアプローチを採用しています。