英国のサイバーセキュリティ機関がAIにおける大規模言語モデルのリスクを警告

英国の国家サイバーセキュリティセンター（NCSC）は、AIを活用した大規模言語モデル（LLM）を企業に統合する際のリスクを概説し、開発者がシステムの弱点や脆弱性をまだ十分に把握していないと警告した。

セキュリティ機関はブログ投稿で、2022年にOpenAIのChatGPTがリリースされて以来、大規模言語モデルが世界的な関心と好奇心を集めており、あらゆる業界の組織が自社のビジネスにこの技術を活用することを検討していることを認めた。

しかし、急速に進化する分野であるため、不確実な市場においてモデルが絶えず更新されていることに NCSC の専門家は気づきました。これは、今日サービスを提供しているスタートアップが 2 年後には存在しなくなる可能性があることを意味します。

したがって、大規模言語モデルを使用してビジネスを構築する組織は、使用される API の背後でモデルが変更され、統合の重要な部分がある時点で存在しなくなる可能性があるという事実を考慮する必要があります。

同庁はさらに、大規模言語モデルが組織のビジネスプロセスに組み込まれると特定のリスクをもたらす可能性があると指摘し、研究者らは大規模言語モデルは「本質的に、指示と、指示を完了するために提供されるデータとを区別できない」ことを発見した。

たとえば、NCSC は、入力されたプロンプトが適切に構成されている場合、銀行が使用する AI チャットボットが騙されて攻撃者に送金したり、不正な取引を行ったりする可能性があると述べています。

「大規模な言語モデルを使用してビジネスを構築する組織は、ベータ版の製品やコードベースを扱う場合と同様に注意する必要がある」とNCSCは付け加えた。