AIガバナンスとは何か、どのように、そしてなぜ生まれるのか

AI は登場以来、タスクの自動化や業務の効率化、より優れたテクノロジーの構築、エンドユーザー エクスペリエンスの容易化とパーソナライズ化によって社内業務の改善に役立つ強力なツールとなっています。 AI が社会に与える影響は目新しいものではないが、より高度な AI ソリューションの登場により、これらのテクノロジーがどのように使用されるかについての懸念が生じている。

AI ブームにより、強力な AI ガバナンスの必要性が高まっています。全体的に見ると、AI ガバナンスは包括的な用語であり、さまざまなグループにとってさまざまな意味を持つ可能性があります。これは、実装できる (そして実装すべき) ガバナンスのレベルが複数あるためと考えられます。具体的には、AI ガバナンスは、エンタープライズ ガバナンス、ユース ケース ガバナンス、モデル ガバナンスの 3 つのレベルに分けられます。ガバナンスの各層は、企業のさまざまなメンバーに対して特定の目的を果たすため、これら 3 つのガバナンス レベルをより詳細に検討することが重要です。

企業レベルのガバナンス

あらゆる多層 AI ガバナンス プログラムにおいて、最初のレベルはエンタープライズ レベルであり、すべての実践者が特定の必要なレベルの倫理と責任を遵守できるようにするためのガイドとして機能します。各企業には独自の AI 行動規範があるかもしれませんが、通常はいくつかの重要な原則を中心に展開されます。たとえば、Mastercard は、包括性、説明可能性、説明責任という 3 つの基本原則を中心とした AI の行動規範を制定しました。中核となる原則は異なるかもしれませんが、同様の価値観に基づくミッションステートメントを構築する企業にとって、これは優れた参考資料となります。

ミッション ステートメントは重要な出発点ですが、エンタープライズ レベルのガバナンスは単なる言葉ではありません。手遅れになる前に企業が差し迫った AI 規制に備えるために不可欠です。このレベルでは、AI 開発に関与する各メンバーの責任を定義することが、実装プログラムを成功させる上で非常に重要です。効果的な AI ガバナンス プログラムはすべて、AI の倫理、責任、安全性に関する社内ポリシーを明確に定義し、それらのポリシーを継続的に実施するためのプロセスを導入しています。

幸いなことに、企業はこれらのポリシーを実装する際にゼロから始める必要はありません。 NIST AI リスク管理フレームワークや EU AI 法などの既存のポリシーとフレームワークは、企業が成功するレベルのコーポレートガバナンスを確立する方法について明確なガイドラインを提供します。たとえば、NIST フレームワークの「ガバナンス」の柱にはさまざまな企業ガバナンスのポリシーとプロセスがリストされていますが、EU AI 指令には AI ガバナンスに関する企業の要件を概説したいくつかの規定が含まれています。

ユースケースレベルのガバナンス

AI ガバナンスの第 2 レベルでは、あらゆるビジネスにおける AI の特定のユースケースに重点が置かれます。ユースケース レベルのガバナンスは、AI のあらゆるアプリケーションと特定のタスクでの使用が、必要なすべてのガバナンス標準に準拠していることを保証することに主に焦点を当てています。これは、AI の不適切な使用から生じるリスクが、AI が企業の業務にどのように適用されるかに密接に関連しているためです。

AI モデルはさまざまな用途に使用できますが、これらのユースケースは低リスクと高リスクの 2 つのカテゴリに分けられます。たとえば、リスクの低いユースケースとしては、会議のメモを要約するなどの単純なタスクが考えられます。対照的に、医療患者の記録を集約するなどの高リスクのユースケースでは、より機密性の高い情報が含まれるため、より綿密な調査が必要になります。リスクのマッピングと軽減もこの段階での成功の鍵であり、特に AI のユースケースと意図された目標をレビューし、慎重に精査する上で、法務チームとコンプライアンス チームが重要な役割を果たすことがよくあります。

このレベルのガバナンスは、法務およびコンプライアンス チームが各 AI ユース ケースが規制要件とパラメータを満たしていることを確認する必要があるため、企業全体のガバナンスにも反映されます。これらのチームの関与からわかるように、ユースケース レベルでのガバナンスとは、企業が低リスクと高リスクの両方のユースケースについて、特定のタスクに AI を使用する目的、AI が適切である理由、コンテキストに固有のリスク、企業全体のリスクを軽減するための技術的および非技術的な軽減戦略など、いくつかの事項を注意深く熱心に文書化する必要があることを意味します。

モデルレベルのガバナンス

最後の最も細かいレベルは、ガバナンスのモデル レベルです。この段階では、AI 実践者がモデルの評価、データ精度のテスト、モデルのバイアスと公平性の評価の実施など、主な責任を負うことになります。

名前が示すように、モデルレベルのガバナンスは、あらゆる AI システムの実際の技術的機能に対応し、公平性、正確性、安全性の期待される基準を満たすことを保証します。具体的には、ガバナンス モデル レベルの管理を担当する実務者は、保護対象グループや疎外されたグループに影響を与える可能性のある偏見がないことを確認しながら、個人情報の保護を考慮した手順を実行する必要があります。

技術的なレベルでは、モデル レベルのガバナンスでは、外部環境の変化によってモデルの予測能力が低下したときに発生するモデル ドリフトを防ぐために、モデルを継続的にテストする必要もあります。モデルドリフトには、モデルが「追いつく」時間がなかった人口動態の変化など、いくつかの原因が考えられます。幸いなことに、人間の監視にもかかわらずモデルのドリフトやバイアスが発生する可能性はありますが、データセットを正確にトレーニングおよび評価するのに役立つ技術的ソリューションによってモデルレベルのガバナンスをサポートできます。

このタイプのガバナンスは高度に集中化されているため、特に ChatGPT などの公開されている大規模な言語モデルにアクセスする場合、企業は特定のモデルレベルのポリシーを特定のタイミングでしか実装できない可能性があります。企業がこのような状況に陥った場合、ユースケースや企業レベルのガバナンスなど、自社で制御できるものに注力する必要があります。

AI ガバナンスは、もは​​や ML モデルとデータセットの評価だけに焦点を当てることはできません。エンタープライズ レベル、ユース ケース、モデル レベルのガバナンスを組み合わせることで、企業が AI を責任を持って使用するために必要な総合的なガバナンス モデルが作成されます。規制ガイダンスが形作られるにつれて、企業はガバナンス ポリシーを確立するための措置を講じ、法律によってもたらされる可能性のある抜本的な変更に備え、準拠し、倫理的で正確な AI を構築する自信を高めることができます。