AIブームの中で、取締役会とCEOはAIを包括的に理解する必要がある

AIが私たちの日常生活の一部になっていることは否定できません。ほぼすべての業界のフォーチュン 1000 企業のリーダーたちは、AI イニシアチブを積極的に推進しています。大手および中規模のグローバル企業は、AI の魅力的な可能性を活用して収益を増やし、利益を拡大し、製品やサービスの提供における新たな価値を発見し、イノベーションを加速させています。

[[335153]]

AI は急速に進歩しているにもかかわらず、取締役会や CEO は AI 言語リテラシーとリスク管理の実践において依然として大きく遅れをとっています。 AI の台頭は嵐のようなものです。最悪の事態が起こりつつあるかもしれませんが、次の質問に答えられる取締役会や CEO はほとんどいません。AI アルゴリズムと AI モデルはどこにありますか? AI アルゴリズムやモデルにはリスクがありますか?

AIの発展は急速で、2020年7月初旬に発表された最新の世界調査レポートでは、AI市場の複合年間成長率が42％を超え、米国のAI市場規模が7,337億米ドルを超えていると指摘されています。 MIT スローン リサーチによると、大企業の 90% 以上が AI を使用して顧客体験を改善しています。 AI スタートアップへの投資の増加はドットコムバブルの強気相場を彷彿とさせますが、2002 年 3 月に強気相場が 76% 下落し、価値実現と収益性の重要性が人々に認識されたことを覚えているかもしれません。

CBI Insightsによると、AIスタートアップ企業は2019年に世界中で2,200件以上の取引を行い、総額266億ドルを調達した。パンデミックにもかかわらず、医療緊急対応やスマートマシン、医療ロボットなどの変革技術が、パンデミックへの対応に役立つAIソリューションとして急速に台頭している。

平均すると、高度な分析への投資は 2022 年までに市場全体の予算の 11% を超えることになります。企業組織が AI と機械学習ツールをビジネスプロセスに取り入れるにつれて、AI ソフトウェアへの支出は 2025 年までに 1,250 億ドルに達するでしょう。

取締役会や CEO は、すべての AI アルゴリズムと AI モデルがどこにあるのかを簡単に把握でき、さまざまなリスク プロファイルを明確に理解し、明確な KPI と ROI で価値実現を実証できると考えられます。

残念ながら、多くの組織はブラックボックス AI プラクティスを採用する AI イニシアチブに惹かれますが、これは明確な説明責任がなく、透明性がなく、監査リスクも伴うことを意味します。取締役や CEO は、従業員がどこにいるか (リモートで働いているか、オフィスで働いているか)、顧客サービスや個人的な問題について誰に連絡すればよいかを把握しています。

しかし、多国籍企業の取締役会や CEO が、5 分以内に自社のすべての AI アルゴリズムや AI モデル資産の完全なリストを作成できるとは到底考えられません。また、モデルが最後に改訂された時期も知らず、第三者によって検証された信頼性の高いリスク分類の証拠を提供することはできません。

データの民主化がAIの基盤となる中、監査人が損益計算書の受託者責任制度に縛られているように、AIや機械学習に関するKPIを高め、財務KPIよりもAI KPIを重要視し、透明性を高めていく必要があります。世界は劇的に変化しており、データは最も戦略的な資産となっていますが、データ管理の実践基準を設定している企業はほとんどありません。AI による変革がもたらす価値を実現し、追跡するために、データがどこで設計、収集、保存されているのかを知らないのです。

多くの組織が機械学習運用 (MLOps) に投資していますが、MLOps が中核的な機能である成熟した AI Center of Excellence を備えている組織はほとんどありません。最近の New Relic の調査によると、調査対象となった世界中の上級 IT 意思決定者 750 人のうち 89% が、AI と機械学習が組織の IT 運用にとって重要であると考えています。回答者の約 84% は、AI と機械学習によって自分の責任がより管理しやすくなると考えています。この楽観的な予測により、AI モデリングとリスク管理の実践の鍵となるデータ管理実践の継続的な改善が加速されます。

過去 18 か月間に大手グローバル B2B 企業の 500 名を超える C レベルの幹部と会話をしてきた中で、次の質問のほとんどに 5 分以内に答えられる企業はないことがわかりました。

先頭に立つためには、AI について適切な質問をすることが重要です。AI アルゴリズムを使用してカスタマイズされた AI モデルを構築し、特定の問題やビジネス上の課題を解決するすべてのプロジェクトは、次の質問に答えられる必要があります。

シナリオ履歴の使用

• AI モデル/アルゴリズムは何に使用されますか?
• AI モデル/アルゴリズムはどのようなビジネス上の問題や課題を解決しますか?
• さまざまなユースケースを設計、構築、実装する前の AI モデルと AI アプローチの初期の ROI 見積もりはいくらですか?

AIモデルの所有権履歴

• アルゴリズムを書いたり、AI モデルを開発したりしたのは誰ですか?
• プロセスオーナーは現在会社にいますか?
• AI モデルとアルゴリズムアプローチのリスクを考慮すると、AI モデルの二次プロセス所有者は存在しますか?
• アルゴリズムとモデル構造は作成者以外の誰かによってレビューされましたか? レビュー担当者は誰ですか?

作成と改訂履歴

• AIモデルやAIアルゴリズムはいつ構築されましたか？
• AI モデルまたは AI アルゴリズムは、実稼働環境で初めて使用されて以来、何回改訂されましたか?
• どのような種類の AI アルゴリズムが使用されていますか?
• アルゴリズムはオープンソースですか? それとも、誰かが独自のビジネス課題を解決するために独自の AI アルゴリズムを作成したのでしょうか?

AIアルゴリズムまたはモデル手法の歴史

• AI アルゴリズムの数学的構造または数式とは何ですか?
• これらは第三者の専門家によって正確性が検証されていますか?
• 使用中の AI アルゴリズム モデルを監視する責任は誰にありますか?
• AI モデル開発におけるデータ タイプ (構造化データ/非構造化データ) とデータ ソース (内部、外部、両方) は何ですか?
• データセットの大きさはどれくらいですか?
• データセットは分析前にクリーンアップされましたか? クリーンアップされた場合、誰がどのような方法を使用しましたか?
• AI モデルで使用されるデータ ソース、品質、精度は何ですか?
• すべての履歴バージョンと比較した予測精度のベースライン スコアは何ですか?
• AI モデルと AI アルゴリズムはリスク分類されており、リスク軽減計画が実施されていますか?
• 開発された AI モデルはデータの偏りについてテストされていますか?
• どのようなデータバイアス方法が使用されましたか?
• データバイアスリスク評価はいくつ実行されましたか?
• AI モデルを最後にレビューして最適化/再トレーニングしたのはいつですか?

AIアルゴリズムやモデルの価値実現

• AI モデルは ROI の観点から組織にどのような価値をもたらすのでしょうか?
• ROI を明確に定義できる効率性または有効性の値はありますか?
• 最初のユースケースの ROI/価値結果予測は、AI によって生成された実際の ROI 結果とどの程度の違いがありますか?
• AI 価値の結果は、財務またはサードパーティの専門家によって検証、レビュー、または承認されていますか? その場合、レポートは提出されていますか?
• AI モデルに対するこのアプローチは、業界の他のベストプラクティスと比べてどうでしょうか?
• AI モデルまたはドキュメントに対する効果的なプロセス改善計画はありますか?

他にも多くの問題がありますが、取締役会や CEO は、年次監査リスク評価とガバナンス運用プロセスを通じて AI モデルの進化を追跡する AI センター オブ エクセレンスを監督することから始めることができます。

残念ながら、ほとんどの場合、AI モデルは、米国のホットスポットでの流行の第 2 波を予測する、AI ドローンを使用して収穫期への害虫の影響を予測する、収益を予測して AI 手法の潜在的なリスク管理プラクティスを確保するなど、特定の AI モデルの構築に専念するデータ サイエンティスト、コンピューター プログラマー、または専門サービス企業 (サードパーティ サプライヤー) によって開発されています。ほとんどの場合、AI モデルを設計および構築する参加者は善意を持っています。

取締役会や CEO は、AI リテラシーが人材の開発と育成に必要な新しい能力であることを認識する必要があります。 AI モデルは、実稼働環境で適切に使用するためには継続的に最適化する必要があり、最新のデータ管理インフラストラクチャへの投資が、データと機械学習のペースを維持する鍵となります。経営陣は、運用中の AI モデルを監視し、モデルを再トレーニングし、時間の経過とともに他のデータ ソースを追加してモデルの洞察を強化しなければ、間違いを犯すことになります。

AI は庭に植物を植えるようなものです。肥料を与えたり除草したりすることは、美しい収穫を得るための長期的な投資です。 AI は彫刻ではありません。モデルを構築した後、それを何年も元の状態に保つことはできません。 AI は新しい石油だという人もいますが、私は AI は新しい酸素だと言うことを好みます。なぜなら、AI はますます普及しており、気候変動のように、その盛衰は至る所で起こっているからです。庭で何が育っているかを把握したいなら、賢明な計画を立てるための優れた先見性が必要です。

取締役会や CEO にとって残念なことに、多くのテクノロジー リーダーや CIO は AI やデータ サイエンスの実践に精通しておらず、AI を導入する企業が直面するリスクがさらに増大しています。最高データ責任者 (CDO) と最高データ サイエンティスト責任者 (CDSO) の台頭により、AI、モデル構築、リスク管理プラクティスの進化が促進されましたが、ほとんどの企業では、データ サポート システムへの投資を、アルゴリズムと AI モデルのセキュリティ保護への投資と足並みを揃える必要がありました。

取締役会と CEO には、AI 監査とリスク管理フレームワークが適切に実装されていることを確認し、AI ガバナンスを前進させる責任があります。