これらの6つのヒントを活用してAIガバナンスの問題を解決しましょう

AI ガバナンスは、データ プライバシー、アルゴリズムのバイアス、コンプライアンス、倫理など、企業内の多くの機能領域に関係します。したがって、AI テクノロジーの使用を適切に管理するには、複数のレベルでのアクションが必要です。

「これはITレベルやプロジェクトレベルだけの問題ではない」とタタ・コンサルタンシー・サービシズのデータ​​および分析責任者カムレシュ・ムハシルカー氏は言う。AIガバナンスは政府、取締役会、最高セキュリティ責任者のレベルでも行われていると同氏は言う。

[[410104]]

たとえば、ヘルスケア分野では、AI モデルは厳格な監査と検査に合格する必要があります。他の多くの業界にも適用される規制があります。 「取締役会レベルでは、それは経済行動に関することです」とムハシルカー氏は言う。「AIを導入する際のリスクは何でしょうか？」

経営者にとって、AI アジェンダは目的のあるものです。たとえば、CFO は株主価値と収益性を考慮します。最高情報責任者と最高データ責任者も、マーケティング責任者やコンプライアンス責任者と同様に重要な利害関係者です。顧客やサプライヤーは言うまでもありません。

AI ガバナンス戦略を構築する場合、すべての企業があらゆる側面で行動する必要はありません。それでも、すべての企業は、たとえ自社が使用するサードパーティのツールやサービスに組み込まれているだけであっても、AI と関連テクノロジーをすでに使用しているか、近いうちに使用するようになるでしょう。

AI が適切な監視なしに使用されると、ビジネス運営に悪影響を与えたり、プライバシー権を侵害したり、業界の規制に違反したり、ビジネスの評判を落としたりするようなミスを起こす可能性があります。

ここでは、先進的な企業が AI プロジェクトをパイロットから実際の使用まで拡大する際に、データの品質、アルゴリズムのパフォーマンス、コンプライアンス、倫理に焦点を当てながら AI ガバナンスに取り組む方法を説明します。

人工知能の倫理的問題

今日、顔認識ほど倫理的な問題を抱えている分野はほとんどありません。顔認識の悪用される可能性は大きく、顔認識技術を提供する企業は一般の人々や時には自社の従業員からの抵抗に直面しています。

画像認識技術を使って武器を所持している人物を見つけるパトリオット・ワン・テクノロジーズの子会社、Xtract AIもその例だ。

Xtractの業務担当副社長ジャスティン・グラネック氏は、この技術はマスクを着用していない人や社会的距離のガイドラインに従っていない人を特定するなど、他の状況でも使用できると述べた。

「倫理は重要なテーマです」と彼は語った。「私たちにとって、その多くはボトムアップです。従業員は『私たちは何をしているのか』と問いかけ、経営陣にガバナンス方針を形作るよう働きかけています。」

「クライアントにはそれぞれ独自の要件があり、私たちはバランスを取らなければなりません」と彼は語った。「私たちのクライアントの1つはカナダ国防省で、ヘルスケア業界のクライアントもいます。彼らは異なる視点から物事を見ています。」

大きな問題は、どの顧客のために働くべきか、そしてその技術はどのような仕事をするべきかということだと彼は語った。これには、会社の使命に関する重要な決定が含まれます。解決すべき技術的な問題もいくつかありますが、これらの問題はすべてデータから始まります。

データを正しく取得する

アルゴリズムの偏りの最大の原因はデータセットです。たとえば、顔認識の場合、データセットは歴史的に一般人口をあまり代表するものではありませんでした。 「彼らは白人男性に偏っています」とエクストラクトAIの業務担当副社長ジャスティン・グラネック氏は言う。「私たちはそれを修正しようと努力していますが、まだやるべきことは山ほどあります。」

専門家はデータの偏りの問題に対処するのに役立ち、商用データプロバイダーは提供しているデータのギャップを埋めるために取り組んでいます。合成データセットを作成する方法もあるが、解決策は往々にしてより良いデータを入手することに尽きるとグラネック氏は言う。

Xtract の検出アルゴリズムの場合、それは研究室を設置し、さまざまな使用済み銃を保管し、大勢の人がさまざまな方法でさまざまな場所で銃を持ち歩くことを意味しました。

「ハリウッドの大ヒット映画で銃を持って歩き回っている人々のイメージを探すのは単純なアプローチだが、それが全てではない」と彼は語った。

代わりに、Xtract はトレーニング データとして大量の個人情報を収集することを目指しています。 「誰が武器を携帯できるかという規則はない。学生もいれば、年配者もいるし、いろいろな人がいる」とグラネック氏は語った。

一部の AI アプリケーションでは、正確で代表的なデータセットが、道徳的および倫理的に重大な影響を及ぼし、存続と失敗の違いを意味する場合があります。しかし、不良なデータ セットの影響によって問題が発生しない場合でも、ビジネスに運用上または財務上の損害が発生したり、規制やコンプライアンスの問題が発生したりする可能性があります。

メキシコに本拠を置く世界最大の建築資材販売会社セメックスは、後者の問題を非常に懸念している。創業100年以上のこの会社は、サプライチェーンの管理と運営に人工知能を活用することで自らを改革している。

約3年前、セメックスは市場シェアの拡大、顧客サービスの向上、利益の増加を目的に、人工知能と関連技術の研究を始めました。

「昨年と今年、私たちは実際にAIの価値を世界規模で実感しました。どこかの小さな実験ではなく」と同社の最高人工知能責任者、ニール・カルデロ氏は語った。

同氏は、AIがビジネスのDNAにしっかりと組み込まれるにつれて、セメックスはAIを中心としたガバナンス構造を構築する必要性を認識したと述べた。

すべてはデータから始まります。 「優れた情報アーキテクチャがなければ、優れた信頼性の高い AI は実現できません」とカルデロ氏は言う。「優れた情報がなければ、優れた信頼性の高いモデルは実現できません。」

Cemex では、データ ガバナンスにはセキュリティ、監視、プライバシー、コンプライアンス、倫理が含まれます。企業は、データがどこに保存され、どこでどのように使用され、規制要件に準拠しているかどうか、偏りがあるかどうかを把握する必要があります。

カルデロ氏によると、セメックスはデータ管理にスノーフレーク・データ・プラットフォーム、アクセス管理にサトリを利用しており、データ専任の幹部が1人、ガバナンスを監督するガバナンス・チームを率いる幹部がもう1人いるという。

適切なモデルの構築

データ ガバナンスに加えて、Cemex は AI モデルと結果に関するガバナンスの実装も開始しました。 「これは新しいことだ」とカルデロ氏は語った。「セメックスだけでなく、世界にとってもだ」

このタスクは、Kaldero の AI およびデータ サイエンス グループと CIO チームの間で分担されます。

Cemex は現在、AI を使用して部品の需要を予測し、サプライヤーとのより良い取引によってコストを削減しています。同社はまた、トラックのルートや配送、販売や価格設定にも AI を活用しています。これらの計算のいずれかが間違っていたら、会社は莫大な損失を被ることになるだろう。

そのため、モデルのドリフトとアルゴリズムの偏りを防ぐために、Cemex はシアトルを拠点とする Algorithmia のテクノロジーを使用しました。

KenSci は、AI モデルの下流の結果に焦点を当てている別の企業です。シアトルを拠点とする同社は、人工知能を使用して医療データを分析しており、正確な AI モデルが文字通り生死を分ける可能性がある分野です。

「私たちは常に、代表的で多様な利害関係者のグループとともに AI モデルの目的を評価することから始めます」と、同社の主任データ サイエンティストであるムハンマド アウランゼブ アフマド氏は語ります。これらのモデルの透明性と説明責任を保証するために、中核となる要素に説明可能性が含まれています。

「私たちは、誰でも機械学習モデルの公平性を測定するために使用できるオープンソースのPythonパッケージ、fairMLHealthもリリースしました」と彼は語った。

アフマド氏はまた、他の恵まれないグループが公平に扱われるように、AI モデルがさまざまなグループ間でどのように機能するかを調べることも提案しました。

「AIモデルの透明性と説明可能性により、エンドユーザーはAIモデルを使いやすく、信頼しやすくなります。また、検査もしやすく、必要に応じて修正も容易になります」と同氏は述べた。

人工知能と倫理

ガバナンス戦略を策定する際に考慮すべきもう 1 つの重要な領域は、AI の使用に関する倫理です。 「法律はテクノロジーの進歩に追いついていない」とアフマド氏は言う。「システムの価値と倫理的目標を比較検討するのは機械学習システムの開発者の責任だ。トレードオフが必要なときは、非常に慎重にならなければならない」

デジタルサービスコンサルティング会社Nerderyの最高技術責任者ジョー・トボルスキ氏は、企業は人工知能がもたらす倫理的リスクをますます認識するようになっていると考えている。 「彼らは、自分たちがどんなシステムを実行しているのか、その背後にあるトレーニングデータが何なのかを十分に理解しているだろうか？おそらくそうではないだろう」と彼は語った。

AI プロジェクト、データ ソース、テクノロジーの使用に関して明確な AI 倫理ガイドラインを採用している組織はほとんどありません。 「こうした問題を回避するための強力で規範的な枠組みを持つことが、我々に望んでいることだ」と彼は語った。

セメックスは、発生する可能性のある倫理的問題を最小限に抑えるために、人工知能の使用を意図的に制限している企業の一つです。例えば、カルデロ氏は、同社では単に人員削減をするプロジェクトよりも、サービスの向上と顧客支援につながるプロジェクトを優先していると述べた。

「企業の核となるのは人材であり、テクノロジーではありません」と彼は語った。「すべての顧客コールセンターを自動化することもできますが、それは私たちの利益にはなりません。セメックスは、人々に仕事を提供する雇用主であることを非常に誇りに思っています。それが私たちの企業としての使命であるのは素晴らしいことです。」

AI プロジェクトは、労働力にプラスの影響を与えるように選択されます。セキュリティを例に挙げてみましょう。 「これはAIにとって大きな一歩です」とカルデロ氏は言う。「セメックスは事故をほぼゼロに減らしました。ゼロにするには画像認識が不可欠です。」

AIガバナンス戦略

マサチューセッツ州スプリングフィールドに本拠を置く生命保険会社 MassMutual では、AI ガバナンスは、行動と意思決定の指針となる進化する一連のデータ倫理原則に基づいています。

「当社は、AIを活用して事業を拡大し、企業価値を保険契約者の利益と一致させるための一連の原則を策定しました」と、同社のデータ、戦略、アーキテクチャの責任者であるシアーズ・メリット氏は述べた。「また、ポリシーの枠組みを確立してAIの使用を監視する部門も設置しました。」

MassMutual は、AI の使用が保険契約者の利益になることを証明し、保証する必要があることに気付いた約 1 年前、AI の倫理とガバナンスの調査を開始しました。

メリット氏は現在、AI倫理およびガバナンスコンサルタントを含む6人からなる部門を監督しており、アルゴリズムがガバナンス原則に従っているかどうか、またそれが時間の経過とともにどのように変化するかを追跡し、同社がすでに従っているアプローチの正式な構造を作成している。

「私たちの仕事は関係者全員に大きな影響を与えると信じている」とメリット氏は述べ、企業価値と顧客の利益に合致する中核原則から始め、法務、コンプライアンス、倫理、ビジネス分野のパートナーと協力して実践に徹することを提案した。

同氏は、マスミューチュアルの次の計画は、そのフレームワークを業界のベストプラクティスとして推進することだと語った。

ガードレールの重要性

ブーズ・アレン・ハミルトンの上級副社長ジョン・ラーソン氏は、AIガバナンスには私たちが知っておくべきベストプラクティスが数多くあると語る。

「私は25年間この仕事をしてきました。ソフトウェアとアルゴリズムを開発する原理は以前からありました。欠けていたのは、データの速度、処理能力、学習アルゴリズムでした」と彼は語った。

AI システムにはトレーニング データに対する大きな需要があり、これまでよりも大規模なデータ セットを使用することが多くなっています。また、今日のビジネスのデジタル化により、Web サイト、ネットワーク センサー、IoT デバイス、その他のソースから前例のない速度でデータが流入しています。

このデータを処理する能力も、ほぼ無限に拡張可能なクラウド リソースのおかげで、これまでよりもはるかに向上しています。

最後に、一部の AI システムのフィードバックの性質は、本質的には実践しながら学習することを意味し、この種の学習は、人間が反応できないほど速く予期しない方向に進む可能性があります。

「25年前のガバナンスモデルは原則は同じだが、私たちが直面している課題に完全には適応していない」とラーソン氏は述べ、解決策はAIシステムに自動化された安全策を組み込むことだと付け加えた。

たとえば、開発者はガードレールを設置することができます。モデルの予測精度が意図した目標から逸脱した場合、またはモデルが設計パラメータ内で実行されなくなった場合は、何らかの介入が必要になることがあります。同様に、システムに入力されるデータが望ましい特性を反映しなくなった場合は、データ ソースを再評価するか、入力データに適した別のモデルを選択するように警告が発せられることがあります。

AI システムは他の方法でも監視できます。たとえば、規制上の罰金や広報上の大惨事につながる前に問題を検出するのに役立ちます。

「モデルが何かに偏っているかどうかを評価できるツールが開発されています。Google や Microsoft が開発しています」とラーソン氏は言う。「ブーズ・アレンでも、こうしたツールキットを開発しており、すべてのデータ サイエンティストが利用できるようにしています。」