説明可能なAI: 4つの主要産業

[[267801]]

AI システムがどのように意思決定を行うかを人々が理解できるようにする説明可能な AI は、医療、製造、保険、自動車の各分野で重要になります。では、これは組織にとって何を意味するのでしょうか?

例えば、ストリーミング音楽サービスプラットフォームのSpotifyは、歌手ジャスティン・ビーバーの曲をユーザーに推奨する予定でしたが、実際にはビーバーの曲が推奨され、明らかに少し混乱を招きました。これは必ずしも、Spotify のプログラマーがアルゴリズムを透明かつ理解しやすいものにしなければならないという意味ではありませんが、人々はそれを少し的外れだと感じるかもしれません。しかし、その結果は明らかに軽微です。

これは、説明可能な AI の試金石です。説明可能な AI とは、人間が簡単に理解でき、その起源を遡ることができる結果を生成する機械学習アルゴリズムやその他の AI システムです。 AI ベースの成果が重要になるほど、説明可能な AI の必要性が高まります。対照的に、比較的リスクの低い AI システムは、ブラックボックス モデルにしか適合しない可能性があり、その結果を人間が理解することは困難です。

「音楽サービスが推奨する曲のように、AIアルゴリズムがあまりうまく機能しないのであれば、社会はそうした推奨を監視する規制当局を必要としないかもしれない」と、Jane.aiのAI研究開発責任者デイブ・コステナロ氏は語った。

人々は、アプリが自分の音楽の好みを誤解することを許容できます。しかし、例えば医療処置の推奨や住宅ローンの申請の却下など、AI システムによって下されるより重要な決定は、容認されない可能性があります。

これらは、特に否定的な結果の場合には、特定の結果に至った経緯を明確に説明する必要がある、非常に重要な状況です。多くの場合、監査人、弁護士、政府機関、その他の潜在的な関係者も同様のことを行います。

コステナロ氏は、特定の決定や結果に対する責任が人間から機械に移行するにつれて、説明可能性の必要性も高まるだろうと述べた。

「アルゴリズムがすでに人間を関与させているのであれば、人間の意思決定者は結果を説明する責任を引き続き負うことができる」とコステナロ氏は述べた。

彼は、放射線科医向けにX線画像に事前にラベルを付けるコンピュータービジョンシステムを例に挙げた。 「これにより放射線科医はより正確かつ効率的に作業できるようになりますが、最終的には診断と解釈が提供されることになります」と彼は語った。

ITのAI責任：その理由を説明する

しかし、AI が成熟するにつれて、徐々に人間の意思決定と責任に依存する新しいアプリケーションがますます増えていくと思われます。音楽推奨エンジンには特に大きな責任の負担はないかもしれませんが、他の多くの実際または潜在的な使用例では大きな責任の負担があります。

「影響が大きく、処理のスピードや量が必要なため人間が効果的に関与できなくなった新しい種類の AI 決定については、実務家はアルゴリズムを説明する方法を見つけるのに苦労している」とコステナロ氏は述べた。

IT リーダーは、組織の AI ユースケースに必要に応じて説明可能性が適切に組み込まれるようにするための措置を講じる必要があります。 TigerGraph のマーケティング担当副社長 Gaurav Deshpande 氏は、多くの企業の CIO がすでにこの問題を懸念しており、特定の AI テクノロジーや使用事例の価値を理解していても躊躇することが多いと述べています。

「しかし、どのようにして答えにたどり着いたのか説明できないなら、その答えを使うことはできません」とデシュパンデ氏は言う。「なぜなら、『ブラックボックス』のAIシステムは偏見のリスクをはらんでおり、それが訴訟や重大な責任、ブランドやバランスシートへのリスクにつながる可能性があるからです。」

これは、企業がブラックボックス モデルを運用するのではなく、説明可能な AI システムを導入する方法と理由について考えるもう 1 つの方法です。彼らのビジネスはそれにかかっているかもしれない。 AI における偏見の主張は誤解を招く可能性があります。より重大な状況では、同様の要求は非常に深刻なものになる可能性があります。そのため、説明可能な AI は、機械学習、ディープラーニング、その他の分野の商用アプリケーションの中心となる可能性が高いのです。

4つの業界における説明可能なAIの役割

Ness Digital Engineering の CTO である Moshe Kranc 氏は、説明可能な AI の潜在的な使用例について、「人々の生活に影響を与える使用例はすべて、バイアスの影響を受ける可能性があります」と述べています。その答えは、シンプルでありながら奥深いものです。

彼は、AI によって行われる可能性が高まっているが、根本的には信頼性、監査可能性、および説明可能な AI のその他の特性を必要とする決定の例をいくつか紹介しました。

• 研修プログラムに参加する
• 誰かに保険をかけるかどうか、またいくら保険をかけるかを決める
• 人口統計に基づいてクレジットカードやローンを発行するかどうかを決定する

これを念頭に置いて、さまざまな AI の専門家や IT リーダーが、説明可能な AI が不可欠な業界とユースケースを特定しました。銀行業界は、説明可能な AI が機械に適しており、融資の決定やその他の金融サービスで重要な役割を果たすことができる好例です。多くの場合、これらの用途は他の業界にも拡張できます。詳細は異なるかもしれませんが、原則は同じままです。そのため、これらの例は、組織内で説明可能な AI のユースケースを考える際に役立つ可能性があります。

1. ヘルスケア業界

説明可能な AI に対する需要は、人間の影響とともに高まります。したがって、ヘルスケア業界は AI が非常に有益となる可能性がある分野でもあるため、始めるのに適した場所です。

「説明可能な AI を使用する機械は、医療スタッフの時間を大幅に節約し、反復的な作業ではなく医療の解釈作業に集中できるようにします。同時に、各患者にもっと注意を払うことができます。潜在的な価値は非常に大きいですが、説明可能な AI が提供する追跡可能な説明が必要です」と、キネティカの CEO であるポール アップルビー氏は述べています。「説明可能な AI により、機械はデータを評価して結論を​​導き出すことができますが、同時に医師や看護師に、その結​​論に至った経緯を理解するための決定データを提供します。そのため、場合によっては異なる結論に達し、人間がニュアンスを解釈する必要があります。」

SAS のエグゼクティブ バイスプレジデント兼最高情報責任者である Keith Collins 氏は、具体的な実際のアプリケーションについて説明しました。 「現在、医師がAI分析を利用してがん病変をより正確に検出するケースに取り組んでいます」と同氏は述べた。「この技術は医師の仮想アシスタントとして機能し、MRI画像の各変数ががんの疑いのある領域とそうでない領域を特定するのにどのように役立つかを説明します。」

2. 製造業

現場技術者は、機器の故障を診断して修理する際に、「部族の知識」に頼ることがよくあります。

IBM Watson IoT のシニア プロダクト マネージャーである Heena Purohit 氏は、製造業では現場の技術者が機器の故障を診断して修理する際に「部族の知識」に頼ることが多く、これが当てはまる業界もあると指摘しました。部族的知識の問題は、チームのメンバーが頻繁に、時には劇的に変わることです。メンバーは異動し、専門知識も変化し、その知識は必ずしも記録または転送されるわけではありません。

「AI による自然言語処理は、機器マニュアル、保守基準などの非構造化データと、作業指示書の履歴、IoT センサーの読み取り値、ビジネス プロセス データなどの構造化データの分析に役立ち、技術者が従うべき規範的なガイダンスの最適な推奨を作成できます」と Purohit 氏は述べています。

これは部族の知識の価値をなくすものではなく、人間の意思決定を弱めるものでもありません。むしろ、これは反復的でインタラクティブなプロセスであり、知識が実用的な方法で保存され、共有されることを保証します。

Purohit 氏は次のように説明しています。「この場合、ユーザーには AI による修理ガイダンスの提案オプションを複数提示し、各回答の信頼区間が可能な回答となります。ユーザーには各オプションが提供され、継続的な学習プロセスに役立ち、将来の提案を改善します。このようにして、ユーザーに単一の選択肢を提供するだけでなく、ユーザーがオプション間で情報に基づいた決定を下せるようにします。各提案について、ユーザーには高レベルの機能、ナレッジ グラフ出力、AI トレーニング フェーズで使用された入力も提示し、結果がなぜ優先され、それに応じてスコア付けされたのかに関するパラメーターをユーザーが理解できるようにします。」

3. 保険業界

医療業界と同様に、AI は保険業界に大きな影響を与える可能性がありますが、信頼性、透明性、監査可能性は絶対に必要です。

「保険業界における AI の潜在的な使用事例は数多くあります。顧客獲得、代理店の生産性、クレーム防止、引受、顧客サービス、クロスセリング、ポリシーの調整、リスクとコンプライアンスの改善などです」と、Cognitivescale の創設者兼 CTO であるマット・サンチェス氏は述べています。同氏は、最近のアクセンチュアの調査で、保険業界の幹部の大多数が、今後 3 年以内に AI が業界に革命を起こすと予想していることが明らかになったと指摘しています。

しかし、それは間違いなくかなり大きな影響を与えた分野です。生命保険、住宅保険、健康保険、労災保険などの主要な保険カテゴリーを検討するだけで、その影響を実感できます。サンチェス氏は、説明可能な AI が非常に重要になると述べ、他の分野にも当てはまる以下の質問について考えるよう人々に提案しました。

AI はどのようにしてその洞察や結果に至ったのかを説明できますか?

結果を得るためにどのようなデータ、モデル、処理が適用されましたか?

規制当局はこの AI の仕組みにアクセスし、理解できるのでしょうか?

誰が何にいつアクセスしているのか?

4. 自動運転車

説明可能な AI は、最終的には AI が最大の価値を提供できるようにすることが目的です。

「AI サービスが特定の決定を下す理由や、特定の洞察を得る方法を理解することは、AI 実践者が AI サービスをより適切に統合するために重要です」と、PubNub の CTO 兼共同創設者である Stephen Blum 氏は述べています。「たとえば、自動運転車の AI システムが車両と対話するようにどのように構成されるかによって、乗客は大きなリスクにさらされます。なぜなら、乗客の決定が生死を分ける可能性があるからです。」

実際、自動運転車は間違いなく人工知能が重要な役割を果たす新興分野であり、説明可能な人工知能はその最も重要な分野となるでしょう。

キネティカのCEO、アップルビー氏はこの状況の重要性を説明した。 「自動運転車が避けられない危険な状況に陥った場合、どうすべきか？歩行者を危険にさらしてでも乗客の保護を優先すべきか？それとも、乗客を犠牲にして歩行者への衝突を避けるべきか？」と同氏は語った。

したがって、これらの質問に対する答えを得るのは簡単ではありません。しかし、これは非常に直接的な結論につながります。つまり、AI のブラック ボックス モデルはこの場合機能しません。このことは、自動車メーカーや公安当局者などはもちろんのこと、乗客や歩行者にも同様に説明する必要があるだろう。

「自動運転車の反応に同意できないかもしれませんが、その車が従う倫理的な優先事項を事前に理解しておく必要があります」とアップルビー氏は述べた。「企業内でデータガバナンスが確立されていれば、自動車メーカーはモデルが意思決定のポイントAからZまでどのように動くかを追跡して説明することでデータセットを追跡でき、その結果が自社の倫理的立場と一致しているかどうかを評価しやすくなります。同様に、乗客は特定の決定を下すように設計された車に乗る意思があるかどうかを決めることができます。」

これは厳しい現実かもしれませんが、生死に関わるシナリオ以外のシナリオも含まれる基本的な原則もあります。説明可能な AI は、改善され最適化された AI テクノロジーであり、IT リーダーが AI について考えるもう 1 つの方法です。

「AI システムがミスを犯した場合、開発者はなぜミスを犯したのかを理解して、改善や修正を行えるようにする必要がある」とブルーム氏は言う。「AI サービスがブラックボックス内で実行されていると、デバッグや改善の方法を理解することはできない」