「説明可能な」AIが金融セクターへの信頼を高める

[[423755]]

人工知能は、詐欺の特定や金融犯罪の撲滅から、顧客への革新的なデジタル体験の提供に至るまで、金融サービス業界でその価値を証明しています。しかし、従来のルールベースのモデルから機械学習モデルを使用して意思決定を行うという進化は、金融機関にとって新たな課題も生み出しています。

機械学習モデルによる決定の信頼性を確保するための適切な手順が実施されていない場合、多くの組織は知らないうちに評判や財務上のリスクにさらされている可能性があります。 「説明可能性」や透明性に欠ける「ブラックボックス」なAI技術を使用すると、意思決定に問題が生じた場合はもちろん、意思決定の理由やプロセスも企業組織が理解できなくなります。

AI アプリケーションの目標は、意思決定の判断を出力することです。人々が日常生活で AI にますます依存するようになると、意思決定のプロセスを理解することがますます重要になります。このような背景から、「説明可能な」AI という概念が生まれました。いわゆる「説明可能な AI」とは、動的に生成されたグラフやテキストによる説明を通じて、AI テクノロジーが意思決定を行う経路を人間が簡単に理解できることを意味します。 AI の説明可能性が高まれば高まるほど、特定の決定や判断が下された理由を人々が理解しやすくなります。

現在、金融機関は岐路に立っています。 IBM と Morning Consult による新しい調査によると、金融業界の組織の 44% が、AI テクノロジーをうまく導入する上での最大の課題は専門知識とスキルの不足であると回答しています。パンデミックの間中、業務効率を改善し、金融機関を競合他社と差別化するために新しいテクノロジーを導入することへのプレッシャーが強まっています。 AI テクノロジーを導入する組織が増えるにつれて、出力の公平性を確保し、AI の意思決定に対する信頼を高め、AI の導入を拡大してビジネス運営を最適化することが重要になります。

金融業界は人工知能への信頼をどのように向上できるでしょうか?

まず第一に、金融機関が業務への AI の統合を検討する前に、ポリシーと規制の定義から始めて、倫理的で信頼できる AI テクノロジーを最初から理解する必要があります。金融サービス企業はこのことを認識しており、IBM の 2021 年グローバル AI 採用指標レポートの回答者の 85% が、AI がどのように意思決定を行うかを説明できることが自社のビジネスにとって重要であると述べています。

金融機関は、自社の業界における「公平性」が実際に何を意味するのか、またそれがどのように監視されるのかを明確に定義できなければなりません。同様に、組織は、企業体として現在どのような立場にあるのか、また、どのようなポリシーがその立場を反映しているのかについて明確にする必要があります。

この最初のステップが完了すると、金融機関は AI モデルの具体的な使用事例の調査を開始できます。たとえば、さまざまな信用リスクのシナリオで AI モデルがどのように機能するかを考えてみましょう。どのようなパラメータが決定に影響しますか? リスクと人口統計を不当に関連付けていませんか?

これらすべての要素は慎重に検討する必要があり、モデルの構築と検証から展開と使用に至るまで、AI 運用のライフサイクル全体を通じて念頭に置く必要があります。今日では、組織はさまざまなプラットフォームを使用してこのプロセスをガイドし、モデルが公平かつ偏りのないものであることを確認し (ポリシーで指定された公平性の範囲内)、規制当局に決定を視覚化して説明する機能を提供することもできます。しかし、市場にはこうしたツールが存在しているにもかかわらず、調査対象の金融サービス組織の 63% は、すべてのデータ環境に適していない AI ガバナンスおよび管理ツールが、信頼できる AI モデルの導入の障害になっていると回答しています。

AI モデルに自信を持つ金融機関は、単純作業に費やす労力を減らし、より価値の高い作業に集中できるようになります。たとえば、不正検出は今日の金融サービスにおける AI の一般的な使用例ですが、誤検出率は依然として高いままです。 AI システムが、あるケースが不正であると判断する理由を説明でき、さらに重要な点として、あるグループを他のグループよりも体系的に優遇していないことを証明できれば、人間の従業員は結果の検証に費やす時間を減らし、より価値の高い作業に多くの時間を費やすことができます。

スタートアップ企業は従来の金融機関とは異なるアプローチを取る必要があるのでしょうか?

結局のところ、伝統的な金融機関であろうと新興のスタートアップ企業であろうと、公正で倫理的かつ透明性のある AI テクノロジーを確保することに同等の注意を払う必要があります。

最も顕著な違いは、従来の金融機関にはすでにモデルリスク管理の実践があり、それが通常は従来のルールベースのモデルに適用されていることです。さらに、従来の金融機関ではすでにテクノロジーとプロセスが導入されているため、アプローチを変更することはより困難になることがよくあります。ただし、どの開発および展開ツールを使用するかに関係なく、既存のモデルリスク管理プラクティスを拡張して AI/ML モデルをサポートする方法を検討する必要があります。

多くのフィンテックのスタートアップ企業は、このテクノロジーへの既存の投資を検討していない可能性があります。これにより、組み込み機能を備えたクラス最高の開発、展開、監視プラットフォームを選択する自由も広がります。

金融業界におけるAIの未来

人工知能への投資を依然として「リスクのある動き」とみなしている企業組織にとって、パンデミックは触媒として機能し、効率性の向上やリモートワーカーへのプレッシャーの軽減など、AIテクノロジーの多くの利点を認識できるようになりました。現在、金融業界の企業の28%が、業務の一環としてAIを積極的に導入していると回答しています。 AI技術の普及は非常に速く大規模であるにもかかわらず、44%の企業がまだAIソリューションの検討の初期段階にあると回答し、22%の企業は現在AIソリューションを使用していないか、使用を検討していないと回答しました。つまり、現在、ほとんどの金融会社は、将来の成長と使用目的のために概念実証 (PoC) を開発したり、データを分析したりしているということです。

パンデミック後の世界に入るにあたり、組織はこれまで以上に注意を払い、AI テクノロジーが責任ある方法で運用され、組織的な不正を助長しないようにする必要があります。今後、世界各国の政府から制定される法律や規制も、特に金融業界の組織がこのテクノロジーを責任を持って使用する方法に引き続き焦点を当てることになります。

要約すると、AI の意思決定に対する幅広い信頼を獲得するための近道はありませんが、組織は、偏見や不公平に対処し、説明可能性を向上させるために、継続的かつ意図的な手順を踏むことから始めることができます。