AIは単なるコードかもしれないが、それは私たちのコードだ

AI に対する期待は高すぎるのでしょうか? また、企業とその経営陣は AI が提供する成果にどの程度依存すべきでしょうか?

これは12月初旬にニューヨークで開催されたAIサミットのパネルディスカッションのテーマであり、金融​​サービスにおけるAIの新たな役割のリスクに焦点が当てられましたが、その議論はすべての業界に幅広い影響を与えました。 （私はセッションの共同主催とパネルディスカッションの司会をする機会がありました。

「AI は何かを伝えていると思っていますが、そうではありません」とエイブル社の CTO ロッド・バターズ氏は警告します。 「それは単なるコードの集まりです。何も知らないのです。これは私たち全員が陥る幻想です。どういうわけか、私たちはモデルが何かを具体化していると思っています。現実には、AI は単なる統計エンジンであり、多くの場合、悪い統計エンジンです。

今日のAIについて、「AIは人間が作った概念の最大の体系的リスクだ」と、Agentic Groupの創設者兼マネージングディレクターであり、世界倫理データ財団の諮問委員会メンバーでもあるリック・ウィラード氏は言う。 「すべては人間が行っています。すべては人間が実行しています。リスクと報酬を比較すると、金融機関とその機関を取り巻く規制の枠組みが優れているかどうかが重要になります。私たちは、テクノロジーが登場する以前から構築してきたのと同じ人間と経済のアルゴリズムをサポートしているのでしょうか。それとも、そのアルゴリズムをより優れた、より包括的なものにするために取り組んでいるのでしょうか。」

さらに、AIはまだ比較的未成熟な技術だと、アントワークスのグローバル金融サービス担当副社長ドリュー・スカラノ氏は言う。 「10年前はAIについて話すことすらなかったが、今ではAIは数十億ドル規模の産業になっている」と彼は語った。スカラノ氏は語った。 「私たちはテクノロジーに依存しすぎて、そのループの中にいる人間や、望ましい結果を得るためにAIを補完する上で人間が果たす重要な役割を忘れているのかもしれません。

もう 1 つの課題は、AI システムが比較的孤立して構築される傾向があることです。バターズ氏は、AIは単なるコードであり、こうしたシステムを構築する人々はビジネスにとっての価値について限定的な見方をしている可能性があると警告した。 「データ サイエンティストにモデルを作成するように指示するとき、私たちは彼らに読心術師や占い師になることを求めているのです」と彼は言います。 「これは 2 つの悪い作業であり、うまくいきません。データ サイエンティストは、説明責任があり信頼できるモデルを作成するという正しいことをしようとしていますが、何に基づいているのでしょうか。結局のところ、モデルを構築するときに、透明性と拡張性を作成し、ビジネス コミュニティに戦略的かつ戦術的に実際に伝えるという組み合わせがなければ、誰が説明責任を負うのでしょうか。優れたモデルを作成するだけでは、必ずしもすべての問題を解決できるわけではありません。」

データ モデルを構築する場合、データ サイエンティストは人間への影響を考慮しながらビジネスの目標を理解する必要がある、と Scarano 氏は述べています。 「エンジニアに素晴らしい橋を作らせたとしても、それが本来の目的を超えなければ、それはただ素晴らしい橋でしかないのではないでしょうか。私は、ビジネス界、特に金融サービス業界の人々がテクノロジーに過度に依存し続けるのではないかと心配しています。人類と共存するには、総合的なアプローチが必要です。」

スカラノ氏は、AIの技術や統計を超えて、最終的に顧客に役立つ製品に焦点を当てるよう訴えた。 「これは、ビジネスを推進し、最終的には顧客の現実、顧客の成功、顧客満足度を推進するために、AI で人間を補完する方法に関するものです。

パネリストは、AI がビジネス目標の達成に役立つためには、その開発を導く一貫したフレームワークを確立する必要があることに同意しました。 「私は失敗が早い環境で育った」とウィラード氏は語った。 「コードを構築し、テストし、壊れた部分を直します。その場で修正します。構築し、ある程度動作したら、そのままにして、フィードバック ループからの入力に基づいて時間をかけて改善します。しかし、AI の場合、問題は、AI を判断の立場に置くことです。刑事司法制度と同様に、正しく機能するまでは、大きな損害を引き起こす可能性があります。銀行システムでは、ローンがあってもローンなし、スコアがあってもスコアなし、クレジットがあってもクレジットなしです。プロセス中の損害を最小限に抑えながら、大規模に展開するために必要な精度を備えたテスト フレームワークとサンドボックスを構築するにはどうすればよいでしょうか。」

金融サービス業界では人工知能がさまざまな目的で使用されていますが、業界の構築に貢献した人間的資質が非人間化されるというリスクがあります。 「今日では、クレジットカードの承認から住宅ローンの承認、あらゆる種類の融資手段の承認まで、あらゆることにAIを活用できます」とスカラノ氏は語った。 「しかし、人間の介入がなければ、信用スコア以上のもの、住宅ローンの承認や拒否以上のものが人間にはあることを理解する方法はありません。

顧客体験は金融サービスにとって基本であり、すべての AI イニシアチブの中心となる必要があります。人間の入力を取り入れた AI 駆動型システムにはフィードバック ループが必要です。 「AI ベースのソリューションを実装する場合、製品を使用するエンドユーザー、つまり顧客もこの投資とソリューションに満足していることを確認する必要があります」と、Run:AI のソリューション アーキテクトである Robert Magno 氏は述べています。 「倉庫内でロボットが荷物を自律的に移動させるのは理にかなっています。しかし、顧客サービスの観点から見ると、チャットボットとやり取りしているユーザーがイライラした場合、実装しているソリューションが顧客に受け入れられ、作成を楽しんだのと同じくらい顧客もその体験を楽しんでいることを確認するためのフィードバック ループが必要です。」