AI を理解する: 人工知能システムで説明可能性を追求する理由

この記事は、公開アカウント「Reading the Core」（ID: AI_Discovery）から転載したものです。

おそらく、人工知能以前に「説明可能」という形容詞を聞いたのはこれが初めてでしょうが、実際にはその意味を理解する必要があります。説明可能な人工知能 (XAI) とは、特定の決定を下す理由を人々が理解できるように AI アプリケーションを構築するための技術と方法を指します。言い換えれば、AI システムからその内部ロジックについての説明を得ることができれば、そのシステムは説明可能な AI システムとみなすことができます。

説明可能性は、人工知能の分野で出現し始めている新しい特性です。まず、この問題の技術的な根本を掘り下げてみましょう。

[[351657]]

人工知能は生活を向上させるものである

技術の進歩により、人々がより良いサービスを受けやすくなることは間違いありません。テクノロジーは私たちの生活に欠かせないものであり、好むと好まざるとにかかわらず、生活に対するその影響は拡大するばかりです。

コンピュータとインターネットに続いて、人工知能が再び私たちの生活を変えました。 1950 年代から 1960 年代の数学の分野での精力的な試みから、1990 年代のエキスパート システム、そして AI の分野における人類の現在の成果に至るまで、私たちは自動運転車に乗ったり、Google 翻訳を使用して外国人とコミュニケーションをとったり、さまざまなアプリケーションを使用して写真を編集したり、インテリジェントな推奨アルゴリズムを使用して最高のレストランを見つけたりすることができます。人工知能が私たちの生活に与える影響が徐々に大きくなり、生活に欠かせないものになりつつあることは間違いありません。

しかし同時に、AI システムは非常に複雑なため、一般のユーザーがその仕組みを理解することはほぼ不可能です。 Google 翻訳のユーザーのうち、その仕組みを知っている人は 1% 未満だと思いますが、私たちはこのシステムを信頼し、広く使用しています。しかし、私たちは AI システムの進路を理解し、少なくとも必要に応じてそれに関する情報を入手できるようにする必要があります。

正確さにこだわりすぎ

数学者と統計学者は、線形回帰、決定木、ベイジアンネットワークなどの従来の機械学習アルゴリズムを何百年も研究してきました。これらのアルゴリズムは直感的でよく開発されており、従来のアルゴリズムに基づく決定は簡単に説明できますが、その精度は非常に限られています。したがって、従来のアルゴリズムは、解釈可能性は高いものの、成果は限られています。

マカロック・ピッツニューロンの発見によりすべてが変わり、ディープラーニングの分野が誕生しました。ディープラーニングは、人工ニューラルネットワークを使用して脳内のニューロンの働きを再現することに重点を置いた人工知能のサブフィールドです。強力なコンピューティング能力と最適化されたオープンソースのディープラーニング フレームワークのおかげで、複雑なニューラル ネットワークを高精度で構築できます。

可能な限り最高の精度を達成するために、人工知能の研究者たちは競争を始めました。これらの研究により、多くの優れた AI 製品が生まれましたが、説明可能性が低いという欠点もあります。

ニューラル ネットワークは非常に複雑で、数十億のパラメータで構築できます。たとえば、Open AI の革新的な NLP モデル GPT-3 には 1,750 億を超える機械学習パラメータがあり、このような複雑なモデルから推論を得るのは困難です。

機械学習アルゴリズムの精度と解釈可能性

図に示すように、ディープラーニング モデルと比較すると、従来のアルゴリズムを使用すると AI 開発者に大きな損失が発生します。そして、モデルがより正確になるにつれて、説明が難しくなります。しかし、これまで以上に説明可能性が求められています。理由は次のとおりです。

（１）敏感な分野でのAIシステムの利用が増加

世界は想像以上に速く変化しています。前世紀にライフルで戦われた戦争を覚えていますか? 今では人工知能ドローンが人間の介入なしに誰でも殺すことができます。一部の軍隊はすでにこれらのシステムを導入する能力を持っていますが、説明できない結果を懸念しており、仕組みが分からないシステムに依存したくないのです。実際、米国国防総省の国防高等研究計画局では、すでに XAI プロジェクトが進行中です。

もう一つの例は、テスラがすでに実現している自動運転車です。これはドライバーにとって大きな恵みですが、大きな責任も伴います。道徳的なジレンマに直面したとき、車はどうするでしょうか? この場合、車は 2 つの悪のうち、よりましな方を選ばなければなりません。自動運転車は歩行者を救うために犬の命を犠牲にすべきでしょうか？

AI システムが社会に与える影響力が増すにつれ、AI システムが一般的な場合や特定のケースでどのように意思決定を行うかを理解する必要があります。

（２）人工知能の急激な発展は人類の生存を脅かす可能性がある

機械が自己認識し、人類を滅ぼすかもしれない様子を描いた映画「ターミネーター」を見た人は多いだろう。人工知能は非常に強力で、人類が複数の惑星で暮らす種族になる手助けをすることもできれば、人類を終末的な形で滅ぼすこともできる。

調査によると、AI 専門家の 30% 以上が、人工汎用知能を実現した場合の結果は最悪のものになると考えています。壊滅的な結果を防ぐ最も強力な武器は、AI システムがどのように機能するかを理解し、チェックとバランスを適用できるようにすることです。

[[351658]]

画像ソース: unsplash

（３）AIに関する紛争を解決するには証拠と説明が必要

過去 2 世紀にわたって人権と自由が進化してきたため、現在の法律や規制では、デリケートな分野においてある程度の解釈可能性が求められるようになりました。法的な議論と推論の分野では、解釈可能性の限界の問題も生じます。

人工知能アプリケーションは従来の仕事の一部を置き換えつつありますが、だからといってオペレーターが説明する必要がないということではありません。同じルールに従い、サービス ソフトウェアを説明する必要があります。一般的な法的原則では、法的な紛争が発生した場合に管理者が自動化された決定を説明することが求められます。たとえば、自動運転のテスラ車が歩行者に衝突する状況を考えてみましょう。

しかし、一般原則は強制解釈の唯一の根拠ではなく、現代の法律や規則の中には、異なる形式の解釈権限を創設しているものもあります。 EUの一般データ保護規則（GDPR）では説明を受ける権利が定義されており、これは個人が自動化された意思決定を受け入れる場合、人工知能システムのロジックについて合理的な説明が必要であることを意味します。

米国では、国民は信用申請が拒否された場合、その理由の説明を受ける権利を有します。実際、前の図で予測されているように、この権利により、信用スコアリング会社は、義務的な説明を提供できるように、顧客のスコアリング時に回帰モデル（より説明力が高い）を使用することが義務付けられます。

（４）AIシステムにおける歴史的偏見を排除するには説明可能性が必要

歴史的に、人類は異なる集団に対する差別をやめたことはなく、これは収集されたデータにも反映されています。開発者が AI モデルをトレーニングする際、AI の偏った差別的な要素を履歴データに入力します。私たちの観察結果に人種的な偏りがある場合、モデルは予測を行う際にそれらの偏りを投影します。

バートレット氏の調査によると、米国では少数民族の融資申請の少なくとも6%が純粋な差別により却下されている。したがって、この偏ったデータを信用申請システムのトレーニングに使用すると、少数派に壊滅的な影響を与えることになります。社会として、私たちはアルゴリズムがどのように機能するか、そして社会の自由、平等、友愛を確保するために人間がどのように偏見を排除できるかを理解する必要があります。

（５）自動化されたビジネス上の意思決定には信頼性と信用が求められる

説明可能性は財務的な観点からも意味をなします。 AI システムが企業の販売およびマーケティング活動に対して特定のアプローチを推奨する場合、なぜその推奨が行われたかを知りたいと思うかもしれません。意思決定者は計画に対して責任を負っているため、計画を採用する理由を明確にする必要があります。これは、物理的な企業と金融企業の両方にとって、特に金融市場において、誤った決定が企業に大きな損失をもたらす可能性があるという点で、非常に重要な意味を持ちます。

[[351659]]

画像ソース: unsplash

人々が説明可能な AI を必要とする理由は、社会学、哲学、法律、倫理、ビジネスなど、さまざまな学問分野や領域に由来しており、この需要の広範さと緊急性を示すのに十分です。