企業で文明的な AI を推進するための 6 つのヒント

「文明化された AI」への期待が高まるにつれ、コンサルタントは公平で偏見のないアルゴリズムを作成するためのさまざまなステップを提案しています。これは暗に、この世に魔法の弾丸は存在しないことを示唆しています。

企業が機械学習 (ML) やその他の AI ツールを使用して顧客の洞察を明らかにし、人材を特定し、企業ネットワークを保護する方法を模索する中、人工知能 (AI) はデジタル時代の最も破壊的なテクノロジーとなる可能性があります。 IT 部門は多数のテクノロジーを迅速に導入することでメリットを得ることができますが、倫理的な配慮が強いテクノロジーを採用する場合も含め、AI を実装する際には CIO が注意を払う必要があるという証拠があります。

[[266355]]

なぜでしょうか? それは、人工知能が偏見の問題に悩まされているからです。あるケースでは、アマゾンはソフトウェア開発職やその他の職種で女性を公平に評価できなかったため、採用ツールを廃止した。別の例では、MITとトロント大学の研究者らが、アマゾンの顔認識ソフトウェアが女性（特に肌の色が濃い女性）を男性と間違えていることを発見した。

AIには多くの偏りがある

アマゾンだけが例ではなく、他の企業や他の重要な分野でもAIの問題が浮上している。 Facebookのプログラムマネージャーは、同社のPortalビデオチャットデバイスのテスト中にアルゴリズムによる差別に遭遇した。プロパブリカは、米国全土で将来の犯罪者を予測するために使用されているソフトウェアがアフリカ系アメリカ人に対して偏見を持っていることを明らかにした。カリフォルニア大学バークレー校のフィンテックに関する研究によると、ラテン系および/またはアフリカ系アメリカ人は、対面での意思決定とアルゴリズムの両方を利用した住宅ローンに対してより高い金利を支払っていることがわかった。

また、疎外された状況に関連した差別も懸念されており、これは非常に陰湿なものとなる可能性があります。 「代理差別」では、郵便番号が人種の代わりとなり、言葉の選択が性別の代わりとなり、遺伝子変異について議論するFacebookグループに参加すると、たとえそのようなシグナルがアルゴリズムに明示的にプログラムされていなくても、健康保険料が上がる可能性がある。

AI が、現実世界に影響を及ぼす可能性のあるデジタルバイアスに悩まされていることは明らかです。結局のところ、アルゴリズムは「人間の設計の産物」であり、人間の偏見を受け継いでいる、とニューヨーク大学AIナウ研究所の共同設立者ケイト・クロフォード氏は述べた。 IEEE Spectrum によれば、この偏見は数十年にわたって続く可能性がある。

その結果、IT リーダーは「説明可能な」 AI にますます注目するようになりました。彼らは、理想的には規制当局や企業幹部を満足させる結果を明確に示すアルゴリズムを切望しています。しかし、固有の偏見があるため、彼らが本当に必要としているのは「文明的な AI」、つまり完全に公平に動作するアルゴリズムなのかもしれません。

倫理を利用して AI の偏見を排除する 6 つのヒント

CIO が AI の導入を加速させるには、慎重なアプローチを取ることが重要です。 2019年にガートナーが3,000人のCIOを対象に実施した調査によると、AIを導入している企業の数は4年前の10%から37%に増加していることが明らかになりました。短期的には、企業は AI の使用に基づいた倫理ガイドラインの策定に努めるべきです。 Deloitte、Genpact、Fjord の専門家が、企業が AI 導入を最も効果的に進める方法について議論します。

取締役会と利害関係者を巻き込む

AIに関連する倫理的問題は企業の評判、財務、戦略に重大かつ長期的なリスクをもたらす可能性があるため、CIOは取締役会と協力してAIに関連するリスクを軽減する必要がある、とデロイトの米国イノベーションチームのマネージングディレクター、デビッド・シャツキー氏は述べた。 AI に倫理を組み込む場合は、まず顧客、従業員、規制当局、一般市民などの利害関係者にとってそれが何を意味するのかを判断する必要があります。 「組織は、ステークホルダーが誰であるかについて関与し、透明性を保つ必要がある」とシャツキー氏は述べた。

「デジタル倫理」小委員会の設置

企業向けにさまざまな技術を設計・実装するジェンパクトの最高デジタル責任者、サンジェイ・スリバスタバ氏は、取締役会にはすでに監査、リスク、技術委員会があるが、今こそAIに特化した委員会を追加する時期かもしれないと語った。このような「デジタル倫理」委員会は、利害関係者と協力して AI ソリューションの設計と管理を支援できる部門横断的なリーダーで構成されている必要があります。委員会はAIに関連する規制についても精通する必要がある。 Genpact が調査した企業のうち、95% が AI における偏見を排除する取り組みをしたいと回答しましたが、ガバナンスと制御を実施しているのは 34% のみでした。 「我々は顧客に迅速に行動するようアドバイスしている」とスリヴァスタバ氏は語った。「彼らは認識を持ち、その根拠を理解しているが、ガバナンスと管理体制が整っていないのだ。」

デザイン思考を活用する

アクセンチュア・フィヨルド・デザイン・コンサルティングのマネージング・ディレクター、シェリー・エヴェンソン氏は、企業がAIを社内で開発するにせよ、市販のツールを購入するにせよ、デザイン思考を活用してソリューションを考案すべきだ。そうすれば、アルゴリズムの潜在的な偏りに対処するのに役立つからだと述べた。天気やソーシャル メディアの手がかりを利用して売上や製品の需要を予測する社内アプリには、少なくとも従業員や顧客に直接影響を与える手がかりほど有害ではありませんが、テクノロジーの設計プロセスについて検討することは良い考えです。

テクノロジーを活用して偏見と闘う

エンタープライズ AI 開発者は、ユーザーやその他の影響を受ける関係者を不当に扱う偏見を誤って組み込んだシステムをテストして修正するためのトレーニングも受ける必要があります。企業は、データ変数が年齢、性別、人種などの機密変数と関連しているかどうかを検出するツールや、機械学習アルゴリズムがどのように出力を生成したかを評価および説明する方法も活用できます。例えば、企業は意思決定プロセスを追跡するためにアルゴリズムにデジタルの「パンくず」を挿入することができるとスリビスタバ氏は述べた。

AIの使用について透明性を保つ

AI の使用についてオープンかつ透明性を保つことで、企業は利害関係者との信頼関係を構築できます。たとえば、チャットスキー氏は、エージェントは（現在でも多くのチャットボットがそうであるように）人間のふりをするのではなく、自分自身を人間であると認識するべきだと述べています。企業は、顧客に影響を与える自動化された意思決定システムの使用についても開示する必要があります。可能な限り、企業はどのようなデータを収集し、それを何に使用し、その使用が顧客にどのような影響を与えるかを明確に説明する必要があります。

従業員の失業に対する不安を軽減する

AI がどの程度の雇用喪失や雇用の変化を引き起こすかは不明ですが、企業は従業員に対して仕事がどのように変化するかについて教育し、スキルアップして競争力を維持するためのさまざまな方法についてアドバイスを開始する必要があります。これには、自動化される仕事に就く労働者の再訓練、あるいは新しい仕事を見つける時間を与えることが含まれる。たとえば、保険会社 State Auto では、ロボティック プロセス オートメーション (RPA) が低レベルのタスクの処理を開始するにつれて、より複雑な請求を処理できるように従業員をトレーニングしています。

最も重要な要素

シャツキー氏は、これらはどれも簡単なことではないと述べ、主な理由は、特定の状況や特定の利害関係者との関係で物事を行う際の倫理について十分な合意が得られていないためだと語った。どのようなアプローチをとるにせよ、企業は「AI規制が導入されるのを待つ」のではなく、行動を起こすのが賢明だとシャツキー氏は述べた。

政府はこの方向で取り組んでいます。欧州委員会は4月に、組織が人工知能（AI）の倫理的なアプリケーションをどのように開発すべきかについての一連のガイドラインを発表した。 2日後、米国政府は、顔を検出したり、機密性の高い個人データに基づいて重要な決定を下したりする技術など、リスクの高いAIシステムに対処するため、2019年アルゴリズム説明責任法案を提案した。

将来的にどのような規制が施行されるにせよ、CIO にはそれを理解する時間があります。現在、企業の AI 導入は、データの不足とデータ品質に関する疑問、機械学習モデラー、データ サイエンティスト、その他の AI 専門家の不足、結果の不確実性、そしてもちろん倫理的な懸念と偏見によって妨げられている、と O'Reilly の調査は指摘しています。

オライリーの調査によると、AIを導入している企業のうち、金融サービス、ヘルスケア、教育の分野が58%を占め、通信、メディア、エンターテインメント、政府機関、製造、小売の各分野がそれぞれ4%を占めている。