人工知能は偏見の岐路に立っている

企業がより多くの機械学習や人工知能モデルを本番環境に導入するにつれて、システム内の偏りに対する認識が高まっています。このバイアスにより、AI システムの判断が悪くなるだけでなく、AI システムを運用している組織が法的に危険にさらされる可能性もあります。さまざまな業界で使用されている AI システムには偏見が入り込む可能性があります。

ハーバード大学とアクセンチュアが昨年発表した報告書は、アルゴリズムによる偏見が人事部門の採用プロセスにいかにして入り込む可能性があるかを示した。 2021年の共同レポート「隠れた労働者：活用されていない才能」では、不十分な職務記述書と、求人広告や履歴書の評価にアルゴリズムに大きく依存する自動採用システムが、いかにして有能な人材が仕事を見つけることを妨げているかを検証しています。

偏見は 2 つの最悪のシナリオにつながります。企業がテクノロジーに多額の資金を費やしているにもかかわらず、システムは依然として古くて間違ったやり方に固執しており、効率は向上しても結果は悪化しています。

警察活動も、アルゴリズムによる偏りの予期せぬ結果が生じやすい分野のひとつです。特定の予測型警察製品では、特定のコミュニティにおける犯罪予測と人種の間に有意な相関関係があることが示されており、このような人気のある予測型警察製品は少数派に対して偏見を持っている可能性があることを示唆しています。調査の結果、米国では、ある地域に白人の住民が少なく、黒人やラテン系の住民が多いほど、犯罪発生の可能性が高くなると予測されることがわかった。裕福なコミュニティと貧しいコミュニティの間にも同様の格差が存在します。

DataRobot が米国と英国のさまざまな業界の 350 の組織を対象に実施した調査では、半数以上が AI の偏見が顧客や自社に害を及ぼす可能性があることを非常に懸念していると回答しました。

調査によると、米国の回答者の54%が、組織内でのAIバイアスによる潜在的な危害について「非常に懸念している」または「深く懸念している」と回答した。 2019年に実施された同様の調査では、42%の人が同様の見解を示しました。調査によると、イギリス人の同僚はAIの偏見に対してさらに懐疑的で、64%がこの見解に賛同していると答えた。

また、調査回答者の3分の1以上（36%）が、自社がすでにAIバイアスの影響を受けており、収益の損失と顧客の喪失が最も一般的な結果であると回答しました。

AI バイアスの最大の潜在的リスクとして消費者の信頼の喪失が挙げられ、回答者の 56% がこのリスク要因を挙げています。続いて、ブランド評判の毀損、規制監視の強化、従業員の信頼の喪失、個人倫理との不一致、訴訟、株価の低下が挙げられています。

調査対象となった組織の4分の3がAIのバイアステストを計画していると答えた一方で、約4分の1がテストを行う能力があると「非常に自信がある」と答えた。

回答者は、バイアスを排除するための具体的な課題として、AI モデルが決定を下す理由を理解するのが難しいこと、入力値とモデルの決定の間のパターンを理解すること、アルゴリズムに対する信頼性の欠如、トレーニング データの明確さ、AI モデルを最新の状態に維持すること、AI バイアスを識別するための関係者の教育、バイアスを構成する要素の明確さの欠如などを挙げました。

では、AI の偏見にはどのように対処できるのでしょうか。まず、回答者の 81% が「政府の規制は AI の偏見を定義し、防止するのに役立つ」と考えています。政府の規制がない場合、約 3 分の 1 の人が AI が「ユーザーに害を及ぼす」ことを懸念していると調査では述べられています。しかし同時に、回答者の45%は、政府の規制によりコストが増加し、AIの導入が困難になるのではないかと懸念していると述べた。 AIに対する政府による規制について懸念していないと答えたのはわずか23％だった。

全体として、AI の偏見の問題に関しては、私たちは岐路に立っているようです。現代のビジネスでは AI の導入が必須であるとますます認識されるようになり、このテクノロジーを導入するプレッシャーは相当なものになっています。企業は、特に倫理面において、人工知能の予期せぬ結果に対する懸念をますます強めています。

AI 分野の実践者は、AI と倫理の重要性と影響を認識し、理解する必要があります。偏見を排除する上での中心的な課題は、そもそもアルゴリズムがなぜその決定を下すのかを理解することです。 AI の偏見やそこから生じる複雑な問題に対処するには、規則や規制が必要です。現在、国際機関や業界大手は AI の原則と規制の研究を始めていますが、モデルが公正で信頼性が高く、説明可能であることを保証するには、まだやるべきことが残っています。