AIの偏見を公平に防ぐ方法

人工知能 (AI) には、ビジネス運営に革命を起こす大きな可能性があります。実際、ある調査によると、67% の企業が今後 1 年間で AI と機械学習のユースケースが増加すると予想しています。これらのテクノロジーには、ビジネス効率の向上、洞察の生成、市場競争力の強化、パーソナライズされた顧客体験の提供といった利点があります。

しかし、規制の厳しい業界の企業は、AI の説明可能性に関連する独特の課題に直面しています。金融サービス、保険、ヘルスケアなどの業界では、厳格な規制やコンプライアンス基準を遵守するために、透明性があり監査可能な意思決定プラットフォームを使用する必要があります。現在、ビジネス プロセスと意思決定を自動化する AI ソリューションは数多く存在しますが、意味のある説明を提供できるものはほとんどありません。可能性に満ちている一方で、企業は自動化された意思決定や予測の背後にある理由を決して見失ってはなりません。

将来の規制への準備

今日、政治組織も社会も AI の透明性の向上を求めています。さらに、政府や消費者は、信用やローンの承認、マーケティング キャンペーン、スマート ホーム テクノロジーの背後にあるアルゴリズムについて、より深い洞察を求めています。米国のアルゴリズムの説明責任に関する法律と世界中の EU AI 法の法案は、安全で倫理的かつ透明性のある AI 成果の基準を確立することを目指しています。しかし、AI の使用事例はまだ進化し、出現しているため、政府は AI をどのように規制するかを検討し始めたばかりです。

たとえば、ニューヨーク市議会は、雇用ツールで使用される AI アルゴリズムを対象とした法案を可決しました。 2023年に施行されるこの法律では、求職者や現従業員を評価するために使用されるAIツールを評価するために、雇用主に独立した監査人を雇用することが義務付けられる。この法律では、求職者の選考や従業員の昇進に使用される人工知能ツールの偏見監査を義務付けている。偏った AI アルゴリズムを使用したり、従業員や応募者に事前に通知せずにそのようなツールを使用したりした場合は、最大 1,500 ドルの罰金が科せられます。短期的には、企業は透明性を高め、将来の規制の出現や基準の進化に備える方法に重点を置く必要があります。

機械学習を活用する際の課題の 1 つは、定義上、機械学習がバイアスを考慮して構築されることです。すべての偏見が有害というわけではありませんが、性別、人種、年齢などの保護されたクラスを有利または不利にする結果を生み出し、臨床試験の承認、健康管理、ローンの適格性、信用の承認など、個人に悪影響を与える場合は有害になります。

アルゴリズムを保護し、有害な偏見を防ぐ必要性はよく知られています。しかし、有害な偏見に効果的に対抗するには、あらゆる決定や予測の背後にあるデータを理解する必要があります。重要な透明性を獲得するには、企業は機械学習とビジネス ルールで構成されたアルゴリズムを可視化し、意思決定を促進して完全な監査証跡を提供する必要があります。たとえば、保険金請求の承認に AI を使用する保険会社は、それぞれの決定が行われた理由を明確に説明できなければなりません。

「ブラックボックス」問題がAIイノベーションに及ぼす影響

AI に関して、多くの企業が直面している問題として、AI ソリューションが予測を提供し、自動化をサポートしているものの、特定の決定を下した理由や結果に影響を与えた要因を説明できず、企業が重大な法的損害や評判の損失を受けるリスクがあるというものがあります。

企業は、アルゴリズムによる決定が期待どおりの結果をもたらすことを保証するために、結果の背後にある理由を明確に把握できる必要があります。 AI のブラックボックスを透明で説明可能な「ガラスの箱」に変えることは、顧客や消費者への被害を防ぎ、企業やブランドへのリスクを軽減するために不可欠です。

基本的に、機械学習は履歴データに基づいて予測を行います。 「認識による公平性」とは、モデル内でその特性が直接使用されていない場合でも、メタデータ フィールドを使用して、共通の特性を持つグループに対してモデルが同様に適切に機能するかどうかを企業が判断できるようにするアプローチを指します。この認識は、企業が不公平または有害な決定につながる前に、有害な偏見を回避、定量化、軽減するのに役立ちます。

エンタープライズAIの将来に対する明確なビジョン

企業全体で AI の導入が進むにつれて、企業は AI の透明性と監査可能性を追求し、結果が有害なバイアスの影響を受けないようにする必要があります。説明可能で透明性の高い AI ソリューションを優先して実装することによってのみ、有害な偏見を減らし、リスクを緩和し、信頼を促進することができます。

スキルベースの採用は人気が高まっていますが、その効果とメリットに関する誤解は依然として残っています。こうした誤解を払拭することが、より公平で持続可能な労働力を生み出すために必要な変化を促進する鍵となります。

大学院生活

米国の労働市場は2022年も調整を続けるだろう。 2,300人以上の経営幹部を対象にした調査では、65%が今年上半期に新たな正社員ポストを追加する予定であることがわかった。さらに 33% の企業が求人の埋め合わせを競っており、現在米国全体で 1,080 万件以上の求人が埋まっていない状態です。従来の採用方法は、労働力のニーズを満たす現実的な手段ではありません。企業は競争力を維持するためにアプローチを近代化する必要があります。これは、スキルに基づいた採用を採用することを意味します。

スキルベースの採用では、学位や資格ではなく、候補者の技術的スキルとコアコンピテンシーが、仕事の成功にとって最も重要な要素として重視されます。この方法では、採用チームは役割に必要なスキルと望ましいスキルを定義し、それらのスキルを客観的に評価して、採用プロセスにおける偏見を最小限に抑える必要があります。

大手企業は、スキルベースの採用にますます目を向けています。以下では、スキルベースのアプローチの採用に関する最大の誤解のいくつかと、企業文化の変革を推進するためにそれらに対処する方法について説明します。

1. スキルベースの採用は大学卒業生にとって不公平です。

スキルに基づく採用は、大学卒業生を考慮から除外したり、参入障壁を下げたりするものではありません。学位が表す特定のスキルを明確に表現することが重要です。これにより、学位取得者と他の手段でスキルを習得した求職者の両方が、その職に応募できるようになります。これにより、すべての人にとっての経済的機会が民主化され、企業が利用できる人材プールが拡大します。

以前は学位を必要としなかった職種でも、現在は4年制の学位が必要となり、名声経済が活性化し、企業のコストが増大しています。このモデルの下では、かつては昇進の機会があった多くの仕事が、誰もが就けるものではなくなり、高騰する高等教育の費用を支払える人だけが就けるものになった。これにより、低所得者層の人材、特に有色人種の人材も排除されることになります。スキルベースの採用は、この不平等に対処する実用的な方法を提供し、学士号を取得していないアメリカ人の66％（黒人の75％以上、ヒスパニックの80％以上を含む）の候補者資格を回復します。

2. スキルに基づいて採用すると、不適切な人材の採用につながり、ビジネスに悪影響を及ぼします。

スキルベースのアプローチを採用することで、候補者をより効果的に選別し、採用することができます。スキルに基づく採用は、学歴に基づく採用よりも将来の業績を 5 倍予測しやすく、職務経験に基づく採用よりも 2.5 倍予測しやすいです。さらに、多くの企業は、学位を持たない従業員の生産性は大学卒業生と同等であり、場合によってはそれ以上であると報告しています。

スキルベースの採用のその他の利点としては、採用までの時間の短縮、従業員のエンゲージメントの向上、離職率の低下などが挙げられます。

3. スキルベースの採用は現実的な人材獲得戦略ではありません。

過去にはそうではなかったかもしれません。歴史的に、採用チームは採用に関して極めてローカルな視点をとってきました。リモートワークの増加により、企業はより幅広い候補者検索を開始し、市場で必要とされるスキルに一致する人材を見つけることができます。

マクロレベルでは、これは、リソースが不足している地域の人材開発企業と提携して、リモートの役割を満たす多様なスキルを持つ候補者のパイプラインを構築するようなものになるかもしれません。こうしたパートナーシップを通じて、企業はビジネス成果と経済的平等を同時に推進することができます。

スキルベースの採用を設計して開始するには時間がかかり、意図的な学習とアンラーニングが必要ですが、最終的には会社、従業員、コミュニティが恩恵を受けることになります。今、スキルベースの雇用に投資することで、企業は将来のスキル主導の仕事に備えることができ、将来、すべてのアメリカ人が有意義に参加できる経済が生まれます。