HRがAIバイアスを理解し軽減する方法

人工知能 (AI) と機械学習 (ML) がもたらすメリットは広く認識されています。このテクノロジーは、企業がプロセスを自動化し、データ分析を通じて洞察を獲得し、顧客や従業員とつながることを支援します。

これにより、変化する市場の需要に対応し、運用コストを削減し、今日の急速に変化するデジタル世界で競争力を維持するのに役立ちます。

[[418554]]

人事における人工知能

現在、多くの大手クラウド サービス プロバイダーがサービス パッケージに AI 機能をすでに提供しており、高価な AI エンジニアやデータ サイエンティストを雇うのが難しい企業でもテクノロジーを利用できるようになっています。

HR チームにとって、AI の価値は明らかです。 1 つの求人広告に対して、数百、数千人の応募者が集まる可能性があり、各履歴書を手作業で確認するのは、多くの場合、困難で時間のかかる作業です。人工知能と機械学習テクノロジーを活用することで、人事チームは候補者を大規模に評価できるようになり、採用推奨の効率が大幅に向上しました。

AIによる偏見が人材に与える影響

AI は HR ビジネスや部門にかなり明確なメリットをもたらしますが、同時にかなり深刻な課題や潜在的な落とし穴ももたらします。あらゆる AI システムで真っ向から取り組む必要がある最も難しい (しかし最も重要な) 問題の 1 つは、AI システムが偏りのないものであることを確認することです。

これは人事部門の AI システムにとって特に重要です。AI によって生じる偏見により、企業は適格な求職者を見逃してしまう可能性があり、多くの場合、誰にも知られずに見逃してしまうからです。

数年前、Amazon が性差別を理由に履歴書審査用の AI システムを廃止しなければならなかったことを覚えていますか? (詳しく読む: 人工知能のいくつかの有名な「クラッシュ」) これは、残念ながら否定的ではありますが、トレーニング データの威力を示す完璧な例です。当時、アマゾンの従業員の大半は男性だったため、同社独自のデータで訓練されたAIシステムに入力されたアルゴリズムは、アプリを男性的な言葉と関連付ける結果となった。

そうすることで、資格のある女性候補者はモデルによって完全に無視されました。そのため、AI モデルのトレーニングに使用されるデータに偏りがあると、展開された AI システムにも偏りが生じます。そして、その偏見は永久に強化され続けるでしょう。

AIシステムがアウトソーシングされるか、社内で構築されるかにかかわらず、バイアスの問題にはより注意を払う必要がある。

アマゾンの場合、履歴書の選考に使われるAIシステムは社内で構築され、同社の求職者から得たデータを使ってトレーニングされた。しかし、ほとんどの企業には、人事部門向けの社内 AI システムを構築するためのリソースがありません。その結果、より多くの人事チームが Workday や Google Cloud などのベンダーに業務をアウトソーシングするようになりました。

これまで以上に、人事チームにとって、AI のアウトソーシングに伴う大きな責任を認識することが重要です。 AI ベンダーのモデルを盲目的に受け入れて実装しないでください。あなたとあなたのチームは、システムに偏りがないことを確認するために、システムを繰り返しレビューする必要があります。自分自身に問い続ける必要があります。

• モデルのトレーニングに使用されたデータ ソース (またはデータ ソースの組み合わせ) は何ですか?
• モデルはどのような特定の要素を使用して決定を下しますか?
• 結果は満足できるものですか、それとも何か問題がありますか? システムを一時的にシャットダウンして再評価する必要がありますか?

特にアウトソーシングされた AI システムでは、トレーニング データを慎重に確認することが非常に重要です。しかし、偏った職場環境から生じる偏ったデータを軽減する方法はこれだけではありません。

したがって、人事チームには、社内の偏見や不公平の問題を評価する責任もあります。たとえば、企業では男性の方が女性よりも権力を持っているのでしょうか? どのような問題行動が長い間容認されてきたのでしょうか? データは代表的でないグループから取得されているのでしょうか?

多様性、公平性、企業文化の包括性は、AI システムの展開と成果を促進するため、AI を導入する際には非常に重要です。覚えておいてください、AI は自分が偏っていることを認識していません。それは私たち自身にかかっています。

AIを公平かつ偏見なく使用するための3つのベストプラクティス

最終的に、HR チームは AI システムが何ができ、何ができないかを理解する必要があります。今では、人事チームは技術の専門家である必要はなく、AI モデルを駆動するアルゴリズムを理解する必要もありません。

しかし、トレーニング データにどのようなバイアスが反映されているか、バイアスが企業文化にどのように織り込まれているか、AI システムがそれらのバイアスをどのように永続させているかを知る必要があります。

ここでは、HR チームが AI テクノロジーを公平かつ公正に活用するのに役立つ 3 つの戦略的なベスト プラクティスを紹介します。

AI システムを定期的に監査します。システムを社内で構築するかベンダーにアウトソーシングするかに関係なく、モデルをトレーニングするために収集されたデータと生成された結果を定期的に確認してください。データ セットは十分に大きく、多様ですか? 人種や性別など、保護対象グループに関する情報が含まれていますか? 結果が満足のいくものでない場合は、躊躇せずにシステムをシャットダウンし、方向を変えてください。

データサプライチェーンを理解する。アウトソーシングされた既製の AI システムに依存する場合は、トレーニング データにベンダー独自のバイアスやサードパーティのデータセットのバイアスが反映される可能性があることを認識してください。定期的な検査と定期的な監査も必要です。

AI は置き換えるのではなく、補強するために使用します。 AI の機能は急速に進化していますが、現実には AI は依然として管理される必要があります。リスクが伴うため、人事チームは AI を放置するのではなく、AI を活用して役割を強化する必要があります。最終的には、採用や人事に関する決定は人間が行う必要があります。

HR チームは、偏見や不公平といった体系的な問題にすでに精通しているため、AI テクノロジーを公平かつ偏りなく活用できる独自の立場にあります。

AI システムに求められる責任を認識し、AI システムがどのようにトレーニングされ、結果を生み出すかを常に理解するよう努めます。

AI が適切に導入されれば、人事チームが偏見を検出して速やかに修正し、人事業務の効率と効果を高め、ふさわしい応募者や貴重な従業員を選択して、彼らのキャリアをスムーズに進めるのに役立ちます。