人工知能は人材採用において利益よりも害をもたらす可能性がある

近年、企業が履歴書の解析や応募者の選考に自動評価、デジタル面接、データ分析を導入するようになり、採用プロセスにおける AI の利用が増加している。 IT チームが多様性、公平性、包括性の向上に向けて取り組む中、企業がテクノロジーの実装方法について戦略的かつ思慮深く考えなければ、従業員の採用に AI を導入することは、メリットよりもデメリットをもたらす可能性があることが判明しました。

[[425181]]

「AI のバイアスはデータから生じることが多い」と、IEEE フェローでニューヨーク大学タンドン工学部学部長のエレナ・コヴァチェヴィッチ氏は言う。「幅広く代表的なデータセットがなければ、AI システムが適切な候補者を見つけて評価するのは困難だ」

採用活動に AI を使用する際の主な問題は、米国では長年男性と白人の従業員が主流であった業界では、AI 採用システムの基盤となる過去のデータに、最終的には固有の偏りが生じてしまうことです。 AI アルゴリズムをトレーニングするためのより広範なデータセットがなければ、AI 採用ツールには、1980 年代から技術職の採用に存在してきた偏見が組み込まれる可能性が高くなります。しかし、専門家は、AIを効果的に活用することで、より効率的で公平な採用プロセスを実現できると述べています。

AIバイアスの危険性

AI アルゴリズムは通常、過去のデータに基づいてトレーニングされるため、AI のバイアスに対処するのは依然として難しい問題です。データ サイエンスでは、バイアスは学習アルゴリズムにおける誤った仮定によって生じるエラーとして定義されます。現在の状況を反映していないデータを使用してアルゴリズムをトレーニングすると、誤った結果が生成されます。したがって、特に IT のような業界での採用においては、過去の採用データに基づいてアルゴリズムをトレーニングすることは大きな間違いとなる可能性があります。

「AIソフトウェアに固有の偏見や偏見的な影響がないことを保証するのは難しい」と、電子プライバシー情報センターのAIと人権研究者ベン・ウィンターズ氏は言う。「これを避けるための措置を講じることはできるが、多くのシステムが人種や障害に基づく偏見的な影響を示している」

企業のデータセットが著しく多様でない場合、AIアルゴリズムが過小評価されているグループのメンバーが過去にどのようなパフォーマンスを発揮したかを知ることは不可能だとコバチェビッチ氏は述べた。代わりに、そのアルゴリズムはデータセットが表すものに偏り、将来のすべての応募者をそのプロトタイプと比較します。

「例えば、過去に黒人がシステムから排除されていたり、女性が過去に含まれていなかったりした場合、それに基づいてアルゴリズムを作成しても、将来を正確に予測することはできません」と彼女は言いました。「『アイビーリーグの学校』からのみ採用する場合、あまり知られていない学校からの応募者がどのような成績を上げるかは実際にはわかりません。そのため、複数のバイアスが生じることになります。」

BMC Software の企業の社会的責任、多様性、公平性、インクルージョンの責任者である Wendy Rentschler 氏は、AI が採用プロセスに与える潜在的な悪影響を痛感しています。彼女はアマゾンのAI採用ツール開発の失敗を例に挙げた。アルゴリズムが女性の求職者を差別していたため、同社はプロジェクトを中止しなければならなかった。

「最大かつ最高のソフトウェア開発者でもできないのであれば、それができると主張するHR技術者全員に私は懐疑的だ」とレンシュラー氏は語った。

AI 採用ソフトウェアの開発者の中には、自社のソフトウェアが強力な機能を備えていると主張する者もいるが、適切な求職者を特定するのに役立つかどうかはまだ分からない。 AI テクノロジーは、企業が採用プロセスを効率化し、AI を使用して適格な求職者を特定する新しい方法を見つけるのに役立ちますが、これらのソフトウェア開発者を取り巻く誇大宣伝に惑わされないことが重要です。

ビジネスにおけるインクルージョンを改善しようとしている場合、AI は手っ取り早い解決策や万能薬のように思えるかもしれませんが、採用プロセスで AI を戦略的に使用しないと、逆効果になる可能性があります。企業は、採用プロセスと採用に使用するツールによって、従来は過小評価されてきたグループを排除しないようにすることが重要です。

人工知能における差別

企業には、採用プロセスで AI をできる限り倫理的に使用し、これらのツールの機能に関する誇張された主張の犠牲にならないようにする責任があります。民主主義技術センターの従業員プライバシー担当上級政策顧問マシュー・シェーラー氏は、企業の人事部門は収益を生み出さず、経費部門とみなされることが多いため、経営者は経費削減に役立つ自動化技術の導入に熱心になることがある、と指摘した。しかし、この欲求は、使用しているソフトウェアの潜在的な悪影響を無視することにつながる可能性があります。シェーラー氏はまた、AI採用ソフトウェア企業の主張の多くは、完全に虚偽ではないにしても、誇張されていることが多いと指摘した。

「特に、人の表情や声のトーン、性格のあらゆる側面を分析すると主張するツールは、実際には万能のツールだ」と彼は語った。

ビデオ面接では、応募者の口調や表情、性格を評価すると主張するツールによって、応募者が文化的にどの程度「正常」であるかを評価できるため、最終的には障害のある応募者やアルゴリズムの型に当てはまらない応募者を排除してしまう可能性がある。これらのツールは、障害を持つ求職者を、面接前に障害を明らかにするかどうかを決めなければならないという厄介な立場に置く可能性もあります。障害を持つ応募者は、障害があることを告げなければその職に必要な資格を取得できないのではないかと恐れ、採用プロセスの早い段階で障害の事実を告げることを躊躇したり、全く告げなかったりすることがあります。

レンシュラー氏が指摘するように、黒人や有色人種（BIPOC）、女性、身体に障がいのある応募者は、面接中に「コードスイッチング」の慣行に慣れていることが多い。コードスイッチングとは、これらの少数派グループが話し方、外見、行動に一定の調整を加えることであり、その場合、AIシステムがこれを察知して、彼らの行動が本物ではない、または不誠実であると誤って判断し、潜在的に有力な応募者を不採用にしてしまう可能性がある。

シェーラーは、この種の差別を 2 つのカテゴリに分類しています。異なる影響を与えるのは意図しない差別であり、異なる扱いをするのは意図的な差別です。したがって、法律上は差別的取扱いとなる特定のグループからの申請者を明示的に優遇することなく、不平等な影響を回避する手段を設計することは困難です。

人工知能採用規制

AI は比較的新しいテクノロジーであり、プライバシーや取引慣行に関する立法、政策、法律に関しては規制が不足しています。ウィンターズ氏は、2019年にエピックがFTCに提出した、HireVueが採用ソフトウェアの顔認識に関連する不正なビジネス慣行を使用していたという苦情を指摘した。

HireVue は、応募者の会話や顔の動きを追跡して分析し、適性、感情知能、コミュニケーション能力、認知能力、問題解決能力などを分析できるソフトウェアを提供していると主張しています。 HireVue は最終的に、顔認識とそのソフトウェアにおける技術の使用に関する主張を撤回した。

しかしウィンターズ氏は、主観的な行動特性を測定して組織への適合性と照合したり、AIを使って候補者の発言に関する公開情報をインターネットで探し出し、潜在的な危険信号や適合性を分析したりする同様の技術があると指摘した。

また、ビデオ面接、評価、履歴書、LinkedIn プロフィール、その他の公開ソーシャル メディア プロフィールを分析する際に、AI が求職者について収集できるデータの量についても懸念があります。多くの場合、候補者は面接プロセス中に AI ツールによってプロファイリングされていることに気付いていない可能性があり、このデータをどのように管理すべきかについての規制はほとんどありません。

ウィンターズ氏は、「一般的に、AI採用ツールに対する規制は現在ほとんどありません。米国では州や地方の法案がいくつか提出されていますが、これらの法案の多くには大きな抜け穴があります。AI技術の適用には高い透明性が必要です。これらのツールの適用に対する管理、データの収集、使用、保持に対する厳格な制限、そして自由に公開される独立した第三者によるテストが必要です」と述べた。

採用におけるAIの責任ある活用

レンシュラー氏と彼女のチームは、企業が人材をより戦略的に活用できるよう、AI テクノロジーを活用する方法を見つけることに注力しています。同社は、応募する職種についてスキルベースの評価を使用して候補者を迅速に選別し、採用担当者とつながるための面接をスケジュールするツールを導入しました。 BMC Software はまた、AI を使用して求人情報内の問題のある表現を特定し、求人情報がすべての応募者にとって中立的で包括的なものとなるようにしています。 BMC はまた、オンボーディング プロセス中に新入社員とその福利厚生および社内組織情報を結び付けるためにもこのソフトウェアを使用しています。レンシュラー氏の目標は、チームのメンバーを置き換えるのではなく、AI と自動化を実装して、チームのメンバーがより効率的に仕事を行えるようにする方法を見つけることです。

AI アルゴリズムは過去の採用データに基づいて固有の偏見をもたらす可能性がありますが、これを回避する 1 つの方法は、スキルベースの採用に重点を置くことです。レンシュラー氏のチームは、AI ツールを、従業員に加えたい特定のスキルセットを持つ候補者を特定するためだけに使用し、教育、性別、名前、およびこれまでプロセスから候補者を除外していた可能性のあるその他の識別情報を無視しています。レンシュラー氏は、そうすることで、BMCソフトウェアは、元々歯科医だったがコーディングの経験もあるシリア難民など、予想外の経歴を持つ候補者を採用したと語った。このシステムはコーディングスキルを持つ候補者を見つけることにのみ焦点を当てていたため、元歯科医は選考に合格し、同社に採用されました。

採用されるその他の倫理的戦略には、抑制と均衡を確立することが含まれます。シェラー氏によると、ある企業は、採用担当者に応募者の履歴書を送り、採用担当者が履歴書を確認して、その仕事に適しているかどうかを判断するツールを設計したという。たとえその採用担当者が履歴書を拒否したとしても、応募者の履歴書はアルゴリズムを通じて他の採用担当者に再度送信されます。優秀な候補者としてフラグが立てられた場合、その応募書類は他の誰かによって審査されたことを知らない別の採用担当者に送られます。これにより、履歴書が人間によって確認され、適格な候補者を特定するために AI システムのみに依存することがなくなり、採用担当者が適格な候補者を見落とすこともなくなります。

「人間が判断力を維持し、機械だけに頼らないことが重要です」とシェーラー氏は言う。「これは訓練するのが難しいことです。なぜなら、採用担当者にとって最も簡単なことは、『会社がこのツールを使うように要求するなら、機械が指示したことは何でもやります』ということだからです。」