AI採用を本当に公平にすることは難しいかもしれない

アマゾンのAI採用ツールが女性差別をしていたことが発覚し、公式がチーム解散を発表。これで一件落着か？

これは、1911年の革命後、上海の外灘公園の外にあった「中国人と犬の立ち入り禁止」という標識が撤去され、上海の人々が安堵のため息をついたときのことを思い出させます。

しかし、差別はなくなることはないし、遅くなることもないだろう。

現在でも職場での女性差別は深刻です。男性のみを採用し、女性は採用しないと公言する雇用主は少数ですが、女性を採用する際に設定される基準はすべて差別的です。労働能力の検査に加えて、婚姻状況、家族状況、生殖状況なども考慮されます。さらに、これまでプライベートだと思っていたこれらの質問が、仕事を始める前に直接かつ露骨に尋ねられることになります。

人工知能技術の進歩により、職場でのこうした差別がさらに悪化しているように見えることから、人々はさらに無力感を感じている。過去2日間、アマゾンのAI採用ツールが性差別を行っていることが暴露された。このシステムは、「女性」という言葉を含む履歴書に低い星評価を与えていた。技術者がプログラムを修正して、特定の条件でシステムを中立にしたとしても、機械が次にどのような新しい差別を生み出すかは誰にもわかりません。

データは社会的な産物であり、技術的中立性は不可能である

技術的中立性を達成することは、この生涯では不可能です。

技術的中立性とはどのようなものだとお考えですか？それは偏見や公平さがなく、誰もが平等にテクノロジーがもたらす利便性を享受できることを意味します。

これは企業のプロパガンダだが、真実ではない。いかなる技術の発明も、生身の人間の「色」に染まることは必至であり、人間によって形作られ、現在の社会環境の影響を受け、社会の産物である。人工知能技術はデータによって駆動されます。データには特定の社会的属性があるため、データ内の差別は人工知能採用マシンに完全に反映され、指数関数的に増幅される可能性もあります。

Guokr.com の記事「AI が性差別を学ぶとき」では、研究者の研究内容が複雑な日常の場面の写真を識別するというものだった事例が紹介されていました。研究者は、男性と識別された写真には、キッチンに立っていたり、家事をしていたり​​するといった共通の特徴があることを発見しました。

問題があるわけではないが、ビッグデータから機械が理解しているのは、女性はキッチンや家事といった特定の要素と関連しているということだ。どの国でも、女性の方が家族とのつながりが強いようです。

ボーヴォワールは、人は女性として生まれるのではなく、女性になるのだと言いました。

私たちは気づかないうちに女性になり、無意識のうちに女性としてのアイデンティティを自らに重ね合わせていました。この機械は『裸の王様』に出てくる無邪気な子供のようで、女性として私たちが背負っているレッテル（積極的か受動的か）を鋭く認識しており、最終的にはほとんど残酷な方法でそれを提示します。科学には男の子の方が女の子よりも向いているとよく思われるのと同じように、指導的立場には男性の方が女性よりも向いている、意思決定は男性の方が女性よりも得意である、などという根深い概念が人々にはあります。 Google の広告サービスでは、男性は女性よりも高給の求人広告を多く目にします。こうした確立された事実により、女性のキャリアの上限はより明白になります。

楽観的に言えば、社会の進歩とともに、職場での女性差別も徐々に変わっていくでしょう。悲観的に言えば、…それについては話さないようにしましょう。実際の機械トレーニングでは、データ駆動型テクノロジーがデータ自体の固有のつながりを完全に反映できれば、人々は間違いなくこのテクノロジーを認識するでしょう。しかし、このテクノロジーによって反映される固有のつながりが、人々が反映してほしくないものだったらどうなるでしょうか。これらの露骨で露骨で冷酷な職場での差別は、いわゆるテクノロジーの中立性によって説明できるのでしょうか。

ケンブリッジ大学のルネ・ニルプ教授は、「事実上中立な技術は存在しない。機械にとっては、中立的なものが支配的である」と述べている。

AI 採用のための公正なアルゴリズムはありますか?

人工知能における差別の事例は数多くある。例えば、Google の画像ソフトウェアはかつて黒人を誤って「ゴリラ」と分類した。Microsoft の Tay は、オンラインになってからわずか 1 日で、反ユダヤ主義、性差別主義、人種差別主義の「悪い子」とみなされた。では、将来、AI 採用は真の公平性を実現できるのでしょうか?

実際、AIは履歴書の審査、ビデオ面接、チャット面接など、採用のさまざまな側面に適用できます。履歴書の選考は、数十、あるいは数百もの履歴書から選択する大規模なプロジェクトです。人事部門で働いている友人がかつて私に言ったことがあります。履歴書が多すぎると、半分に分けられ、もう半分はそのままゴミ箱に捨てられることがあるそうです...。したがって、この反復的で些細な作業は人工知能に最適です。しかし、AI による履歴書のスクリーニングでは、公平性を定量化して、それを実用的なアルゴリズムに変換する必要があります。

人工知能チャットボットを使用する場合、ビデオチャットであ​​ろうと他の形式のチャットであ​​ろうと、ロボットは応募者の口調、視線、返答の表情を分析して応募者が仕事に熱意を持っているかどうかを判断するなど、特定の分析機能を備えている必要があります。しかし、これには公平なアルゴリズムも必要です。結局のところ、Intelligent Relative Theory (aixdlun) のアナリストである Lei Yu 氏が目を細めているために眠気があると診断されたのは今回が初めてではありません。

では公平性は定量化できるのでしょうか?

2011年にサイエンス誌に掲載された研究では、感情は定量化可能であり、世界中のさまざまな文化の人々が毎日や毎週の気分において同様のパターンをたどっていることが示されました。この研究は、2年間にわたり84カ国の240万人が投稿した5億900万件のツイートの分析に基づいて行われた。

しかし、公平性は感情よりもはるかに抽象的であり、人工知能が公平なアルゴリズムを研究する必要がある場合、公平性の考慮を誰が決めるのでしょうか。これは悪循環に陥っているようです。

公平性を定量化するのは困難であり、ましてや公平なアルゴリズムについて語るのはさらに困難です。現段階では、人工知能リクルーターは一般的に、低レベルの初級職の採用に利用されている。やや要件が高い採用の場合、AIはせいぜい補助的な役割しか果たせないが、これをiFlytekは「人間と機械の結合」と呼んでいる。

差別はどこにでもあり、それは今後何世代にもわたって決してなくなることはないでしょう。

AI採用差別事件後、アマゾンは採用エンジンやそれが直面した課題についてコメントを控え、常に同社の従業員の多様性と平等を確保することに尽力してきたと述べた。

しかし、スマート・レラティブ・セオリーは、アマゾンが「地球上で最も消費者中心の企業」になることにも注力していることを皆に思い出させたいと考えている。しかし、調査によると、アマゾンのショッピング推奨システムは、他の販売業者の製品が安くても、常に自社製品と提携企業の製品を優遇していることが判明している。アマゾンはショッピング比較サービスにおいて自社製品と提携企業の製品の送料を隠蔽し、消費者が公正な価格比較結果を得ることができない状況に陥った。

企業は自社の利益を最大化するために、差別を行う手段や理由を無数に持つことになるでしょう。同様に、職場の女性は、一見正当な理由から、数え切れないほどの差別を受けるでしょう。未婚で妊娠していない？ 会社は、あなたが結婚して産休を取ることを心配しています。未婚で妊娠している？ 会社は、あなたが赤ちゃんを産むのに1年待たなければならないことを心配しています。最も恐ろしいのは、年上の未婚の若い女性です...

100年以上が経ち、上海は立派な大都市となったが、同時にこの時代における部外者に対する差別の典型的な例にもなった。

上海をこのように見るのは差別ではないでしょうか？