アルゴリズムは偏っているか?他の人よりも優れていればいいのです！

[[241158]]

ビッグデータダイジェスト制作

編集者: Ni Ni、Chen Tongxue、Alieen

アルゴリズムによる偏見とそれがもたらす影響に対する闘いにおいて、より重要な疑問は、アルゴリズムをまったく使用しない状況と比べてどうなのか、ということです。アルゴリズムに欠陥があるかどうかを単に問うのではなく、アルゴリズムの欠陥と人間の欠陥を比較すべきです。

静かに革命が起こっている。

この革命は、ほとんどのニュース報道に登場する人工知能の進歩とは異なります。

ニュースメディアは、知覚力を持つロボット軍団の大きな進展に焦点を合わせることが多いが、より重要な競争は、全国の機関における伝統的に人間が行ってきた意思決定プロセスにおいて行われており、自動化の割合が着実に増加していることは明らかである。

AlphaGo Zero のような注目を集める最先端の成果とは異なり、この革命は、通常の最小二乗法、ロジスティック回帰、決定木などのかなり伝統的な機械学習と統計手法を通じて、多くの組織に真の価値を生み出しました。

これらの技術の応用分野は非常に広く、医療診断、司法判断、専門家の採用、公的機関における資源配分などが含まれます。

この革命は良いことでしょうか？

否定的な答えを出す作家、学者、ジャーナリストが増えているようです。このジャンルの本には、『Weapons of Math Destruction』、『Automating Inequality』、『The Black Box Society』などがあります。 「機械の偏見」「緊縮財政はアルゴリズム」「アルゴリズムは人種差別の新たな基盤を構築しているのか？」など、一連の長編暴露記事もあります。

懸念は、アルゴリズムが不透明で偏りがあり、説明が難しいツールであることが多いこと、そしてそのようなツールが人権団体によって悪用されているという事実に集中している。では、人間は意思決定におけるアルゴリズムの役割が増大することを心配する必要があるのでしょうか?

これらの批評や調査は洞察力に富み啓発的であることが多く、アルゴリズムが主観性から完全に自由であるという考えを覆すことに成功しています。しかし、こうした批評家たちの共通点は、分析するシステムがアルゴリズムの関与なしにどう機能するかをほとんど検討しないという点だ。

実務家や政策立案者にとって、これは最も重要な質問です。アルゴリズムのバイアスと影響は、アルゴリズムをまったく使用していない場合と比べてどうでしょうか。単にアルゴリズムに欠陥があるかどうかを尋ねるのではなく、アルゴリズムの欠陥と人間の欠陥を比較する必要があります。

研究結果は何と言っていますか?

[[241159]]

アルゴリズムによる意思決定については、数十年前に遡る膨大な研究が存在します。このテーマに関する研究はすべて、非常に似たような結論に達しています。つまり、アルゴリズムは、それが置き換える人間よりも偏見が少なく、より正確であるということです。

以下は、従来人間が行ってきたタスクをアルゴリズムが制御すると何が起こるかを調査した研究の一部です。

2002年、経済学者のチームが自動引受アルゴリズムが住宅ローン業界に与える影響を調査しました。彼らの主な調査結果は、「[自動引受]システムは手動の引受人よりも正確に債務不履行を予測した」ことと、「特に通常十分なサービスを受けていない申請者に対する予測融資承認率の精度が向上した」ことである。従来のアプローチでは、リソースの乏しい消費者はしばしば疎外されるが、アルゴリズムシステムはこのサブセットの消費者に最も利益をもたらす。

コロンビアビジネススクールのボー・カウギル氏は、ソフトウェア会社の求人応募審査アルゴリズムの有効性を研究した際に、同様の結論に達した。企業がアルゴリズムを使用してどの応募者を面接すべきかを決定する場合、アルゴリズムは実際には人間の選考担当者よりも「非伝統的な」候補者を優先します。人間と比較すると、アルゴリズムは、企業内で過小評価されている候補者（個人的な推薦者や名門大学の学位を持たない人など）に対する偏見が大幅に少なかった。

[[241160]]

ニューヨーク市の公判前保釈審問において、一流のコンピュータ科学者と経済学者からなるチームは、アルゴリズムは現在の裁判官による保釈決定よりも公正な決定を下す可能性があり、「犯罪の増加なしに収監率を最大41.9%削減できる」と判断した。また、彼らのモデルでは、「暴力犯罪を含むすべての犯罪カテゴリで、収監率の減少が見られた。これらの利益は、人種間の格差の縮小と同時に達成できる」ことも判明した。

ニューヨーク・タイムズ・マガジンは最近、「アルゴリズムは子供が危険にさらされていることを判断できるか？」という疑問に答える長い記事を掲載した。

答えは「はい」であり、アルゴリズムは人間よりも正確にこのタスクを実行できることが判明しました。一部の政府サービスは人種的偏見を助長しており、「アレゲニー郡の経験は、同郡のスクリーニングツールは偏見を評価する上で人間のスクリーニング担当者ほど悪くないことを示している」

ある例では、金融学の教授チームが、上場企業の過去のデータを調べて、特定の企業に最適な取締役を選ぶアルゴリズムの構築を開始しました。研究者らは、アルゴリズムによって選出された取締役会のもとでは企業の業績が向上し、彼らが考案したアルゴリズムと比較して、「アルゴリズムのない企業は、大きなソーシャルネットワーク、豊富な取締役会経験、より最近の取締役会への参加、および財務のバックグラウンドを持つ男性取締役を選出する傾向がある」ことを発見した。

それぞれのケーススタディで、データ サイエンティストは驚くべきことを行いました。つまり、過去のデータに基づいてアルゴリズムをトレーニングしたのです。そのデータには、間違いなく歴史的バイアスがかかっていました。それで何が起こっているのですか?

アルゴリズムは、信用申請、就職審査、刑事司法、公的資源の配分、企業統治など、さまざまな分野で偏見を減らすことができます。では、なぜこれほど多くの評論家や批評家が反対のことを言うのでしょうか。

人間は決断を下すのが下手だ

[[241161]]

上で述べたアルゴリズムは実際には偏っていることがわかりますが、それによって置き換えられる人間は明らかにさらに偏っています。結局のところ、制度的偏見が常に人間によって制御されているわけではない場合、それはどこから来るのでしょうか?

人間は最悪の状態にあるのでしょうか? 必ずしもそうではありません。偏見はあるものの、いくつかの側面ではより良い決定を下すことができました。残念なことに、ここ数十年、判断と意思決定に関する心理学的研究により、人間はさまざまな状況において判断が下手であることが繰り返し実証されてきました。少なくとも 1950 年代から、非常に単純な数学モデルが、前臨床の場での重要な結果に関していわゆる専門家よりも優れた結果を出すことができることはわかっていました。

上記のすべての例において、人間の意思決定者は十分なパフォーマンスを発揮しませんでしたが、アルゴリズムに置き換えることで精度が向上し、組織的な偏見が減少しました。これにより、経済学者がパレート改善と呼ぶものが実現され、私たちが関心を持つあらゆる側面において政策が改善されます。

多くの批評家は、最先端の企業が公平性と公正性を犠牲にして業務の効率性と生産性の向上を追求していると主張したがるが、現在の証拠は、そのような譲歩はなされていないことを示唆している。アルゴリズムはより効率的で公平な結果を提供できます。

あなたを怖がらせるものがあるとすれば、それは私たちの重要な決定の多くが、一貫性がなく、偏見があり、単純に悪い意思決定者によって行われているという事実であるはずです。

現状を改善する

もちろん、制度的な偏見とそれが意思決定アルゴリズムに及ぼす有害な影響を排除するためにあらゆる努力を払うべきです。アルゴリズムによる意思決定に対する批判により、機械学習の研究の新たな波が生まれ、アルゴリズムの社会的、政治的影響にさらなる注目が集まっています。

統計学と機械学習の分野では、アルゴリズムによる識別の問題に対処するために特別に設計された新しい技術が登場しています。毎年、学術会議も開催されており (https://www.fatml.org)、研究者は機械学習の倫理的および社会的課題について議論するだけでなく、アルゴリズムが社会に良い影響を与えるようにするための新しいモデルや方法も提案しています。

ディープラーニングなどの透明性の低いアルゴリズムが一般的になるにつれて、この作業はより重要になる可能性があります。 たとえテクノロジーが制度的偏見や差別という社会問題に完全に対処できないとしても、ここで検討した証拠は、実際にはテクノロジーが現状を改善する上で小さいながらも重要な役割を果たすことができることを示唆している。

これはアルゴリズムの絶対主義や統計の力に対する盲目的な信頼を主張するものではありません。アルゴリズムが現在の意思決定プロセスと比較して許容できないほど高い偏りを持っていることが判明した場合、その結果を受け入れ、人間の意思決定の現状を維持しても害はありません。

しかし、現状維持には長所と短所があります。

場合によっては、アルゴリズムが制度的偏見を減らす役割を果たすことを認識する必要があります。したがって、次にアルゴリズムによる偏見のリスクに関する見出しを読んだときは、落ち着いて、人間の偏見がもたらす危険がさらに深刻である可能性があるかどうかを考えることを忘れないでください。

関連レポート: https://hbr.org/2018/07/want-less-biased-decisions-use-algorithms

[この記事は51CTOコラムBig Data Digest、WeChatパブリックアカウント「Big Data Digest（id: BigDataDigest）」のオリジナル翻訳です]

この著者の他の記事を読むにはここをクリックしてください