機械学習は増加傾向にありますが、そのアルゴリズムの結果は公正なのでしょうか?

アルゴリズムは驚くべき方法で私たちの生活をコントロールしています。

地元のデリのカウンターで番号を受け取ると、それに応じたサービスが受けられると分かっています。先着順の順序モデルを維持するキューイング アルゴリズムが動作しているからです。待ち時間には多少のばらつきがありますが、すべての顧客に対して期待できる平均的なサービス時間は常に得られます。

[[196468]]

別の例を挙げると、宝くじを買うとき、ランダム抽選アルゴリズムにチャンスを与えますが、結果は期待したものと異なる場合があります。宝くじに当たるというのは危険なことであるだけでなく、可能性も低いのです。しかし、多くの人にとって、宝くじを購入するという行為自体が短期的な精神的安らぎをもたらすため、依然として経済的な効果がある。

決定論的であることが保証されているアルゴリズムと、適切な場合には完全にランダムなアルゴリズムを常に受け​​入れることができます。しかし、その逆を想像してみてください。デリがランダムに顧客を選んでサービスするとしたらどうでしょう。列に並んでいる顧客が多ければ、フライドチキンの注文が届かないかもしれません。同様に、宝くじが管理費を差し引いた残りのお金をすべて返還するとしたらどうなるでしょうか。これにより、ほとんどすべての人にとって投資収益率は向上しますが、まったく面白くないように思えます。

心理学や行動経済学の専門家でなくても、ランダム化は多くの場合適切である場合もあれば、適切でない場合もあることはわかります。少額を賭けて大勝ちを狙っているときは、負けたときに文句を言うかもしれません。しかし、DMV で 4 時間待っても閉まっているときは、私たちの反応は異なるかもしれません。

あなたの人生における多くの重要な事柄が、あなたにとって不透明なアルゴリズムによって支配されていたらどうなるか想像してみてください。たとえば、住宅ローンや自動車ローン、職場や学校での雇用を申請するとき、多くのアルゴリズムはランダムに見えるかもしれませんが、ある程度はあなたの運命をコントロールしています。これらのアルゴリズムは十分に透明性がないため、それが公平であるかどうかを知ることは難しく、事態がどのように展開するかを予測することも困難です。次回は飛行機が突然自分にぶつかってくるかどうか分からないような感じです。

機械学習は何を学習したのでしょうか?

ある組織が十分にスマートで公平なアルゴリズムを設計した場合、そのアルゴリズムは、固有の合理的なロジックに基づいて公平でランダムな結果を出力する可能性があると想像してみましょう。あるいは、見た目は良いものの、その動作がまったく不明瞭なビッグデータ機械学習アルゴリズムである可能性もあります。

機械学習によって状況は改善されることを期待しますが、悪化する可能性もあります。多くの場合、機械学習アルゴリズムのトレーニングや設計が不十分だと、一部のグループにとって不公平な誤った決定につながる可能性があります。

これは私たちにとってますます重要な問題になるでしょう。機械学習は私たちの最も重要な決定の多くに影響を与えており、経済に対する支配力が高まっています。知らないうちに、それは多くの重要な瞬間に権威あるアルゴリズムとなってきました。

しかし、ビッグデータや機械学習ツール（Apache Spark など）の使いやすさが増し、私たちの周りを流れる IoT データの量が増えるにつれて、あらゆるデータ駆動型タスクがいくつかの重要な場所で機械学習によって最適化されるようになると私は信じています。近い将来、機械学習アルゴリズムはほぼすべてのアプリケーションに欠かせない要素になると信じています。

最適化はより優れており、機械学習はほぼすべてのものをより良く、より速くする方法を提供します。誇張ではありませんが、近い将来、機械学習が人間の生活のあらゆる側面に浸透するようになると思います。我々は真の「情報ルネッサンス」に到達したのかもしれない。

しかし、私たちは依然として非常に用心深くなければなりません。将来、人工知能が宇宙全体を支配するほどに進化するとは思いませんが、機械学習アルゴリズムを使った無謀な応用例はすでに数多く登場しています。金融取引の失敗、人種差別による融資拒否、刑務所の仮釈放の不正などがその例です。

予期せぬこととは何ですか?

機械学習が徐々に私たちの生活に入り込むにつれて、いくつかの大きな社会問題も現れ始めています。

意図しない結果。これは、特定のパラメータのみを最適化している場合や、実際の関連データが不足している場合に発生する可能性があります。機械学習が 1 つのことの最適化に非常に優れるようになると、他の領域での最適化が次第に少なくなってくる可能性が高くなります。

必然的に手動操作に取って代わることになります。当初は、機械学習が進歩し、最適化されるにつれて、スキルの低いオペレーターは必要なくなり、それをサポートするのは少数の専門家レベルの人材だけになります。後に、機械学習が十分に成熟したとみなされるようになると、これらの専門家は低スキルで安価な労働力として置き換えられるかもしれません。そうすると人的資本が減り、人々はより高度なことをしたり、余暇を持てるようになるのではないだろうか、と言う人もいるかもしれない。しかし、現時点では、機械学習のトリクルダウン効果は、経済学のトリクルダウン効果ほど信頼できるものではない。

機械学習の発見モデルに対する盲目的な信頼。多くのレポート（「数学の破壊兵器」など）では、人種、性別、経済的な差別を促進するために機械学習アルゴリズムを単純に使用している人がいることも取り上げられています。単に不透明なアルゴリズムを構築し、それを不公平や不正を無視する言い訳として使うことはできません。裏付けや理由となるデータを一切提供せずに、「アルゴリズムがそうするように指示した」という理由で誰かが何かをしたり何かを決定したりしていると聞いた場合、それはまったく信頼できません。

私たちは、無差別でありながら公平な機械学習アルゴリズムが、世界がより優れた、より効率的なプロセスを設計する上でどれほどの可能性があるかについてよく話します。実際、アルゴリズムの影響を最も受ける人々にとって、それは謎めいていると同時に有害でもある。科学的に信頼できるデータ、ビジネス感覚、倫理的なトレーニング、そして意図しない結果、インセンティブの逸脱、非合理的な意思決定行動に関する深い学習（または行動経済学 101）が必要です。

ビッグデータ ソースを追加し続け、機械学習アルゴリズムを大規模に展開していく中で、処理能力を持つ者は、そこに人間の要素 (私たち自身も含む) が関与していることを忘れてはなりません。