悪いことを学ぶのは簡単ですが、良いことを学ぶのは難しいです！人工知能は人間の人種や性別の偏見を継承する

編集者注: サンスティーンは『インターネット共和国』でアルゴリズムが私たちの認知世界に影響を与えると提唱し、『情報ユートピア』ではアルゴリズムが人々に「情報繭」を形成させる危険性を初めて明確に指摘しました。これはアルゴリズムが人間の脳に与える影響であり、人工知能にアルゴリズムを適用すると、人工知能にバイアスが存在するようになります。言語自体にバイアスがあるため、人工知能はアルゴリズムを通じてそれを学習し、人工知能はこのバイアスを強化することさえあるのです。しかし、これが悪いことなのかどうかは検討する価値があります。

[[188776]]

過去数年間、Google 翻訳などのプログラムは、新しい機械学習技術と、アルゴリズムをテストできる大量のテキスト データがオンラインで利用できるようになったことにより、言語翻訳において急速な進歩を遂げてきました。

人工知能（AI）ツールは、日常言語を翻訳するコンピューターの能力に革命をもたらしましたが、性別や人種に関する大きな偏見も示しています。科学誌「サイエンス」に掲載された新しい研究によると、機械が人間のような言語スキルにますますアクセスできるようになるにつれて、言語の使用方法に根付いた偏見にもますますアクセスできるようになるという。

この発見は、私たちの日常生活に影響を与える決定がロボットに委ねられるようになるにつれて、既存の社会的不平等や偏見が新しい予測不可能な形で強化されるという懸念を浮き彫りにしている。

[[188777]]

機械が人間のような言語スキルを習得しやすくなるにつれて、言語の使用方法に根付いた偏見を機械が獲得する可能性も高くなります。画像クレジット: KTS Design/ゲッティイメージズ/サイエンスフォトライブラリーRF

「これはAIが偏っていることを示していると多くの人が考えている」と、論文の共著者でバース大学のコンピューター科学者ジョアンナ・ブライソン氏は言う。「いいえ、これは私たちが偏っていて、AIがその偏りを学習していることを示しているのです。」

しかしブライソン氏は、人間とは異なり、アルゴリズムは学習した偏見に意識的に抵抗できないため、AIは既存の偏見を強化する可能性もあると警告した。 「危険なのは、AIシステムが倫理によって管理されていないことであり、そのようなシステムが導入されると、それは良くない」と彼女は語った。

単語の埋め込み: 言葉の背後にある文化的、社会的文脈を捉える

この論文は、「単語埋め込み」と呼ばれる機械学習ツールに焦点を当てており、このツールはすでにコンピューターによる音声やテキストの翻訳方法を変えています。機械が常識や論理といった人間のような能力を身につけることが自然な次のステップだと主張する人もいる。

「我々が単語埋め込みを研究することにした主な理由は、機械が言語を理解できるようにするための取り組みが近年信じられないほど成功しているからだ」とプリンストン大学のコンピューター科学者で論文の主任著者であるアルビンド・ナラヤナン氏は述べた。

ウェブ検索や機械翻訳で使用されているこの方法は、言語の数学的表現を作成することによって機能します。この数学的表現では、単語とその意味が、その頻繁な出現に基づいて一連の数値（つまりベクトル）に抽象化されます。これは驚くべきことですが、アルゴリズムは辞書でさえ定義できない方法で、単語の背後にある豊かな文化的、社会的文脈を捉えているようです。

例えば、数学化された「言語空間」では、「花」を表す言葉は常に肯定的な意味合いを持つ言葉と関連付けられており、「昆虫」を表す言葉はその逆であり、昆虫と花の異なる価値に対する人々の共通見解を反映しています。 *** の論文は、人間の心理学実験ではより厄介ないくつかの暗黙の偏見も、アルゴリズムによって簡単に学習できることを示しています。 「女性」と「女性」は芸術・人文科学や家庭関係の仕事と結びつきやすく、「男性」と「男」は数学、科学、工学の仕事と結びつきやすいです。同時に、AIシステムはヨーロッパ系アメリカ人の名前を「才能がある」や「幸せ」などの肯定的な言葉と関連付ける傾向が強かったのに対し、アフリカ系アメリカ人の名前は一般的に否定的な言葉と関連付ける傾向が強かった。

この発見は、人々（少なくとも英国と米国）が暗黙の連想テストにおいて肯定的な言葉を白人の顔と関連付けていること、そしてアルゴリズムがこの偏りを学習したことを示唆している。

こうした偏見は人間の行動に大きな影響を与える可能性があります。研究によると、同一の履歴書を提出した場合、ヨーロッパ系アメリカ人の名前を持つ応募者は、アフリカ系アメリカ人の名前を持つ応募者よりも面接に招待される可能性が高く、その確率は 50% 以上です。 ***結果は、明示的にプログラムされない限り、アルゴリズムは同じ社会的偏見に満ちていることを示しています。

「名前と人種差別の間に関連があると信じていないなら、これが証拠だ」とブライソン氏は語った。

この研究で使用された機械学習ツールは、「ウェブクローラー」と呼ばれるデータベースでテストされた。これは、8,400億語を含む、オンラインで公開された資料のコレクションである。 Google ニュースのデータを使用しても同様の結果が得られました。

アルゴリズムは偏見に対処する機会を提供する

「世界は偏っていて、過去のデータも偏っている。だから偏った結果が出るのは当然だ」とオックスフォード大学のデータ倫理とアルゴリズムの研究者、サンドラ・ワヒター氏は言う。「アルゴリズムは脅威ではなく、偏りに対処し、適切な場合にはそれを取り除く機会を与えてくれる」とワヒター氏は付け加えた。

「少なくとも、アルゴリズムに偏りが見られたときには、それを学習できるかもしれない」と彼女は言う。「アルゴリズムが私たちを騙すとは期待できないが、人間は採用しなかった理由について嘘をつくことができる」

しかしワクター氏は、アルゴリズムは言語を理解するように設計されているため、強力な翻訳機能を維持しながら、アルゴリズム内の不合理な偏りをいかに取り除くかが今後の課題だと述べた。

「理論上は、偏った意思決定を検知し、それに対して行動を起こすシステムを構築できる」と、人工知能の規制を求める他の運動に加わっているワクター氏は言う。「これは複雑な課題だが、社会として逃れることのできない責任だ」