海外AI界が騒然！ Googleの黒人女性AI倫理研究者が「退職」し騒動を引き起こす

この記事はLeiphone.comから転載したものです。転載する場合は、Leiphone.com公式サイトにアクセスして許可を申請してください。

Googleは困っている。

昨日、Google の倫理的 AI チームの技術共同リーダーである Timnit Gebru 氏が、自身の Twitter に次のように投稿しました。

彼はグーグルの人工知能部門責任者ジェフ・ディーン氏に突然解雇され、彼の個人アカウントは会社によって遮断された。

同時に、彼女は、Google Brainの同僚にAI倫理にかかわるメールを送り、Googleの無責任な多様性、公平性、包括的なAI運用を批判したことが解雇の理由だと述べた。彼女の上司であるジェフ・ディーンは、この結果に即座に反応し、たった1通の電子メールで彼女を解雇した。

この事件が明らかになるとすぐに、ネットユーザーの間で白熱した議論が巻き起こり、多くのGoogle社員や学者がこれを支持した。

その中には、現職および元Google社員が共同設立した「Google Walkout For Real Change」というグループがあり、彼らはティムニット・ゲブル氏への支持を示す署名キャンペーンをブログで立ち上げた。

本日現在、1,200人以上のGoogle社員と1,500人以上の学者がゲブル氏の復職を求める請願書に署名している。

女性の人権に対する差別？ジェフ・ディーンは責任を負わないと語る

まず、事件の主人公について知りましょう。

ティムニット・ゲブル氏は、Google のトップ AI 研究者であり、データマイニングの分野でも研究しながら、現在 AI アルゴリズムに存在するバイアスなどの問題の解決に取り組んでいます。

[[356079]]

彼はテクノロジーの多様性の擁護者としても知られており、「Black in AI」と呼ばれる黒人研究者のコミュニティの共同設立者でもある。彼女はテクノロジー企業が黒人従業員をどのように扱っているかについて、率直に批判してきた。

彼女はLeCunと論争したことがあり、AI界ではよく知られていることに留意すべきです。

現地時間12月3日夕方、Googleの倫理AIチームの共同責任者であるティムニット・ゲブル氏は、Google AIの責任者であるジェフ・ディーン氏に急遽解雇されたとツイートした。

具体的な理由は何ですか?

Redditで公開されたゲブル氏とディーン氏の間のメールの詳細によると、この事件はゲブル氏が論文を発表しようとしたが、Googleに拒否され、論文の撤回を求められたことが原因だった。ゲブル氏はコミュニケーションを試みたものの無駄で、Googleは社会的弱者の人権を尊重していないと非難した。

メールには、ゲブルがキャサリンとダフネが以前書いた論文を最近書いていると書かれていた。

論文を執筆中に、彼らは残念な結果を発見した。グーグルは過去1年間に女性従業員の約14%を解雇していたのだ。ゲブルはさらに、サミーが女性の14%を解雇した一方で、能力が十分でない従業員を39%多く雇用していることを知った。

この格差を考慮して、ゲブル氏はグーグルで働く女性たちに、自分たちの仕事は評価されていないので仕事をやめるようアドバイスしている。

同時に、ゲブル氏は黒人を対象にした最近の調査で、黒人層の間に怒りが広がっていることも発見したが、彼らはいつものように沈黙を守ることしかできなかった。

したがって、ゲブル氏の意見では、これが彼女の論文が却下された理由の一部であった。

メールの最後で、ゲブル氏はグーグル社内の女性たちに対し、リーダーたちに責任を負わせ、黒人議員連盟などの組織に手紙を書くなど、外部からの圧力をかける方法を考えるよう求めた。

すぐにジェフ・ディーンはこれに反応し、女性に対する差別はないと述べた。

失敗の理由は、この論文があまりにも多くの関連研究を無視していることです。たとえば、この論文では大規模モデルが環境に与える影響について議論していますが、他の研究で示された大規模モデルの優れたパフォーマンスについては無視しています。この論文は、環境への負担を軽減するための最近の研究を考慮せずに、言語モデルの偏りについて懸念を表明している。

ジェフ・ディーン氏は電子メールの中で、ゲブル氏を解雇するつもりはなく、彼女の決断を尊重しただけだとも述べた。

ジェフ・ディーン氏は、ゲブル氏の論文にコメントした後、ゲブル氏からもメールで返信があり、論文レビューの内容、各人の身元、その他の具体的なフィードバックなど、いくつかの情報を提出するように依頼されたと述べています。

ゲブルは、私が彼女の要求を満たさなければ、Google を辞めて仕事をやめると言いました。私たちは彼女の決断を受け入れ、尊重します。

それにもかかわらず、ネットユーザーたちはこの回答にまだ納得していないようだ。

非常に重要な理由は、ゲブルが黒人女性であるという特別なアイデンティティです。

2016年のAI Now Instituteのレポートによると、GoogleのAI研究者の10%は女性だった。 Googleの2020年の多様性レポートによると、Google従業員の約3分の1が女性で、3.7%がアフリカ系アメリカ人、5.9%がラテン系、0.8%がアメリカ先住民です。

グーグルの従業員と科学者がゲブル氏を支援するキャンペーンを開始

上記の要因の影響により、人々はもはやこの問題に関して誰が正しいか、誰が間違っているかを気にしなくなり、代わりに人権や人種差別などのより深刻な問題に目を向けるようになったようです。

そのため、昨日も事件が進展を続ける中、Google の従業員や科学者から大きな注目を集めました。

このため、多くの科学者が関連ニュースを転送し、彼女への支持を表明した。

これには、現職および元Google社員が共同設立した「Google Walkout For Real Change」組織も含まれており、同組織はティムニット・ゲブル氏への支持を示すためにブログ上で署名キャンペーンを開始している。

それだけでなく、同団体はGoogleの幹部に対し、次のような要求も行った。

論文を査読したジェフ・ディーン、ミーガン・カチョリアらに、なぜ論文を却下したのか説明を求めてください。

Google の研究が将来的に信頼できるものとなるよう、より多くの国民の参加と社会的説明責任を要請します。

Google に研究の誠実性と学問の自由を約束し、Google の AI 原則の実装を促進する研究をサポートすることを義務付けます。

現在までに、1,200 人以上の Google 社員と 1,500 人以上の学者が Google に異議を唱えています。

特筆すべきは、2018年から現在に至るまで、この組織がGoogle社内で大規模な抗議活動を数多く展開し、中国専用検索エンジン「Dragonfly Project」の放棄をGoogleに迫ったり、Androidの生みの親のセクハラ事件への対応に不満を募らせたゼネストなど、多くの勝利を収めてきたことである。

これとは別に、今週の水曜日、全米労働関係委員会はグーグルに対して訴訟を起こし、同社が従業員を監視し、仕事上の不満を共有することを妨げ、報復行為を行ったと主張した。この件は組織の注目も集めた。

そこで疑問なのは、Google は妥協するかどうかだ。