グーグルが倫理学者を解雇してから3か月後、AI倫理研究会議はグーグルのスポンサーシップを停止した。

[[386762]]

ビッグデータダイジェスト制作

出典: ベンチャービート

編集：赤道のパンダ

ACM 公平性、説明責任、透明性に関する会議 (FAccT) の会議スポンサー共同議長であり、ボイシ州立大学の助教授であるマイケル・エクストランド氏は、本日、同会議が Google とのスポンサー関係を終了することを決定したことを確認した。

AI倫理研究会議の主催者によるこの決定は、GoogleがAI倫理の責任者であるマーガレット・ミッチェル氏を解雇してから1週間以上、AI倫理の共同責任者であるティムニット・ゲブル氏を解雇してから3か月後に下された。

Googleはその後、Google副社長のマリアン・クローク氏にEthical AIの責任者を任命するなど、10のチームにわたる約100人のエンジニアを再編した。

「FAccTは戦略計画に基づいて運営されており、スポンサーシップ委員長は執行委員会と協力して、その計画に沿ったスポンサーシップポートフォリオの開発に責任を負っています」とエクストランド氏はVentureBeatにメールで語った。

「実行委員会は、Google が 2021 年のカンファレンスをスポンサーすることはコミュニティの利益に反し、戦略的な計画の妨げになると判断しました。来年のカンファレンスに向けてスポンサーシップポリシーを改訂する予定です。」

この決定は、Googleが倫理的AIチームの責任者を解雇した後、FAccTがGoogleとの協力関係を継続するかどうかについて数日にわたって疑問が投げかけられた後に下された。このニュースは金曜日に初めて発表された。

FAccTの企画委員会メンバーであるスレシュ・ベンカタスブラマニアン氏は、同組織はGoogleとの関係を停止するとツイートした。

Google のスポンサーシップが終了するということは、このテクノロジー大手、あるいは Google 自体によるスポンサーシップが終了することを意味するわけではない。

Google傘下でFAccTカンファレンスのもう一つのスポンサーであるDeepMindは、今年1月にAI倫理をめぐる論争を巻き起こした。 FAccTは2018年の設立以来、グーグルやマイクロソフトなどの大手テクノロジー企業や、フォード財団、マッカーサー財団から資金提供を求めてきた。昨年発表された報告書では、テクノロジー大手によるAI倫理研究への資金提供と大手タバコ会社による健康研究へのこれまでの資金提供を比較し、4つの著名な大学の研究者の約60％が大手テクノロジー企業から資金提供を受けていたことが判明した。

ゲブル氏が解雇された後、グーグルの従業員らは「前例のない研究検閲」と称して抗議した。先週、ロイターは、グーグルのAI研究への干渉疑惑の新たな事件について報じ、研究論文の共著者らがグーグルの法務チームの「深く陰険な」編集者の行為を引用した。

FAccTのウェブサイトによると、同組織の共同設立者であるゲブル氏は、引き続きデータおよびアルゴリズム評価諮問グループのメンバーであり、プロジェクトの委員長を務めている。ミッチェル氏は、この会議のプログラム共同議長であり、FAccT プログラム委員会のメンバーです。

ゲブル氏は、テクノロジー企業における多様性の欠如をめぐる論争と、「ランダムなオウムの危険性について：言語モデルは大きくなりすぎるか？」と題する共著論文の出版により、2020年12月にグーグルから解雇された。この記事は、事前にトレーニングされた言語モデルが社会的に疎外されたコミュニティに不釣り合いなほど害を及ぼす可能性があることを認識しているだけでなく、ベンチマークのパフォーマンスを通じて進歩を本当に測定できるのかどうかについても疑問を投げかけています。この論文では、大規模言語モデルの潜在的な誤用や自動化されたバイアスについても懸念が提起されています。

この記事は、「非常に大規模なデータセットでトレーニングされた、数千億のパラメータを持つ大規模な言語モデルが、言語の理解を必要とするテストに合格できるほど言語形式をうまく操作できる場合、言語の構築方法について何か貴重なことを学んだことになるのか、それとも誤った方向に導かれてしまったのか」について述べています。

ゲブル氏は、今週FAccTに出版が承認された論文の主著者2人のうちの1人として挙げられている。彼女の筆頭共著者はワシントン大学の言語学者エミリー・ベンダー氏である。

大規模言語モデルの潜在的な落とし穴とより深い批評の必要性に関するエミリーの記事は、昨年の夏、計算言語学会から賞を受賞しました。

ベンチャービートが昨年、この件に詳しい情報筋から入手した論文のコピーには、ミッチェル氏、グーグルの研究員マーク・ディアス氏、ベン・ハッチンソン氏が共著者として挙げられており、いずれも言語分析とモデルを専門とする経歴を持つ。

ミッチェル氏は現在では AI 倫理に関する研究で最もよく知られていますが、コンピュータービジョンや自然言語処理の研究者の間でも高く評価されており、2008 年にはワシントン大学でテキスト生成に関する修士論文を執筆しました。

ベン・ハッチンソン氏は、Google の倫理的 AI チームの共著者とともに論文を発表しました。この論文は、感情分析と毒性予測において、NLP モデルのバイアスによって障害を持つ人々が不利になることを示しています。マーク・ディアスはテキストにおける年齢関連の偏見を調査します。

Bender 氏と Gebru 氏は、この記事のさまざまなバージョンで主執筆者として記載されています。会議に先立ってワシントン大学が発表した論文の別バージョンにも、著者として「シュマーガレット・スミッチェル」の名前が記載されていた。

ゲブル氏はアルゴリズムによる抑圧の著名な研究者であり、Google AIで働く数少ない黒人女性の一人です。

ゲブル氏の解雇は、人種差別や報復行為だとして、グーグルの従業員数千人から反発を招いた。この事件は、アルゴリズムの規制に強い関心を持つ議員たちからも質問を引き起こした。また、研究者らは、Google から研究資金を受け取ることの倫理性に疑問を抱くようになった。

AI、倫理、法律の専門家はベンチャービートに対し、ゲブル氏の解雇は、より強力な内部告発法の支持を含むさまざまな政策変更につながる可能性があると語った。ゲブル氏は解雇されてから間もなく、AI研究者を保護するための手段として労働組合結成の考えを語っており、ミッチェル氏も2021年1月に設立されたアルファベット労働組合のメンバーとなっている。

OpenAI、スタンフォード大学の研究者や専門家らは先月、GoogleやOpenAIが作成したような大規模言語モデルは、コピーを拡散し始める前に倫理基準を設定する時間がわずか数か月しかないと警告した。

今年 FAccT で発表されたその他の論文には、アフリカ諸国におけるデータ共有慣行の一般的な障壁の分析、Data & Society の AI on Ground チームによるアルゴリズムの影響評価のレビュー、政府の弾圧と検閲が NLP モデルのトレーニングの入力データとしてよく使用されるテキストにどのように影響するかについての研究が含まれています。

最近のAI研究カンファレンスの活動としては、最も人気のある年次機械学習カンファレンスであるNeurIPSの主催者がVentureBeatに対し、NeurIPSのスポンサーであるHuaweiが中国当局のためにウイグル族イスラム教徒の検出システムを構築したという懸念から、同組織はスポンサーシップの方針を改訂する予定であると語った。