Googleの上級研究員が解雇される：論文論争の裏側

[51CTO.com クイック翻訳] 12月初旬、Googleは著名なAI倫理研究者のティムニット・ゲブルを解雇した。この事件は絶えず論争を引き起こし、社内の従業員による共同抗議まで引き起こした。解雇の同じ日に、全国労働関係委員会はグーグルを相手取って訴訟を起こし、同社が従業員を違法に監視し、労働組合への加入に関心のある従業員を解雇することで報復したと非難した。クリスマスが近づいても、事件の余波はまだ消えていない。この事件は、グーグルの創業者2人が1年前に同社を去って以来、同社の現経営陣にとって新たな厳しい試練であると言える。

[[359640]]

事件の原因

まず、この事件の原因と結果を振り返ってみましょう。

ゲブル氏自身は著名な AI 科学者であり、Google の AI 倫理チームの共同技術リーダーです。この事件は今年初め、ゲブル氏がワシントン大学のエミリー・ベンダー教授にツイッターでメッセージを送ったことから始まった。二人は、人工知能によるテキスト処理の最新の研究の進歩から生じる可能性のある倫理的問題について深く議論した。議論が一定の段階に達したところで、彼らはグーグルや学界の他の研究者５人とともに人工知能の偏見を検証する研究論文を完成させ、１０月に学会に提出した。

この論文は、グーグルのAI部門責任者が「当社の出版基準を満たしていない」と判断したもので、ゲブル氏が論文の撤回や著者資格の剥奪を拒否したため、グーグルは同氏を解雇した。それ以来、2,200人以上のGoogle社員が、この論文のよりオープンで透明性の高いレビューを求める公開書簡に署名した。業界全体で、Google による Gebru 氏の扱いを公に非難する AI 研究者が増えている。

論文の裏側

賛否両論を呼ぶ論文「確率的オウムの危険性について：言語モデルは大きすぎる可能性があるか？」は、人工知能研究の最も活発な分野の一つに批判的な目を向けている。

グーグルや他のテクノロジー企業は、研究者が機械学習と呼ばれる技術を使うことで音声認識や画像認識の精度を高めることができることを発見した2010年以降、人工知能に多額の投資を行ってきた。これらのアルゴリズムは、ラベル付けされたサンプルデータを消化することで、タスクのパフォーマンスを向上させることができます。その中でも、「ディープラーニング」と呼ばれる手法は、学習アルゴリズムと、より大きなサンプルデータセット、そしてより強力なコンピューターを組み合わせることで、驚くべき新しい結果を達成することができます。

過去数年にわたり、研究者たちは言語に関する極めて大規模な機械学習モデルを構築する方法を開発し、機械学習アルゴリズムにウェブから収集した数十億のテキストを消化させることで機械読解力の大きな進歩を遂げてきました。これらのシステムは言語の統計的パターンに基づいて動作します。人間ほど世界を理解できず、人間には明らかな間違いを犯すこともありますが、質問に答えたり、テキストを生成したりするなど、データ処理を通じて素晴らしい結果を達成できます。

Google の BERT はそのようなシステムの 1 つであり、Google 検索エンジンが長いクエリを処理する方法を改善するために使用されています。マイクロソフトは以前、OpenAI の GPT-3 システムの独占的認可を取得し、顧客指向の AI ソリューションで GPT-3 の自然言語生成および処理機能を最大限に活用できるようになったと発表しました。

人工知能の分野におけるこの進歩により、他の研究者もこの自然言語処理技術の限界と社会に及ぼす可能性のある影響に注目し始めました。ゲブル氏が共同執筆したこの論文では、AI言語システムの構築とトレーニングに大量の電力が消費されるなど、言語を分析・生成する人工知能システムの限界に関するこれまでの研究をレビューしている。また、この論文では、Googleの言語モデルBERTの限界に関する研究報告も引用している。これまでの研究で、BERT は脳性麻痺や失明などの障害を表すフレーズを否定的な言葉と関連付ける傾向があることがわかっています。本論文ではまさにこの偏見を検証し、このような大規模な言語モデルが社会の特権階級に不釣り合いな利益をもたらし、疎外されたコミュニティや集団に害を及ぼすかどうかを疑問視しています。

その結果、ゲブル氏と他の数名の著者は、AI 開発者に対し、言語プロジェクトに対してより慎重になり、そのようなシステムを作成するために使用されたデータをより適切に文書化するよう促しています。この論文では、そのような言語システムを構築する研究者は、AI開発者の視点だけでなく、システムの出力や判断に影響を受ける可能性のある分野外の人々の視点も考慮すべきだと示唆している。

反応

全体的に、この賛否両論の論文は、Google やその技術を攻撃するのではなく、現在の AI 言語システムの限界を指摘し、改善のための提案をいくつか提示している。

ロンドン大学ユニバーシティ・カレッジの名誉准教授ジュリアン・コルネバイス氏もこの論文を読んだ後、この点を指摘した。 「これは非常にしっかりした、よく調査された記事です。この種の研究が研究室で騒動を引き起こすことは想像しがたいですし、ましてや誰かの職を失うことになるなんて。」

アレン人工知能研究所のCEO、オレン・エツィオーニ氏は次のように述べている。「アレン研究所もこのテーマについて独自の研究を行っており、その一部はこの論文に引用されています。偏見にはさまざまな形があるため、この研究はまだ進行中です。この分野で働くほぼすべての人が、これらの言語モデルがますます影響力を増しており、責任を持って使用する義務があることを認識しています。」

グーグルの人工知能部門責任者ジェフ・ディーン氏は電子メールでこう述べた。「論文自体には、グーグルと簡単に結び付けることができない重大な欠陥がある。例えば、モデルをより効率的にし、全体的な環境への影響を減らす方法に関する重要な発見は論文に反映されておらず、言語モデルの偏りを減らすためのグーグルや他の研究者による最近の研究も考慮されていない。研究者がリスクを理解し、軽減する方法を提案せずにリスクを強調しても、これらの問題の解決には役立たない。」

この点について、エミリー・ベンダー氏は事件後、「ジェフ・ディーン氏はこの論文の質が低いと考えているが、言語バイアスを確実に排除できる手法をこの分野で発明するのはまだまだ遠い」と述べた。

その後の進歩

グーグルのピチャイCEOが12月9日に社内メールで謝罪して以来、グーグルはゲブル氏の「退任」に関して公式声明を出していない。ジェフ・ディーン氏はその後の電子メールで、「当社はこの件に関して1月に最終決定を下す予定だ」とも述べた。 Google の姿勢とアプローチから判断すると、Gebru 氏の退任は論文だけが原因ではないかもしれないと推測する人もいる。ゲブル氏自身は、グーグルの多様性と包括性に対する取り組みを批判し、最近のグループメールで同僚に対し関連プロジェクトへの参加をやめるよう助言したことが解雇の理由かもしれないと述べている。

ゲブル氏はグーグルの数少ない黒人女性リーダーの一人であり、テクノロジー業界やグーグルのマイノリティ従業員に対する扱いに批判的であったことは特筆に値する。この観点から見ると、今回の事件は、人工知能分野における倫理基準、女性の扱い、人種問題、そしてグーグルのこれまでのオープンで自由な文化からの逸脱という、近年グーグル社員の間で不安を引き起こしてきた4つの問題が凝縮されたものと言える。

人工知能の大きな可能性と有望な見通しにより、AI 開発が進むにつれて、AI の倫理的問題に対する業界の関心が高まっています。これを踏まえて、Googleは「社会に有益であること」や「不公平な偏見の創出や強化を避けること」などの原則を含む、人工知能開発のための一連の原則も発表した。後者はまさにゲブルが研究している分野です。彼女は、黒人に対する顔認識技術の不正確さを明らかにしたジェンダー・シェード・プロジェクトでの活動で知られており、彼女の活動によりIBMとマイクロソフトは顔認識技術と製品の外部販売を一時停止せざるを得なくなった。

しかし、ゲブル氏の解雇問題についてグーグルが沈黙していることは、非常に皮肉なことだと言える。かつては開放性、理想主義、自由の上に設立されたグーグルは、今では従業員の満足と反対意見の取り締まりの間で危険な綱渡りをしながら、より世俗的な企業へと変貌しつつあるようだ。

原題: Google 研究者の解雇につながった論文の裏側、著者: トム・シモナイト

[51CTOによる翻訳。パートナーサイトに転載する場合は、元の翻訳者と出典を51CTO.comとして明記してください]