Google Brain の公開: アルゴリズムのエラー修正と AI バイアスの解決に重点を置く

テンセントテクノロジーニュース、1月29日、海外メディアの報道によると、グーグルCEOサンダー・ピチャイの言葉を借りれば、「電気や火よりも奥深い」人工知能（AI）技術の発展の責任者としては、ジェフ・ディーン氏は非常に冷静な人物だという。

テクノロジー大手のAI部門責任者として、ディーン氏はGoogleの将来にとって極めて重要な部門を監督している。今年のダボス世界経済フォーラムの熱狂的な雰囲気の中でも、ディーンは瞑想していた。どうやら、そのような困難な仕事も彼を動揺させなかったようだ。

[[256709]]

グーグルの人工知能部門責任者、ジェフ・ディーン氏

ディーンの Google での使命は、「ほぼ確実に」宇宙からやってくる脅威への対応を支援することだった。

宇宙光線

世紀の変わり目に、Google の検索エンジンが故障し始め、プログラマーたちはその理由に困惑しました。宇宙空間の問題を診断したのはディーン氏と彼の親友サンジェイ・ゲマワット氏でした。

ディーン氏は、Google の検索サービスは「梱包用の電線とガムのようなもので作られた」安価なハードウェアで動作しており、「極めて確率の低いイベント」に対して脆弱であると説明した。

「宇宙からの特定の光線が地球に侵入し、メモリ デバイスのメモリ セルに当たると、0 または 1 が 1 または 0 に反転することがあります」とディーン氏は言います。「大量のデータを処理している場合、これは特に危険です。突然、データ内のランダムなビットが反転して破損するからです。」

同氏はさらにこう付け加えた。「今日のほとんどのマシンは、同様の問題に対するハードウェア保護機能を備えている。しかし、Google が使用していた初期のマシンには、そのような機能は備わっていなかった。」

しかし近年、ディーン氏の注目を集めているのは、Google のハッキングマシンと、同社の大胆な名前の「ブレイン チーム」だ。チームの使命は「機械をインテリジェント化し、人々の生活を向上させること」です。 Google の現在の AI アプリケーションは平凡なものだが、そのミッションは野心的なものに感じられる。

機械学習により、Google ユーザーは写真に写っているオブジェクトを検索して（たとえば、「ケーキ」や「猫」と入力して）写真を取得できるようになり、また、複数の言語で音声をテキストに変換できる音声認識ツールの開発の基盤にもなっています。

Google の翻訳ツールは同社の AI チームにとってもう一つの成功だったが、アルゴリズムが「私たちが望む世界からではなく、現実の世界から学ぶ」ことができるという初期の例も提供した。

偏見と闘う

ディーン氏は、アルゴリズムに大量のテキストを入力すると、よくグループ化される単語を認識する方法を自ら学習すると説明した。

「たとえば、アルゴリズムは医者を『彼女』よりも『彼』に、看護師を『彼』よりも『彼女』に関連付けることが多いと知っているかもしれません」とディーン氏は言う。「しかし、外科医はメスに、大工はハンマーに関連付けられていることも知っています。つまり、これらのアルゴリズムの優れた点は、こうした種類のパターンや相関関係を学習できることです。」

ディーン氏は、アルゴリズムにどのようなバイアスを検出させたいのかを把握することが課題であり、彼のチームとAI分野の多くの人々がその背後にある科学を理解するために取り組んでいると述べた。 「完璧で偏りのないアルゴリズムが見つかるかどうかは分かりません」とディーン氏は語った。

[[256710]]

LinkedInの創設者、アレン・ブルー

こうした問題に取り組んでいる企業の意外な例として、プロフェッショナル向けネットワーキング サイト LinkedIn が挙げられます。 5億6,200万人のユーザーがアカウントにログインすると、AIを活用した独自の仕事や連絡先の提案が表示されます。さらに、LinkedIn を使用する採用担当者は、機械学習を使用して選別された理想的な候補者の短いリストを受け取ります。

しかし、LinkedInの共同設立者であるアレン・ブルー氏はすぐにこのプロセスの問題点に気づいた。候補者リストにおいて女性が十分な順位に並んでいないのだ。 「私たちにできることは、『わかりました。アルゴリズムを修正して、検索基準に実際に合致する候補者に対して男性と女性の候補者を同数ずつ選別し、女性が誤って除外されないように順位付けします』と言うことです」とブルー氏は語った。

多様性の拡大

しかし、ブルー氏は、この問題の解決は AI の氷山の一角に過ぎないことを認めています。 「最善の意図を持って機械学習アルゴリズムを構築しても、結果に意図せず偏りが生じてしまう可能性があることを私たちはようやく理解し始めたところです」と彼は説明した。

ブルー氏が好んで挙げる例は顔認識技術だ。同氏は「顔認識アプリケーションの最初のバージョンは、有名人の写真でトレーニングされたが、そのほとんどは白人男性だった。そのため、白人男性の顔認識精度は97％に達することができたが、アフリカ人女性の精度はわずか3％だった」と述べた。同氏は、AIアルゴリズム構築者の多様性を高めなければ、解決策はないと考えている。

[[256711]]

顔認識の初期の試みはバイアスの問題に直面した

「LinkedIn で実際に AI スキルを持つ人を見ると、女性はわずか 22% です」とブルー氏は言う。さらに悪いことに、「女性の役割は研究重視、または教育志向であるのに対し、男性の役割はリーダーシップ志向である傾向があります」と同氏は付け加えた。

「誰にでも偏見はあるが、女性が協力してくれなければ、人々がどのようにAIを設計するのかを完全に理解することはできない」とブルー氏は認めた。

こうした警告にもかかわらず、ブルー氏もディーン氏も AI の潜在的なプラス効果については熱心だ。採用プロセスに関しては、コンピューターは人間的な欠点をなくす方法さえ教えてくれるとブルー氏は主張する。

洪水と地震

「誰かと顔を合わせて話をすると、相手の感情やエネルギーなどをよく読み取ることができます。それはその人の特性に基づいているため、良い従業員の条件についての偏った見方があります」とブルー氏は言う。「AI は、その良い感情と偏りのない見方を切り離すのに役立ちます。それが、私が言う純粋な機械と人間のコラボレーションです。」

ディーン氏にとって、洪水や地震の余震を予測できるシステムなど、世界中の人道的問題に対する Google の AI チームの取り組みは、最も誇らしい成果のひとつです。

[[256712]]

今年のダボス世界経済フォーラムではデータプライバシーが注目の話題となっている

ヘルスケアとバイオサイエンスに特に重点を置くことで、眼科医の介入を必要とせずに網膜画像から糖尿病網膜症と呼ばれる病気を診断できるツールが誕生しました。

ディーン氏は世界経済フォーラムで AI のこうした利用について積極的に発言してきました。フォーラムでは、データのプライバシーとテクノロジーの規制に焦点が当てられたセッションが数多く開催されました。

ディーン氏は、同社の社内原則がAIの潜在的な悪用を防ぐのに役立つと信じており、彼のチームは「悪影響を与える可能性があると思われる特定の結果を公表しないという決定を必ず下す」と明かした。

しかしディーン氏は、機械学習の誤用を防ぐ方法は、その分野で働く適切な人材を引き付けることだと語った。同氏は「これらの分野を研究する人、そしてこれらの分野に興味を持つ人を増やす必要がある。そうすることで進歩を遂げ、社会の多くの問題を解決できるからだ」と語った。（テンセント・テクノロジー・レビュー/Jinlu）