DeepMind の巨額損失の背後で、今日の AI は正しい方向を選んだのでしょうか?

DeepMind は研究に重点を置く世界最大の AI 企業かもしれないが、過去 3 年間の損失は 10 億ドルを超え、今後 12 か月で返済しなければならない負債は 10 億ドルを超えるなど、巨額の損失に見舞われている。

これは AI が崩壊しつつあることを意味するのでしょうか?

そうではありません。研究には費用がかかり、DeepMind は毎年さらに多くの研究を行っています。同社は確かに多額の資金を費やしており、おそらくこれまでのどの AI 研究会社よりも多額の資金を費やしている。しかし、科学における最大規模のプロジェクトと比較すると、ディープマインドが費やしている資金は決して前例のない額ではない。例えば、大型ハドロン衝突型加速器の費用は年間10億ドルかかる可能性があるが、ヒッグス粒子の発見にかかる費用は100億ドル以上と見積もられている。もちろん、映画で見られるような真の機械知能 (AGI) を実現するには、それよりもはるかに多くのコストがかかります。

それでも、DeepMind の莫大な損失 (2016 年の 1 億 5,400 万ドルから 2017 年の 3 億 4,100 万ドル、そして 2018 年の 5 億 7,200 万ドル) は、振り返る価値がある。私の意見では、核となる問題は 3 つあります。

• DeepMind は正しい方向に進んでいるのでしょうか?
• Google の親会社である Alphabet の観点から、これほどの規模の投資は意味があるのでしょうか?
• この損失は AI の全体的な発展にどのような影響を与えるでしょうか?

最初の質問に関しては、懐疑的になる理由があります。 DeepMind は、人材と資金の大部分を深層強化学習に関する技術研究に投入してきました。この技術は、主にパターン認識に使用されるディープラーニングと、ゲームでのスコアや勝利などの報酬信号に基づいて学習する強化学習を組み合わせたものです。

ディープ強化学習技術は、2013年にDeepMindによって提案されました。「ディープ強化学習でAtariをプレイ」と題された論文では、単一のニューラルネットワークシステムでブレイクアウトやスペースインベーダーなどのさまざまなAtariゲームをプレイできることを実証し、ニューラルネットワークのパフォーマンスが人間よりも優れていることを証明しました。

この論文は工学の傑作であり、2014年にGoogleがDeepMindを買収する主なきっかけとなったと思われる。この技術の継続的な開発により、DeepMind は囲碁や StarCraft などの競争ゲームで成功を収めています。

問題は、この技術の適用範囲が非常に狭いことです。 Brick Breaker ゲームを例にとると、わずかな変更 (パドルを数ピクセル上に移動するなど) によって、ネットワーク パフォーマンスが大幅に低下する可能性があります。 DeepMindのStarCraft AIも非常に制限されており、単一のマップ上で特定のキャラクターを選択する場合にのみ、人間のパフォーマンスを超えるレベルに到達できます。ただし、マップとキャラクターの数が増えると、AIのパフォーマンスも大幅に低下します。役割を切り替えるには、システム全体を最初からトレーニングする必要があります。

ある意味、深層強化学習はターボチャージされた記憶の一形態です。この技術を使用するシステムは驚くべき偉業を成し遂げることができますが、自分が何をしているのかをほとんど理解していません。その結果、既存のシステムは柔軟性に欠け、現実世界の変化に適応することができません（急性腎障害を48時間前に予測するDeepMindのAIシステムも、この点で疑問視されています）。

深層強化学習にも大量のデータが必要です。たとえば、AlphaGo のトレーニングには何百万もの自己ゲームが必要ですが、これは人間が世界クラスのチェス プレイヤーに成長するために必要なトレーニング量をはるかに上回ります。これには Google レベルの計算能力が必要であり、現実世界ではほとんどのユーザーは計算能力のコストだけで躊躇することになります。 AlphaGo のトレーニングには 3,500 万ドルの費用がかかったと推定されていますが、これは 12,760 人の人間の脳が 3 日 3 晩眠らずに働くことで消費されるエネルギーに相当します。

しかし、これは単なる経済的な考慮です。アーネスト・デイビスと私が近々出版する本「Rebooting AI」で論じているように、本当の問題は信頼性です。これまで、深層強化学習は、予期せぬ事態がほとんどなく、適切に制御された環境でのみ可能でした。囲碁はルールと盤面が 2,000 年もの間変わっていないため、この目的には最適な環境ですが、現実世界ではこのテクノロジーに頼りたくないシナリオも数多くあります。

商業的な収益化能力が限られている

問題の一部は、DeepMind が研究しているゲームほど制約のある現実世界の問題がほとんどなく、DeepMind が深層強化学習の大規模な商用アプリケーションをまだ見つけていないことです。 AlphabetのDeepMindへの投資額は約20億ドルに達した（2014年の買収に費やした6億5000万ドルを含む）。対照的に、ディープマインドは、強化学習を使用して Google のサーバー冷却コストを削減することによる節約を含め、2018 年にわずか 1 億 2,500 万ドルという比較的少ない直接的な財務収益を生み出しました。

DeepMind が囲碁を解くために使用するのと同じ技術は、がん治療やクリーンエネルギーなど、AI を必要とする現実世界の問題には適用できない可能性があります。 IBM は Watson プロジェクトを通じてこのことを痛感しました。ワトソンは、いくつかの状況ではうまく対応したが、他の状況ではうまく対応できず、心臓発作などの問題を見逃した。これは医学部1年生が犯すような間違いではない。

もちろん、これは時間の問題かもしれません。 DeepMind は少なくとも 2013 年から深層強化学習に取り組んでいますが、さらに時間がかかる可能性があります。一夜にして商業化できる科学的進歩はほとんどありません。 DeepMind や他の企業は、他の技術を組み合わせることで、より深く安定した深層強化学習システムを開発するかもしれませんし、そうでないかもしれません。

深層強化学習は、最終的にはもう 1 つの「トランジスタ」となり、研究室から出て世界を変えることになるかもしれない。あるいは、ジョン・メイナード・スミスがかつて「問題を求める解決策」と表現したように、単なる学術的な好奇心に過ぎないかもしれない。私の個人的な推測では、深層強化学習はその中間に位置するでしょう。つまり、便利で広く採用されるツールにはなるでしょうが、世界を変えることはないでしょう。

ディープマインドの既存の戦略は多くの人が望むほど豊かではないが、誰も同社を無視することはできない。深層強化学習は汎用人工知能への容易な道ではないかもしれないが、DeepMind はそれ自体が強力な企業であり、組織化が行き届いており、資金も豊富で、何百人もの博士号取得者を擁している。囲碁とスタークラフトの成功により、注目度が高まり、より多くの才能あるプレイヤーが参加するようになりました。 AIの風向きが変われば、DeepMindは逆の方向に向かう可能性もある。明らかに、DeepMind は比類のない存在です。

高い期待に対する懸念

最後の質問は、DeepMind の財務状況が AI の全体的な発展にどのような影響を与えるかということですが、これは答えるのが難しい質問です。誇大宣伝が成果を上回れば、それは簡単に新たな「AI の冬」につながり、支持者でさえも投資する意欲を失うことになるでしょう。投資業界もこのような巨額の損失に注目するだろう。DeepMind の損失が毎年倍増すれば、Alphabet ですら撤退を余儀なくされるだろう。お金だけの問題ではありません。今のところ、目に見える財務成果は見られません。ある時点で、投資家は AI に対する熱意を再調整しなければならないかもしれない。

今のところ、汎用人工知能は誇大宣伝のレベルに留まっており、実現するのはまだ困難です。広告や音声認識など、限られた分野では大きな進歩を遂げてきましたが、AI にはまだまだ長い道のりが残っていることは間違いありません。大規模なデータセットを合理的に分析することの利点は否定できず、AI はたとえ限られた形であっても強力なツールとなっています。業界は AI に対してそれほど熱心ではないかもしれないが、完全になくなるわけではない。

私は次のような予測をしたいと思います。

10年後、私たちは、2010年代後半に深層強化学習が過大評価され、他の多くの重要な分野が軽視されていたという結論に達しました。強化学習に投資する 1 ドルごとに、貴重な洞察が生み出される可能性のある人間の認知科学などの他の分野への投資が 1 ドル少なくなります。

機械学習分野の研究者たちは現在、「既存の AI システムよりもはるかに少ないエネルギーとデータで、子どもたちはどのようにして言語を学び、世界を理解するのか」という疑問を頻繁に抱いています。後者の疑問を解決するために、より多くの時間、お金、エネルギーを費やせば、より早く汎用人工知能を実現できるかもしれません。

オリジナルリンク: https://www.wired.com/story/deepminds-losses-future-artificial-intelligence/

[この記事は51CTOコラム「Machine Heart」、WeChatパブリックアカウント「Machine Heart（id: Almosthuman2014）」からのオリジナル記事です]

この著者の他の記事を読むにはここをクリックしてください