DeepMind CEO インタビュー: AI はまだコンピューティング能力の戦いではなく、Google の優位性は研究開発にあり、インテリジェント エージェントが次の爆発点となる

GoogleのGeminiは今年初めのAI製品戦争ではあまり注目されなかったが、世界最先端のAI組織であるGoogle DeepMindは、汎用人工知能への道で依然としてOpenAIを密接に追っている。

先日、WIREDはDeepMindの代表ハサビス氏に独占インタビューを実施し、最近リリースされた製品や人工知能開発の今後の技術的進路などについてたっぷりと語ってもらった。実践的な情報満載の内容だった。

彼の意見では、人工知能技術の今後の発展は単なる計算能力と規模の競争ではなく、基本的なアーキテクチャ、エージェント、その他の側面においてまだ想像力を働かせる余地がたくさんある。

Googleの強みは新技術の研究開発にある

Q: Gemini Pro 1.5 は、前モデルよりもはるかに多くのデータを処理できます。 「MoE」と呼ばれるアーキテクチャのおかげで、同規模での機能も強化されました。これらの進歩はなぜ重要なのでしょうか?

デミス・ハサビス：これで、通常の長さの短編映画に取り組めるようになりました。何かのトピックを勉強したり、1 時間の講義を視聴したり、講義で言及された特定の情報やポイントを調べたりする場合、私たちのアップデートは非常に役立つと思います。

Jeff Dean は、MoE を使用してこの新しい Gemini Pro バージョンを作成しました。大規模にテストされたわけではありませんが、そのパフォーマンスは、前世代のアーキテクチャの最大モデルとほぼ同等です。

当社はこれらのイノベーションを活用して超大型モデルを作成するのに有利な立場にあり、それを目指して取り組んでいます。

ハサビス氏は、AI モデルのトレーニングに使用される計算能力とデータ量の増加が、過去数年間の大きな進歩を推進する主な要因であると考えています。

噂によると、サム・アルトマンはAIチップをさらに購入するために7兆ドルもの資金を調達しようとしているという。

これに対しハサビス氏は「噂ですか？日本円になるらしいと聞きましたが？」と質問。

「しかし、確かに規模は重要であり、だからこそNvidiaは今非常に価値があるのです。

だからこそ、サムは資金集めに一生懸命に取り組んでいるのです。しかし、他の多くの機関とは異なり、私たちは常に基礎研究を最優先してきました。

過去 10 年間の先駆的な取り組みを通じて、Google Research、Google Brain、DeepMind は、現在使用されている機械学習技術のほとんどを発明しました。

それが常に私たちの中核であり、他の機関にはいないような上級研究科学者が数多くいます。対照的に、他のスタートアップ企業や大企業でさえ、研究よりもエンジニアリングに重点を置いていることが多いです。 「

AI技術にはまだまだ大きな進歩の余地がある

ハサビス氏は、汎用人工知能（AGI）を実現するには、既存の技術の拡大だけでなく、多くの大きな技術革新も必要になると考えていると述べた。

「テクノロジーが停滞する兆候は見られず、まだ改善の余地があります。ですから、既存のテクノロジーを引き続き推進し、どこまでできるかを見極めるべきだというのが私の考えです。しかし、計画、ツールの使用、エージェントの行動などの新しい機能は、既存のテクノロジーをスケールアップするだけでは実現できません。これらの機能は、どこからともなく突然生まれるものではありません。」

彼はまた、コンピューティングそのものを探求することの重要性も強調した。

「理想的には、数日で訓練できる小さな問題で実験し、小規模で機能するものが大規模では機能しないことが多いことに気付きます。したがって、おそらく 10 倍の規模で外挿できる有効性のしきい値があります。」

インテリジェントエージェントが次のホットトピック

将来、AI企業間の競争はツールの使用とエージェントを中心に展開されるようになるかとの質問に対し、ハサビス氏はその可能性が高いと答えた。

「私たちは長い間この道を歩んできました。実際、エージェント、強化学習、プランニングは、AlphaGo の時代から私たちの専門分野です。

私たちは、AlphaGo の機能をこれらのより大規模なモデルと組み合わせることについて、多くのアイデアを再検討しています。内省力と計画力は幻覚などの問題の改善に役立ちます。 「

彼はまた、「これは間違いなく巨大な分野です。私たちは、これらのシステムがよりインテリジェントなエージェントのように動作し始めると、システムの機能が大幅に向上すると考えていることに多くの時間と労力を費やしています。私たちはこの方向に多額の投資をしており、他社も同様のことをしていると思います。」とも述べています。

AIモデルをよりエージェント的にすることで、問題が増えたり、潜在的に危険になったりするかどうかについては、ハサビス氏はそれは確かに大きな変化だと述べた。

「エージェントのようなシステムが機能するようになれば、AI は受動的な質問応答システムから能動的な学習者へと移行するため、現在のシステムとはまったく異なるものになるでしょう。

もちろん、実際に仕事をこなすことができるので、より便利にもなります。しかし、もっと注意する必要があります。 「

彼は、これらのエージェントをオンラインで展開する前に、シミュレーション環境でテストすることの重要性を強調しました。

「私は長い間、リリース前に厳密なシミュレーションでエージェントをテストすることを提唱してきました。

他にも多くの提案がありますが、業界はこれらのシステムの登場を真剣に検討し始めるべきだと思います。それは数年先かもしれないし、もしかしたらもっと早くかもしれないが、それは異なる種類のシステムだ。 「

最も強力なモデルであるジェミニ ウルトラのテストになぜこれほど長い時間がかかったのかと尋ねられたハサビス氏は、開発のスピードとモデル自体がより複雑だったことの両方が原因だと答えた。

「まず、モデルが大きくなるほど微調整が複雑になるため、時間がかかります。また、モデルが大きくなるほど、テストが必要な機能も多くなります。」

ハサビス氏は、Google DeepMind が統一された組織として安定するにつれて、製品を早期にリリースし、少数のユーザーに実験的に提供し、信頼できる初期テスターからのフィードバックに基づいて微調整を行い、一般リリース前に改善する方向にますます移行していることに人々に気づいてもらいたいと考えています。

英国AI安全研究所などの政府機関との連携の進捗状況について、ハサビス氏は次のように述べた。

「非常に順調です。すべて機密情報なので何と言えばよいかわかりませんが、彼らは確かに当社の最先端モデルにアクセスでき、Ultraをテストしており、今後も彼らと緊密に協力していきます。」

アメリカでも同様の機関が設立されつつあると思います。これは、ブレッチリー・パーク AI 安全サミットの肯定的な成果でした。彼らは、化学、生物、放射線、核（CBRN）問題など、私たちには検査権限がない事柄を検査することができます。 「

ハサビス氏は、現在のシステムは実質的で懸念される任務を遂行するには不十分だと考えている。

「しかし、今は政府、産業界、学界が協力し合っているのは良いことです。インテリジェント エージェント システムが次の大きな変化になると思います。その過程で徐々に改善が見られ、大きな進歩もあるかもしれませんが、それはまったく異なる体験になるでしょう。」