ラオ・ファン氏が投資に参加し、MITの中国人女性科学者が2億ドルの資金を調達! 10,000台のH100が1000億以上のパラメータでAIエージェントをトレーニング

ラオ・ファン氏が投資に参加し、MITの中国人女性科学者が2億ドルの資金を調達! 10,000台のH100が1000億以上のパラメータでAIエージェントをトレーニング

今、シリコンバレーに新たな AI ユニコーンが誕生しました!

この中国人女性科学者が設立した会社はImbueという。同社は最近2億ドルの資金を調達し、評価額は10億ドルに達した。

Imbue は、女性創業者がいる数少ないユニコーン企業の 1 つでもあります。

それだけでなく、Imbue には 10,000 枚の NVIDIA H100 グラフィック カードもあるため、外貨を心配する必要がなくなりました。

はい、お察しの通り、NVIDIA はこの AI ユニコーンに再び投資しました。

NVIDIA のシニア サイエンティストである Jim Fan 氏も、嬉しそうに祝福のツイートを投稿しました。「昨年、NeurIPS で Avalon と MineDojo について一緒に話し合いましたが、今や Avalon の背後にある会社はユニコーン企業になりました!」

この話は、トップクラスの会議で出会う目立たない研究者を無視してはいけないことを教えてくれます。いつか彼らの会社がトップレベルの資金援助を受け、次のサム・アルトマンが生まれるかもしれません。

収益をまったく生み出していないにもかかわらず、同社は数億ドルを調達しました。この奇跡はシリコンバレーでしか起こり得ません。

エヌビディアは強気

現在、Imbue は 1,000 億を超えるパラメータを持つ「超大規模」モデルをトレーニングしており、Imbue には現在 10,000 個の NVIDIA H100 GPU が搭載されています。

同社は、昨年秋にリリースした Avalon オープンソース トレーニング環境以外、まだ製品をリリースしていない。

Imbue の共同創設者 Kanjun Qiu 氏と Josh Albrecht 氏

しかし、Imbue の今回の資金調達額は、同社がこれまでに調達した金額の 10 倍に相当します。

この投資は、億万長者のジェド・マケーレブ氏が設立した非営利団体アステラ・インスティテュートが主導し、エヌビディア、ゼネラルモーターズの自動運転企業クルーズのCEOカイル・フォクト氏、ノーションの共同設立者サイモン・ラスト氏らが参加した。

Imbue は現在までに総額 2 億 2,000 万ドルを調達しており、ここ数か月で最も資金が集まったスタートアップ企業の 1 つとなっている。それを上回っているのは、Cohere(4億3,500万ドル)、Adept(4億1,500万ドル)、AI21 Labs(2億8,300万ドル)など数社である。

投資家の間で最も注目を集めている名前は、間違いなくNvidiaです。

今年だけでも、Nvidia は Adept、Coreweave、Cohere、Inflection、Runway、AI21 Labs、Imbue など 7 つの AI ユニコーンに投資しました。

AIエージェントをターゲットにする

まだ初期段階にあり、従業員はわずか 20 名で、まだ製品を一般公開していないスタートアップが、なぜシリコンバレーの多くの著名な AI 投資家の支持を得たのでしょうか?

その理由は、Imbue が選択したルートが AI 基本モデルではなく、AI インテリジェント エージェントだからです。

大規模モデルによる生成AIの爆発的な普及により、市場は完全に活性化し、自信のある投資家も次のホットスポットを熱心に探しています。

AI インテリジェント エージェントは、多くの AI の第一人者やテクノロジー界の巨人が楽観視している方向性です。

今年 OpenAI に加わった大物で、元 Tesla AI ディレクターの Karpathy 氏はかつてこう言っています。「AI エージェントは AI の未来を象徴しています!」

カルパシー氏はかつてAutoGPTを次のフロンティアと呼んだ。

AI エージェントは、最も単純な形式ではループ内で実行され、各反復で自己指示の指示とアクションを生成する自律エージェントです。したがって、会話を導くために人間に依存する必要がなく、拡張性が非常に高くなります。

複雑なタスクを完了するための人間の意思決定をシミュレートするコンピューティング システムとして、AI エージェントは、大規模な言語モデルよりも想像力に富んだ方法であることは間違いありません。

実は、今年3月から4月にかけて、AIエージェントが爆発的に増加しました。偶然にも、わずか2週間で、Stanford Westworld Town、BabyAGI、AutoGPT、GPT-Engineerなどの複数のエージェントが雨後の筍のように出現しました。

OpenAI に勝てないから、大規模言語モデルをめぐる競争をやめろという声さえありました。しかし、AI エージェントに関しては、OpenAI は私たちより経験豊富というわけではありません。気を付けないと、AI インテリジェント エージェント レースで「OpenAI」になってしまうかもしれません。

ほら、Imbue が来たよ。

投資家:導入を急がず、ゆっくり検討する

しかし、創業者は、Imbue はいくつかの製品を開発しているものの、そのほとんどを生産する予定はないと述べた。

Imbue は、これらのモデルとツールが、人々が独自のカスタム モデルを作成するためのプラットフォームを提供することで、将来 AGI の実現に役立つことを期待しています。

Imbue は市場参入に熱心ではないが、それは同社の資金調達からも明らかだ。

主な投資家は、AI の流行が盛り上がっている間に AI プロジェクトに殺到す​​るベンチャー キャピタル企業ではなく、テクノロジー プロジェクトに特化した非営利団体である Astera Institute です。

創業者2人は、資金調達の過程でベンチャーキャピタル企業との面会を意図的に避けたと語った。

なぜなら、彼らの見解では、インビューの研究が本当に商業化されるまでには数年かかる可能性があり、ベンチャーキャピタル企業はそれほど忍耐強くないだろうが、非営利団体は商業化のスケジュールに対してより寛容であるだろうからだ。

最大の投資家である億万長者のジェド・マケーレブ氏は、AI知能体の構築に関するQiu氏とAlbrecht氏のPPTを読んで非常に満足したため、投資を決意したと語った。

もちろん、彼はこれが賭けであることも理解していました。研究を次の段階に進め、研究室の研究成果を商業化するためには、GPU への投資だけでも多額の費用がかかるからです。

Qiu 氏と Albrecht 氏はまた、10 年後には PPT の結果が人々の日常的なアプリケーションになる可能性が高く、それには 10 年もかからないかもしれないと非常に自信を持っています。

推論ベースモデルのトレーニング

Imbue の公式ブログでは、次のように説明されています。

現在、AI システムは、ユーザーに代わって単純なタスクを完了する機能が非常に限られています。重要な障害の1つは「推論」です。

強力な推論能力は、AI エージェントが効果的な行動を実現するための必要条件であると言えます。

これをさらに細分化すると、不確実性に対処する能力、アプローチを変更するタイミングを知る能力、質問をして新しい情報を収集する能力、シナリオを実行して決定を下す能力、仮定を立てて破棄する能力、そして現実世界の複雑で予測不可能な性質に対処する能力になります。

推論 AI エージェント用の基礎モデルをカスタマイズするということは、LLM が提供するパワーを活用するだけでなく、これらのモデルがどのようにトレーニングされ、どこで問題が発生するかを詳細かつ実践的に理解することを意味します。

つまり、一方ではモデルの推論を強化するための事前学習データの作成が特に必要であり、他方では推論結果をより信頼できるものにできる技術の開発が必要である。

これを実現するために、チームはフルスタックアプローチを採用しました。つまり、基本モデルのトレーニング、実験的なエージェントとインターフェースのプロトタイプ作成、堅牢なツールとインフラストラクチャの構築、モデルの学習方法の理論的基礎の理解です。

- モデル

非常に大規模なモデル (1,000 億を超えるパラメータ) をトレーニングおよび最適化して、推論ベンチマークで優れたパフォーマンスを実現します。

最新の資金調達により、Imbue は他の企業ではほとんど匹敵できない機能を獲得しました。それは、トレーニング データからアーキテクチャや推論メカニズムまで、あらゆるものの迅速な反復処理を実現できる、約 10,000 台の H100 を搭載したコンピューティング クラスターです。

- エージェント

Imbue は、このモデルに基づいて、社内使用 (主にコーディング用) 用のエージェント プロトタイプを設計しました。同時に、強力で信頼性の高い汎用インテリジェントエージェントを実現するために、他のさまざまなインテリジェントエージェントも試しています。

- インターフェース

今日の AI チャット インターフェースは基本的にスキューモーフィックです。チームは、インテリジェント エージェントの堅牢性、信頼性、コラボレーションに関する多くの中核的な問題は、インタラクティブ インターフェースを再発明することで解決できると考えています。

さらに、世界を理解できる AI エージェントは、人間がコンピューターと対話する方法を再考する機会を提供し、私たちをより良くサポートし、力を与えるシステムを構築します。

- 道具

優れたツールは反復サイクルを高速化できます。

この目的のために、チームは、型チェックやスレッド エラーを修正するためのシンプルなエージェント プロトタイプ、エージェントやモデル上のデバッグおよび視覚化インターフェイス、あるいはハイパーパラメータの調整やネットワーク アーキテクチャの検索の多くを自動化する CARBS などのより複雑なシステムなど、自分たち用のツールの構築に多大な労力を費やしてきました。

- 理論

堅牢な基盤と長期的な安全性の両方を提供するインテリジェントエージェントのモデルを作成するには、ディープラーニング理論を開発する必要があります。

この目的のために、チームは特徴学習と大規模言語モデルの学習プロセスの背後にある中核的なメカニズムの理解に研究の焦点を当てました。

現在、チームは自己教師あり学習の理論的基礎とニューラルネットワークなどのシステムの学習の基本法則に関する多数の論文を発表しています。

推論とコーディングができるAIエージェント

しかし、誰もが使用できる AI エージェントを開発する前に、チームはまず、独自の使用シナリオについて徹底的な調査を実施しました。

これにより、インテリジェント エージェント専用に設計された推論モデルを継続的に改善する方法や、インテリジェント エージェントの信頼性を高めるツールを構築する方法を理解するのに役立ちます。

その結果、最初の一連のインテリジェント プロトタイプの大部分は、チームの中核業務であるコードを中心に展開されました。

具体的な理由は次のとおりです。

- 使用は発明の必要条件である

AI エージェントを人間と並んで確実に動作させるための最善の方法は、日常的なタスクに使用でき、その過程でさまざまな問題を解決できる AI エージェントを作成することです。

- コードは推論能力を向上させることができる

まず、コードでのトレーニングは、モデルがより適切に推論することを学習するのに役立ちます。第二に、プログラミングの問題は非常に客観的であるため(コードがテストに合格するか不合格になるかのどちらか)、より一般的な推論スキルをテストするための理想的なプラットフォームを提供し、チームが基盤となるシステムへの改善が効果的かどうかを理解できるようにします。

- コードはアクションにとって非常に重要

コードを生成することは、インテリジェントエージェントがコンピューターと対話するための効率的な方法です。エンコード機能の向上は、複雑なタスクを正常に完了する可能性の高いエージェントに直接つながります。たとえば、テーブルから情報を抽出するための SQL クエリを記述できるエージェントは、同じ情報を直接収集しようとするエージェントよりも、ユーザーのニーズを満たす可能性が高くなります。

- 戦略的に非常に重要な

エージェントが改善を続けると、より多くの作業を引き継ぐことができるようになり、研究とエンジニアリングが加速します。これは、ソフトウェア システムの構築に役立つだけでなく、実際に使用可能な AI エージェントがどのようなものになるかを確認するための組織プロトタイプの構築にも役立ちます。

現在、チームはこれらの「コード エージェント」を本番環境に導入する予定はありません。しかし、彼らはこれらのツールとモデルを徐々に公開し、誰でも独自の AI エージェントを作成できるようにしたいと考えています。

真のパーソナルコンピュータは私たちに自由と尊厳、そして好きなことをする能力を与えてくれる

本当に役立つ AI エージェントとは、実際には、目標を理解し、積極的にコミュニケーションを取り、舞台裏で私たちのために働くことができるコンピューターであり、アイデアと実行の間の障壁を排除します。

画面に釘付けになる代わりに、私たちは自由に好奇心を探求し、宇宙の法則を発見し、芸術的な傑作を創り出し、お互いをより深く理解し、あるいは単に人生を楽しむ時間を持つことができます。

チームメンバー

わずか20名ほどですが、Imbueのチームメンバーは隠れた才能に満ちています。

共同創設者兼 CEO の Kanjun Qiu 氏は MIT で学士号と修士号を取得しており、他のメンバーは AI のほか、神経科学、プラズマ物理学などのバックグラウンドを持っています。

創設者の Kanjun Qiu 氏と Josh Albrecht 氏は、チームの背景知識の広さが強みの 1 つであると考えています。

しかし、ウォール・ストリート・ジャーナルによれば、シリコンバレーの投資家数名は、この小さなチームが本物のAI研究室を運営できる能力があるかどうか疑問視していたという。

しかし、Imbue の創業者を知る人々にとって、ベンチャー キャピタルは有名な経歴を持つ少数の創業者を支援する傾向があるため、この懸念は重要ではありません。

投資家とアドバイザーを選択

<<:  オッペンハイマーの「彼女は消えた」!物理学界のファーストレディ、呉健雄はマンハッタン計画の重要な問題を解決した

>>:  ChatGPTのトラフィックは3か月連続で減少しており、大学生の活躍で回復に寄与している

ブログ    
ブログ    
ブログ    
ブログ    

推薦する

あなたは人工知能の前で「透明な人」ですか?

プライバシーがないと感じる人が増えているのは紛れもない事実です。最も直接的な例は、買い物をしたい場合...

インテリジェントロボットを活用してビジネス運営を強化する方法

インテリジェントロボットはビジネスの世界で大きな注目を集めています。スマートロボットの使用には、効率...

Google: より多くのデータはより優れたアルゴリズムに勝ります!

Google が発表した新しい研究論文では、音声検索や YouTube 動画へのテキスト説明やタグ...

...

新しいトレンド!人工知能と5G技術がスマートフォンを再定義する

海外メディアは、プライスウォーターハウスクーパースの報告書が、人工知能と5G技術が今後3~5年でスマ...

人工知能は200年以上前の進化のパズルをどうやって解くことができるのでしょうか?

人工知能は進化における最も古い謎の 1 つを解くのに役立っていますが、新たな謎ももたらしています。 ...

初心者向けガイド: 自然言語処理のためのニューラル ネットワーク

この記事を読むと、次のことがわかります。自然言語処理の分野に最も大きな影響を与えたニューラル ネット...

PyTorch でテンソルを操作するための 5 つの基本関数

ニューラル ネットワークを正確かつ効率的に構築する能力は、ディープラーニング エンジニアの採用担当者...

詳細 | EUの人工知能法案が進行中:公共の場での顔認識の禁止を求める、市場シェアを獲得するために厳しい監視が必要

最近、EUの人工知能規制に新たな展開がありました。欧州データ保護委員会(EDPB)と欧州データ保護監...

[強く推奨] 史上最も包括的な IT アーキテクト技術知識マップ 34 選

この記事は、著者が長年にわたり蓄積し収集してきた知識とスキルのマップです。編集者は、これを周囲の技術...

Verdict、2020年第1四半期のTwitterにおけるIoTトレンドトップ5を発表

私たちは、企業や専門家が IoT についてどう考えているかを知りたいと思っていますが、一般の人々はど...

AIは意識を発達させ始めているのでしょうか? OpenAI主任科学者の発言が論争を巻き起こし、大物の間で論争を巻き起こした

この記事はAI新メディアQuantum Bit(公開アカウントID:QbitAI)より許可を得て転載...