このスタートアップは、アイドル状態のGPUを分散ネットワークに接続することで、AIモデルのトレーニングコストを90%削減できると主張している。

このスタートアップは、アイドル状態のGPUを分散ネットワークに接続することで、AIモデルのトレーニングコストを90%削減できると主張している。


モンスターAPIは、採掘機器などのGPUコンピューティングパワーを使用してAIモデルをトレーニングします。

GPU は、ビットコインなどの暗号通貨のマイニングによく使用されますが、これは大量の計算能力を必要とするリソース集約型のプロセスです。

かつて暗号通貨の流行により市場でGPUが不足し、価格が高騰したため、企業や個人はゲーム業界向けにNvidiaが提供するGPUに目を向け、それを暗号通貨マイニング機器専用のGPUに変えました。

しかし、暗号通貨の流行が収まるにつれ、多くの暗号通貨マイニング機器がシャットダウンされたり、放棄されたりしました。これにより、Monster API の創設者 Gaurav Vij 氏は、これらのデバイスを再利用して、AI ベースのモデルのトレーニングと実行という最新のコンピューティング集約型開発のトレンドに適応させることができることに気付きました。

これらの GPU は、AWS や Google Cloud などで導入されている専用の AI 機器ほどのパワーはないものの、クラウド コンピューティング プロバイダーが使用するハイパースケール コンピューティング機器を使用する場合の数分の 1 のコストで、最適化されたオープン ソース モデルをトレーニングできると Gaurav Vij 氏は述べています。

「機械学習の分野では、需要が供給を上回っているため、コンピューティング能力の不足に苦しんでいます」と、Monster API の共同創設者 Saurabh Vij 氏は語ります。「現在、機械学習の開発者のほとんどは、リソースとして AWS、Google Cloud、Microsoft Azure に依存していますが、その結果、多額のコストがかかります。」

分散コンピューティングパワーネットワークは、AI基本モデルのトレーニングコストを大幅に削減できます。

実際、未使用の GPU は、暗号通貨マイニング装置だけでなく、PlayStation 5 などのゲーム システムや小規模なデータ センターにも存在します。 「暗号通貨マイニング装置はGPUを使用し、ゲームシステムはGPUを使用し、GPUは年々強力になっています」とサウラブ・ヴィジ氏は語った。

企業や個人のコンピューティング能力は、分散ネットワークに統合される前に、データ セキュリティ チェックを含む一連のプロセスを経る必要があります。需要側は需要に応じて設備を追加し、コンピューティングパワーネットワークを拡大および縮小します。サプライヤーは、未使用のコンピューティング能力を販売することで収益の一部を得ることができます。

サウラブ・ヴィジ氏は、分散コンピューティングシステムによって AI ベースのモデルのトレーニングコストが削減され、将来的には資金力のある大手テクノロジー企業だけでなく、オープンソースや非営利団体でもトレーニングできるようになると強調した。 「AI インフラストラクチャ モデルの構築に 100 万ドルかかるのに対し、当社のような分散型ネットワークは 10 万ドルしかかかりません。」

Geek.com は、Monster API がモデルを微調整するための「ノーコード」ツールも提供し、技術的な専門知識やリソースを持たないユーザーにも開放されているため、モデルをゼロからトレーニングでき、コンピューティング能力と AI ベースのモデルがさらに「民主化」されていることを知りました。

「多くの開発者はモデルをゼロからトレーニングするための十分なデータと資金を持っていないため、微調整は非常に重要です。」と彼は述べ、最適化を通じて、Monster API は微調整のコストを 90% 削減し、各モデルの微調整コストを約 30 ドルにしたと述べました。

オープンソースのモデルトレーニングは、開発者がAIで革新するのを助けます

AI 開発者は、これらのトレーニング モデルとオープン ソースに直接影響を与える可能性のある差し迫った規制に直面していますが、Saurabh Vij 氏はオープン ソース モデル トレーニングにプラスの面があると考えています。 Monster API は、潜在的なリスクを管理し、分散型ネットワーク内で「追跡可能性、透明性、説明責任」を確保する必要性を認識しています。

「短期的には規制当局が勝つかもしれないが、私はオープンソースコミュニティに大きな信頼を置いており、オープンソースコミュニティは非常に急速に成長している。Postman(API開発プラットフォーム)には2500万人の開発者が登録しており、その多くが生成型AIを構築しており、それがすべての人にとって新しいビジネスと新しい機会の扉を開く」と同氏は語った。

Geek.com は、Monster API が低コストの AI モデルをトレーニングすることで、開発者がイノベーションのために機械学習を最大限に活用できるようにすることを目指していることを知りました。現在、微調整可能な有名な AI モデル (Stable Diffusion や Whisper など) がいくつか用意されています。さらに、ユーザーはこれらの GPU コンピューティング能力を使用して、独自の AI ベース モデルをゼロからトレーニングすることもできます。

サウラブ・ヴィジ氏は次のように語った。「私たちはMacBook上でテキストと画像の生成に関する実験を行っており、1分間に少なくとも10枚の画像を出力できます。何百万台ものMacBookをインターネットに接続し、ユーザーがMacBookを使ってStable Diffusion、Whisper、その他のAIモデルを実行し、寝ている間に利益を得られるようしたいと考えています。」

「最終的には、プレイステーション、Xbox、Macbook、さらにはテスラ車も強力なコンピューティングリソースになるでしょう。テスラ車も強力なGPUを使用しており、ほとんどの時間ガレージに駐車されているからです」とサウラブ・ビジ氏は付け加えた。

<<:  Googleが生成AIをオンラインショッピングに適用、実在のモデルが高精度な仮想衣装着せ替えを実現

>>:  テンセントのロボット犬が本物の犬の仕事を奪う!彼は楽しくゲームをしたり、歩き回ったりすることができます。

ブログ    
ブログ    
ブログ    

推薦する

人工知能の分野では、すでに世界中で 10 個の画期的な技術が存在します。

[[238191]]人工知能はハイテクで、多岐にわたり、多次元的で、学際的な統合装置であり、ビッグ...

ロボット危機:私たちの仕事はより困難に…

[[412010]]ロボット、つまり自動化と AI の総称は、私たちの周りにはどこにでもあります。...

「インテリジェント接続」を理解するにはこの記事で十分です!

人類社会は「つながりがない」「弱いつながり」から「賢いつながり」へと徐々に移行しつつあります。グロー...

この「アンケート」で初めて AI が人間を上回る、Microsoft が SuperGLUE でトップ

この記事はAI新メディアQuantum Bit(公開アカウントID:QbitAI)より許可を得て転載...

将来的には配送車両の80%が自動運転技術を使用する

[[251814]]フォード、トヨタ、グーグル、アップルなどの大企業が自動運転車に投資していることは...

AIがすぐに作家に取って代わることはないだろうが、その未来はあなたが思っているよりも近いかもしれない

人工知能は、多くの企業にとってコンテンツマーケティングと管理の効率化に大きな役割を果たしています。 ...

RAG 上級スキル - ウィンドウ コンテキスト取得の実装方法

この記事では、RAG (Retrieval-Augmented Generation) モデルの検索...

...

トランスフォーマーベースの効率的で低遅延のストリーミング音声認識モデル

シナリオの観点から、音声認識はストリーミング音声認識と非ストリーミング音声認識に分けられます。非スト...

これはホログラムではありません!多角度から視聴できる真の3D画像

この記事はAI新メディアQuantum Bit(公開アカウントID:QbitAI)より許可を得て転載...

機械学習の新たな嵐: ML モデルを使用して住宅価格を予測する方法とは?

この記事は公開アカウント「Reading Core Technique」(ID: AI_Discov...

AIを活用した未来における教育の再考

大学を卒業するデータ サイエンティストの数が依然として不足していますが、今後の AI 革命には、AI...

1 つの記事で NLP 実装の難しさを理解する

[51CTO.comからのオリジナル記事] 近年、自然言語処理技術は徐々に最も広く使用されている人工...

Java ソートアルゴリズムについてどれくらい知っていますか?

今日は、Java のさまざまなソート アルゴリズムについてお話します。以前、上級開発者との面接があり...