このスタートアップは、アイドル状態のGPUを分散ネットワークに接続することで、AIモデルのトレーニングコストを90%削減できると主張している。

このスタートアップは、アイドル状態のGPUを分散ネットワークに接続することで、AIモデルのトレーニングコストを90%削減できると主張している。


モンスターAPIは、採掘機器などのGPUコンピューティングパワーを使用してAIモデルをトレーニングします。

GPU は、ビットコインなどの暗号通貨のマイニングによく使用されますが、これは大量の計算能力を必要とするリソース集約型のプロセスです。

かつて暗号通貨の流行により市場でGPUが不足し、価格が高騰したため、企業や個人はゲーム業界向けにNvidiaが提供するGPUに目を向け、それを暗号通貨マイニング機器専用のGPUに変えました。

しかし、暗号通貨の流行が収まるにつれ、多くの暗号通貨マイニング機器がシャットダウンされたり、放棄されたりしました。これにより、Monster API の創設者 Gaurav Vij 氏は、これらのデバイスを再利用して、AI ベースのモデルのトレーニングと実行という最新のコンピューティング集約型開発のトレンドに適応させることができることに気付きました。

これらの GPU は、AWS や Google Cloud などで導入されている専用の AI 機器ほどのパワーはないものの、クラウド コンピューティング プロバイダーが使用するハイパースケール コンピューティング機器を使用する場合の数分の 1 のコストで、最適化されたオープン ソース モデルをトレーニングできると Gaurav Vij 氏は述べています。

「機械学習の分野では、需要が供給を上回っているため、コンピューティング能力の不足に苦しんでいます」と、Monster API の共同創設者 Saurabh Vij 氏は語ります。「現在、機械学習の開発者のほとんどは、リソースとして AWS、Google Cloud、Microsoft Azure に依存していますが、その結果、多額のコストがかかります。」

分散コンピューティングパワーネットワークは、AI基本モデルのトレーニングコストを大幅に削減できます。

実際、未使用の GPU は、暗号通貨マイニング装置だけでなく、PlayStation 5 などのゲーム システムや小規模なデータ センターにも存在します。 「暗号通貨マイニング装置はGPUを使用し、ゲームシステムはGPUを使用し、GPUは年々強力になっています」とサウラブ・ヴィジ氏は語った。

企業や個人のコンピューティング能力は、分散ネットワークに統合される前に、データ セキュリティ チェックを含む一連のプロセスを経る必要があります。需要側は需要に応じて設備を追加し、コンピューティングパワーネットワークを拡大および縮小します。サプライヤーは、未使用のコンピューティング能力を販売することで収益の一部を得ることができます。

サウラブ・ヴィジ氏は、分散コンピューティングシステムによって AI ベースのモデルのトレーニングコストが削減され、将来的には資金力のある大手テクノロジー企業だけでなく、オープンソースや非営利団体でもトレーニングできるようになると強調した。 「AI インフラストラクチャ モデルの構築に 100 万ドルかかるのに対し、当社のような分散型ネットワークは 10 万ドルしかかかりません。」

Geek.com は、Monster API がモデルを微調整するための「ノーコード」ツールも提供し、技術的な専門知識やリソースを持たないユーザーにも開放されているため、モデルをゼロからトレーニングでき、コンピューティング能力と AI ベースのモデルがさらに「民主化」されていることを知りました。

「多くの開発者はモデルをゼロからトレーニングするための十分なデータと資金を持っていないため、微調整は非常に重要です。」と彼は述べ、最適化を通じて、Monster API は微調整のコストを 90% 削減し、各モデルの微調整コストを約 30 ドルにしたと述べました。

オープンソースのモデルトレーニングは、開発者がAIで革新するのを助けます

AI 開発者は、これらのトレーニング モデルとオープン ソースに直接影響を与える可能性のある差し迫った規制に直面していますが、Saurabh Vij 氏はオープン ソース モデル トレーニングにプラスの面があると考えています。 Monster API は、潜在的なリスクを管理し、分散型ネットワーク内で「追跡可能性、透明性、説明責任」を確保する必要性を認識しています。

「短期的には規制当局が勝つかもしれないが、私はオープンソースコミュニティに大きな信頼を置いており、オープンソースコミュニティは非常に急速に成長している。Postman(API開発プラットフォーム)には2500万人の開発者が登録しており、その多くが生成型AIを構築しており、それがすべての人にとって新しいビジネスと新しい機会の扉を開く」と同氏は語った。

Geek.com は、Monster API が低コストの AI モデルをトレーニングすることで、開発者がイノベーションのために機械学習を最大限に活用できるようにすることを目指していることを知りました。現在、微調整可能な有名な AI モデル (Stable Diffusion や Whisper など) がいくつか用意されています。さらに、ユーザーはこれらの GPU コンピューティング能力を使用して、独自の AI ベース モデルをゼロからトレーニングすることもできます。

サウラブ・ヴィジ氏は次のように語った。「私たちはMacBook上でテキストと画像の生成に関する実験を行っており、1分間に少なくとも10枚の画像を出力できます。何百万台ものMacBookをインターネットに接続し、ユーザーがMacBookを使ってStable Diffusion、Whisper、その他のAIモデルを実行し、寝ている間に利益を得られるようしたいと考えています。」

「最終的には、プレイステーション、Xbox、Macbook、さらにはテスラ車も強力なコンピューティングリソースになるでしょう。テスラ車も強力なGPUを使用しており、ほとんどの時間ガレージに駐車されているからです」とサウラブ・ビジ氏は付け加えた。

<<:  Googleが生成AIをオンラインショッピングに適用、実在のモデルが高精度な仮想衣装着せ替えを実現

>>:  テンセントのロボット犬が本物の犬の仕事を奪う!彼は楽しくゲームをしたり、歩き回ったりすることができます。

ブログ    
ブログ    
ブログ    
ブログ    

推薦する

緩い時代は終わった:米国の自動運転規制環境は静かに厳格化している

米国の自動運転業界を取り巻く規制環境は静かに変化しつつある。過去10年間、米国は世界の自動運転分野に...

2022 RPA認定ランキング

ロボティック・プロセス・オートメーション (RPA) は、ビジネス プロセスの合理化に役立つ重要なテ...

人工知能はサイバー犯罪をより容易かつ頻繁にしている、と研究が指摘

8月10日、サイバーセキュリティ企業SlashNextが発見した一連の証拠から、違法目的で開発された...

顔認識は政治的立場を決定できるか?研究者:本当ですよ!正解率は72%にも達する

アメリカのテクノロジーウェブサイト「ベンチャービート」が1月12日に報じたところによると、米スタンフ...

OpenAIがChatGPT Enterprise Editionをリリース、より高いセキュリティとプライバシー保護を実現

8月29日、OpenAIは、企業ユーザーのニーズを満たし、より高いセキュリティとプライバシー保護を提...

ディープラーニングのためのヘテロジニアスアクセラレーション技術(I):AIにはどれくらい大きな「心」が必要か?

1. 概要: 一般的 = 非効率的汎用プロセッサであるCPU(中央処理装置)は、コンピュータに欠か...

米国の自動車所有者調査:自動運転車に楽観的な自動車所有者が増えている

一般の人々は自動運転車についてどう思っているのだろうか?市場調査会社CarGurusは最近、将来の自...

説明可能なAIと説明可能な機械学習:ブラックボックスに光を当てる

人工知能(AI)や機械学習の分野では、「ブラックボックス」という概念が常に大きな注目を集めています。...

無人RV、全電動、未来は明るい

科学技術の急速な発展は、自動車産業の技術進歩を直接的に推進してきました。自動運転は自動車と技術の結晶...

ネット全体が「被験者3」を真似し、メッシ、アイアンマン、二次元の女の子が即勝利

最近、「被験者 3」について多かれ少なかれ耳にしたことがあるかもしれません。握手、軽く捻挫した足、リ...

モノのインターネットにおけるAIの役割

[[380960]]私たちの周りのすべてのものが知的になることを考えたことはありますか?ガジェットは...

ChatGPT は検索エンジンに取って代わることができますか?

ChatGPT は、いくつかの簡単な問題のタスクを完璧に完了できます。しかし、AI に記事全体を書...

仕事の脅威? AIはマーケティング担当者の仕事を奪うのでしょうか?

先週、コピーライターのパネルがAIによってコピーライターの必要性がなくなるかどうかを議論した。一部の...

Appleの会話型AI予算は1日あたり数百万ドルに拡大

海外メディアは9月7日、事情に詳しい関係者の話として、アップルが人工知能の構築に必要なコンピューティ...