錬金速度×7! MacでもPyTorchトレーニングでGPUアクセラレーションを利用できます

錬金速度×7! MacでもPyTorchトレーニングでGPUアクセラレーションを利用できます

この記事はAI新メディアQuantum Bit(公開アカウントID:QbitAI)より許可を得て転載しています。転載の際は出典元にご連絡ください。

これまでのところ、Pytorch は Mac での CPU トレーニングのみをサポートしています。

ちょうど今、Pytorch は最新バージョン v1.12 がGPU アクセラレーションをサポートできることを正式に発表しました。

M1シリーズチップを搭載したMacであれば大丈夫です。

つまり、Mac で「エリクサーを作る」には Pytorch を使う方が便利になります。

トレーニング速度は約7倍に向上します

この機能は、Pytorch と Apple の Metal エンジニアリング チームの協力により実現しました。

AppleのMetal Performance Shaders (MPS)を使用しています  PyTorch のバックエンドとして機能し、GPU アクセラレーション トレーニングを可能にします。

計算パフォーマンスを最適化するために、MPS は Metal GPU ファミリの固有の特性に合わせて各コアを微調整します。

Metal は OpenGL に似たフレームワークですが、OpenGL はさまざまなプラットフォームでのモバイル GPU レンダリングとコンピューティングに適しているのに対し、Metal は iOS/MacOS プラットフォーム専用ですが、パフォーマンスと使いやすさも考慮されています。

MPS は、Metal フレームワークに基づくライブラリであり、グラフィック処理、畳み込みニューラル ネットワークの構築、その他のタスクに GPU の高パフォーマンスを利用するために直接呼び出すことができます。

Appleは、M1 Ultra、20コアCPU、64コアGPU、128GB RAM、2TB SSDを搭載したMac Studioで公式にテストしました。

(このラインナップは、ほとんど贅沢な構成と言えます)。

彼らはそれぞれ、バッチサイズ 128 でResNet50 、バッチサイズ 64 でHuggingFace BERT 、バッチサイズ 64 でVGG16 をトレーニングしました。

下の図から、CPU アクセラレーションと比較して、GPU を使用するとモデルのトレーニング速度が約 7 倍、評価速度が最大約 20 倍向上することがわかります。

これを見て、一部のネットユーザーは、そのパフォーマンスがNvidia GPUを搭載したラップトップと比べてどうなのか疑問に思い始めました。

M1 の現在の純粋なコンピューティング性能は Nvidia 製品ほど優れていないものの、消費電力は依然として優れていると言う人もいます。今後、Apple がパフォーマンス面で徐々に追いつく可能性が非常に高いです。

全体的に、 Mac Studio は今のところかなり素晴らしいようです

彼はさらにこう説明した。

「結局のところ、これは128GB の GPU メモリを搭載し、4,800 ドルで購入できる最も安価なマシンです。GPU アクセラレーションの PyTorch サポートにより、大規模なモデルのトレーニングや大規模なバッチ サイズの構成に使用できます。」

私が行っているような DL 作業では、実際の計算能力よりもデータの読み込みがボトルネックになる可能性が高くなります。 ”

感動しましたか?

今すぐ試してみませんか?

macOS オペレーティング システムがバージョン 12.3 以上であり、arm64 ネイティブ Python がインストールされていることを確認してから、公式 Web サイトにアクセスして最新の Pytorch プレビュー バージョンをダウンロードしてください。

住所:
https://pytorch.org/blog/introducing-accelerated-pytorch-training-on-mac/

<<:  産業規模は500億に迫る。産業用ロボット業界は今後何をすべきか?

>>:  人工知能が金融市場をどう変えるのか

ブログ    
ブログ    

推薦する

...

推薦システムに関する6つの衝撃的な「秘密」

1990年代にレコメンドシステムが誕生して以来、2024年時点で32年の開発の歴史があります。過去...

マッキンゼー:2024年にGenAIが人工知能のビジネス界を支配する

人工知能(AI)は2023年に世界的な革命を引き起こし、多くの企業がこの高度なテクノロジーを自ら習得...

...

2020年の人工知能業界に関する7つの予測

ついに2020年が到来しました。これは、火星探査、バイオニックロボット、自動運転、遺伝子編集、複合現...

デジタルワールドが未来を予見するファバルタ製品・ユーザーカンファレンスが大盛況のうちに開催

9月19日、大手AIインフラ企業であるFabartaは、北京で初の製品およびユーザーカンファレンスを...

...

...

...

新たなAI詐欺事件が発覚! 「人工知能」は「インテリジェントな人工知能」ほど優れていないのでしょうか?

AIが「コーダー」に取って代わるという現実はまだ実現していないが、その逆を行い、コーダーを使ってA...

単眼輝度画像を用いた顔深度マップ推定のための敵対的アーキテクチャによるディープラーニング

本論文では、単眼輝度画像から顔の深度マップを推定する敵対的アーキテクチャを提案する。 画像対画像のア...

...

インテリジェントコンピューティングセンター構築の「サンゴ礁」と「灯台」

インテリジェント コンピューティング センターを「誰でもアクセス可能かつ無料」にする時が来ています。...

AIに感情を与えることは本当に重要なのでしょうか?

「合成感情」は人工知能の発展を妨げるのか?私たちは他の人とコミュニケーションをとるとき、通常は直接...

...