TensorFlow が新旧 Mac 向けに新バージョンをリリース、最大 7 倍高速化

Apple の「1 回の呼び出しで 100 の応答」というアピールは、機械学習の分野でも例外ではないようです。 Macの新バージョンが発売されてから2週間も経たないうちに、GoogleはMac向けに最適化されたTensorFlowのバージョンを完成させました。これにより、トレーニング速度が最大7倍向上します。

Mac は、開発者、エンジニア、科学研究者にとって常に非常に人気のあるプラットフォームです。Mac を使用してニューラル ネットワークをトレーニングする人もいますが、トレーニング速度は常に頭痛の種でした。

先週、Apple は Arm アーキテクチャ M1 チップを搭載した 3 種類の新しい Mac をリリースしましたが、ニューラル ネットワークをより速くトレーニングできるのかと疑問に思う人もいます。

本日、主流の機械学習フレームワーク TensorFlow は次のような声明を発表しました。「Mac ユーザー向けに最適化された TensorFlow 2.4 フレームワークのバージョンを特別に作成しました。これは M1 バージョン Mac と Intel バージョン Mac の両方で使用できます。」この動きにより、モデルのトレーニングと展開のハードルが大幅に下がることが期待されます。

これまで、Mac では TensorFlow はトレーニングに CPU の使用のみをサポートしていましたが、新しい tensorflow_macos ブランチでは Apple の ML Compute を使用して GPU も使用できるようになりました。 「レイヤーの融合、適切なデバイスタイプの選択、グラフをプリミティブとしてコンパイルするなどの高レベルの最適化を使用しており、これらはCPU上のBNNSとGPU上のMetal Performance Shadersによって実行および高速化されます」とAppleはブログ投稿で述べている。

ML Compute は、今年 Apple がリリースした新しいフレームワークで、Mac 上で TensorFlow モデルをトレーニングするために使用できます。現在、新しい M1 Mac と古い Intel Mac の CPU と GPU の両方を使用してトレーニングを高速化できます。

M1 チップには、新しい 8 コア CPU と最大 8 コアの GPU が搭載されており、Mac での機械学習トレーニング タスクに最適化されています。次の 2 つのグラフは、さまざまなモデル トレーニングにおける Mac 向けに最適化された TensorFlow 2.4 のパフォーマンス向上を示しています。

上の図は、それぞれ M1 および Intel チップを搭載した 13 インチ MacBook Pro で ML Compute を使用して機械学習のトレーニングを行っている様子を示しています。列の高さは、単一バッチのトレーニング時間を表します。最適化されたMac版TensorFlow 2.4のトレーニング速度が大幅に向上していることがわかります。新しい M1 バージョンの MacBook Pro に切り替えた後、改善はさらに顕著になり、トレーニング速度が最大 7 倍向上しました。

また、ML Compute を使用して、Intel チップを搭載した 2019 Mac Pro で一般的なモデルをトレーニングしたところ、パフォーマンスが大幅に向上しました。

TensorFlow の担当者は、ML Compute を TensorFlow および TensorFlow プラグインのバックエンドとして使用するために、ユーザーは既存の TensorFlow スクリプトに変更を加える必要はないと述べています。

Mac 版 TensorFlow 2.4 の詳細な入門ガイドは、https://github.com/apple/tensorflow_macos でご覧いただけます。

M1バージョンのMacが機械学習ユーザーに与える影響

Appleは記者会見で、M1チップがMacにAppleのニューラルネットワークエンジンを導入し、機械学習タスクの15倍の高速化を実現したことを発表した。ニューラル ネットワーク エンジンには 16 個のコアがあり、1 秒あたり最大 11 兆回の演算を実行できます。さらに、ML アクセラレータと強力な GPU (統合グラフィック カードの中では優位であり、一部のディスクリート グラフィック カードに匹敵) を搭載した CPU により、M1 チップ全体の機械学習機能も大幅に強化されます。

画像ソース: https://medium.com/disruptive-nerd/how-is-the-apple-m1-going-to-affect-machine-learning-2d9da1beef86

パフォーマンスの向上は間違いありませんが、ソフトウェアの互換性も大きな問題です。 Mac の M1 バージョンがリリースされた後、多くの開発者から「VS Code/Docker/Juypter Notebook は新しい Mac でも使用できますか?」という質問が寄せられています。

VSCode: 今月末までに準備完了予定

Appleの記者会見の直後、Microsoft VS Codeチームは「VS CodeはMacのARMバージョンをサポートし、最初のプレビューバージョンは11月末にリリースされる可能性がある」というメッセージを投稿した。

Mac/ARM64 試用版アドレス https://code.visualstudio.com/insiders/#osx

さらに、マイクロソフトは、新しいバージョンの Apple プロセッサをサポートする新しいユニバーサルバージョンの Mac Office 2019 をリリースすることも発表しました。

Docker: 計画中だがまだ準備ができていない

11月16日のブログ投稿で、Docker開発者は、MacのM1バージョンでDockerを実行する準備がまだできておらず、それまでに多くの準備が必要だと述べた。

Docker は、「Docker の目標は、現在 Docker Desktop for Mac で提供しているのと同じ素晴らしい体験を新しい Mac でも提供し、その移行を可能な限りシームレスにすることです」と述べています。「お客様にとって適切な体験を構築するには、バージョンをリリースする前に多くのことを正しく行う必要があります。Apple は、アプリケーションを新しい M1 チップに移行できるように Rosetta 2 トランスレータをリリースしましたが、これでは Docker Desktop を完全に実現することはできません。」

Juypter Notebookなどのソフトウェアに関しては、まだ公式のニュースは発表されていません。しかし、Apple がエコシステムの開放を続けるにつれて、M1 バージョンの Mac と互換性のある新製品を開発する意向を表明するソフトウェア開発者が増えています。