2019 年に TensorFlow は王座から退いたのでしょうか?

この記事では、著者は GitHub、Medium の記事、arXiv の論文、LinkedIn などの側面から、さまざまなニューラル ネットワーク フレームワークの開発動向を評価します。

2018 年 9 月、著者は需要、使用状況、人気の面ですべての主要なディープラーニング フレームワークを比較しました。TensorFlow は文句なしのヘビー級チャンピオンであり、PyTorch は高い評価を得ている新星です。

過去 6 か月間で主要なディープラーニング フレームワークはどのように変化しましたか?

[[261797]]

この質問に答えるために、著者らは Indeed、Monster、LinkedIn、SimplyHired の求人情報の数を調べただけでなく、Google 検索ボリューム、GitHub アクティビティ、Medium および ArXiv の記事、Quora トピックのフォロワーの変化も評価しました。これらのリソースを総合すると、需要、使用状況、関心の増加に関する包括的な状況がわかります。

統合とアップデート

ツール自体に関しては、最近、TensorFlow フレームワークと PyTorch フレームワークの両方でいくつかの大きな進歩がありました。

2018 年 10 月に、PyTorch v1.0 がプレリリースされ、fastai v1.0 がリリースされました。両方のリリースは、フレームワークの成熟における大きなマイルストーンとなります。

2019 年 3 月 4 日に TensorFlow 2.0 のアルファ版がリリースされ、いくつかの新機能が追加され、ユーザー エクスペリエンスが向上しました。 TensorFlow 2.0 アルファでは、高レベル API として Keras がより緊密に統合されています。

方法論

Keras と fastai は TensorFlow および PyTorch と緊密に統合されているため、この記事では比較にそれらを含めます。 Keras と fastai は、TensorFlow と PyTorch を評価するための参照評価範囲も提供します。

[[261798]]

この記事では、他のディープラーニング フレームワークについては説明しません。著者は、Caffe、Theano、MXNet、CNTK、PaddlePaddle、DeepLearning4J、または Chainer が議論する価値があることを証明するフィードバックを受け取りたいと考えています。これらのディープラーニング フレームワークにはそれぞれメリットがありますが、成長軌道の点では TensorFlow や PyTorch に近づくものはなさそうです。これらのフレームワークは、TensorFlow や PyTorch と密接に結合されていません。

捜索日は2019年3月20日〜21日でした。ソースデータは Google スプレッドシートにあります。

さまざまなディープラーニングフレームワークの結果を見てみましょう。

オンライン求人情報の変更

現在の求人市場でどのディープラーニング ライブラリが人気があるかを判断するために、著者らは Indeed、LinkedIn、Monster、SimplyHired の求人情報を検索しました。

著者は最初に「機械学習」という用語を検索し、次にフレームワーク/ライブラリ名を検索しました。そこで著者は「機械学習TensorFlow」でTensorFlowを評価します。著者らは歴史的な比較上の理由からこの評価アプローチを採用した。 「機械学習」を含まない検索では、大きな違いは得られませんでした。捜索範囲はアメリカです。

2019年3月の求人件数から6か月前の求人件数を差し引くと、次のようになります。

TensorFlow では、PyTorch よりも求人掲載数の増加がわずかに高くなっています。 Keras の求人件数も増加しており、TensorFlow の約半分の成長率となっています。 FastAI はまだ求人情報に掲載されていません。

LinkedIn を除くすべての求人検索サイトで、PyTorch の求人件数は TensorFlow よりも多いことに注意することが重要です。また、絶対的に見ると、TensorFlow は PyTorch や Keras のほぼ 3 倍の求人情報に掲載されていることにも注目すべきです。

Google検索アクティビティの平均変化

検索エンジンでの Web ページ検索は人気度の尺度となります。著者は過去1年間のGoogleトレンドの検索履歴を調べました。著者らはまた、「機械学習」と「人工知能」のカテゴリーに対する世界的な関心を調査した。 Google は絶対的な検索数を提供しませんが、相対的なデータは提供します。

著者らは、過去 6 か月間とそれ以前の 6 か月間の平均検索関心スコアを比較しました。

過去 6 か月間で、TensorFlow の相対的な検索量は減少し、PyTorch の相対的な検索量は増加しました。

以下のグラフは Google から直接提供されたもので、過去 1 年間の検索関心を示しています。

TensorFlow は青、Keras は黄色、PyTorch は赤、fastAI は緑で表示されます。

新しいMediumの記事

Medium は、データ サイエンスに関する記事やチュートリアルが掲載される人気の場所です。著者は読者が気に入ってくれることを願っています！😃

過去 6 か月間、私は Medium.com の Google サイト検索を使用して、TensorFlow と Keras では公開された記事の数が同程度であるのに対し、PyTorch では比較的少ないことを発見しました。

高レベル API として、Keras と fastAI は新しいディープラーニング実践者の間で非常に人気があります。 Medium には、これらのフレームワークの使い方を説明するチュートリアルが多数あります。

最新のarXiv記事

人気のあるプレプリント論文公開プラットフォームとして、ほとんどの学術的なディープラーニング論文は arXiv で公開されています。著者らは、過去 6 か月間の Google サイト検索結果に基づいて、各フレームワークについて言及している最新の記事を検索しました。

TensorFlow には 3,000 件近くの論文があり、この点で大きな利点があります。最新の AI 論文のほとんどは TensorFlow フレームワークを使用しています (学術コミュニティが PyTorch を好んで使用しているのはどうでしょうか)。

最新の GitHub アップデート

GitHub での最新のアクティビティは、フレームワークの人気を示すもう 1 つの指標です。著者は、以下の図にスター、フォーク、ウォッチャー、貢献者の数をリストしています。

各カテゴリーにおいて、TensorFlow の GitHub アクティビティが最も多かった。ただし、ウォッチャーとコントリビューターの増加という点では、PyTorch は TensorFlow にかなり近いです。さらに、Fastai には多数の新しい貢献者がいます。

間違いなく、Keras の貢献者の一部は TensorFlow ライブラリに取り組むでしょう。 TensorFlow と Keras はどちらも Google 社員が主導するオープンソース製品であることは注目に値します。

新しい Quora フォロワー

著者らは、新しい Quora トピックのフォロワーをグラウンドトゥルースに追加しました。これは、これまでデータがなかった新しいカテゴリです。

TensorFlow は過去 6 か月間で最も多くの新しいトピック フォロワーを追加しました。 PyTorch と Keras は非常に異なります。

著者らは、すべてのデータを追加した後、それを 1 つのメトリックに結合しました。

成長分率プロセス

著者らは成長スコアリングのメカニズムを作成しました。

• すべての特徴は 0 ～ 1 の範囲の値を持ちます。
• 「オンライン求人情報」と「GitHub アップデート」のサブカテゴリを集約します。
• 次のパーセンテージに基づいて重み付けされたカテゴリ。
• 理解度に加重スコア 100 を掛けます。
• 各フレームワークのカテゴリ スコアは、単一の成長スコアに集計されました。

求人情報は総得点の3分の1以上を占め、最も高い割合でした。つまり、お金がものを言うのです。このマルチウェイトアプローチは、さまざまなクラスのバランスをとります。 2018 年の統計と比較すると、この統計には KDNuggets の使用状況調査 (新しいデータはまだ出ていないため) と本の出版 (過去 6 か月間に新しい本はあまり出版されていないため) は含まれていません。

結果：

変更内容を表形式で示します。

対応する Google スプレッドシート:

https://docs.google.com/spreadsheets/d/1Q9rQkfi8ubKM8aX33In0Ki6ldUCfJhGqiH9ir6boexw/edit?usp=sharing

カテゴリーと最終スコアは次のとおりです。

これが最終的な成長スコアです。

TensorFlow は最も需要が高く、最も急速に成長しているフレームワークであり、この傾向は近い将来に変わることはないでしょう。 PyTorch も急速に成長しており、求人需要リストの急上昇がその証拠です。 Keras も過去 6 か月で大きく成長しました。最後に、Fastai はスタート地点が最も低いですが、最も若いため、まだ期待する価値があります。

TensorFlow と PyTorch はどちらも学習する価値のあるフレームワークです。

勉強のヒント

TensorFlow を学習したい場合は、Keras から始めることをお勧めします。対応するコースは、Chollet の「Deep Learning with Python」と Dan Becker の Keras に関する DataCamp コースです。 TensorFlow 2.0 は、高レベル API として tf.keras と Keras を使用します。 Chollet が TensorFlow 2.0 について簡単に紹介しています。

PyTorch を学習したい場合は、fast.ai の MOOC コース「Practical Deep Learning for Coders v3」から始めることをお勧めします。ここでは、ディープラーニング、Fastai、PyTorch の基礎を学びます。

TensorFlow と PyTorch の今後の方向性は何でしょうか?

今後の方向性

「PyTorch は TensorFlow よりも優れている」という声をよく聞きます。実際、PyTorch はより Python 的であり、より統一された API を備えています。推論を高速化するために使用できるネイティブの ONNX モデル エクスポート メカニズムを備えています。さらに、PyTorch と Numpy には多くの共通点があり、学習コストを大幅に削減します。

しかし、Google のチーフ インテリジェント デシジョン エンジニアである Cassie Kozyrkov 氏が述べたように、TensorFlow はバージョン 2.0 でユーザー エクスペリエンスの改善において大きな進歩を遂げました。 TensorFlow には、より直接的な API、完全に統合された Keras、および積極的な実行オプションが追加されました。これらの変更と TensorFlow のユーザー ベースにより、このフレームワークは今後も引き続き人気を維持することになります。

TensorFlow は最近、もう 1 つのエキサイティングな取り組みとして、TensorFlow for Swift の開発を発表しました。 Swift はもともと Apple が推進したプログラミング言語です。実行速度と開発速度の点で、Swift は Python に比べて多くの利点があります。 Fast.ai は、上級 MOOC コースで TensorFlow に Swift を使用します。この言語は今後 1 ～ 2 年で本格的に使用できるようになるまでには至らないかもしれませんが、この開発は現在のディープラーニング フレームワークにとって非常に有益となる可能性があります。

言語とフレームワークの融合が起こっています。

ディープラーニング フレームワークにすぐに影響を与えるもう 1 つの分野は、量子コンピューティングです。実用的な量子コンピュータは数年以内に登場しそうで、Google、IBM、Microsoftなどの企業が量子コンピューティングとディープラーニングの統合を模索している。フレームワークはこれらの新しいテクノロジーに適応する必要があります。

結論

統計を見ると、TensorFlow と PyTorch はどちらも急成長を遂げているニューラル ネットワーク フレームワークであることがわかります。どちらも、ディープラーニングへの参入障壁を下げる高レベル API (tf.keras と fastai) を備えています。さらに、将来の開発の方向性もいくつか見えてきました。

記事内のデータと Jupyter Notebook を取得したい場合は、Kaggle Kernel にアクセスしてください。

https://www.kaggle.com/discdiver/2019-deep-learning-framework-growth-scores

オリジナルリンク:

https://towardsdatascience.com/どのディープラーニングフレームワークが最速で成長しているのか-3f77f14aa318

[この記事は51CTOコラム「Machine Heart」、WeChatパブリックアカウント「Machine Heart（id:almosthuman2014）」によるオリジナル翻訳です]

この著者の他の記事を読むにはここをクリックしてください