Yann LeCun 氏は衝撃的な発言をしました。「ディープラーニングは死んだ、微分可能プログラミング万歳！」

ディープラーニングの分野で最も有名な学者の一人であるヤン・ルカン氏が本日、自身のFacebookに投稿した短い記事が、国内の人工知能ファンの友人の輪に瞬く間に火をつけた。このダイナミクスとは何でしょうか?なぜこのような騒動が起きたのでしょうか?

よく言われるディープラーニングとは、あらゆるディープラーニングアルゴリズムの総称であり、畳み込みニューラルネットワークは画像処理分野におけるディープラーニングアルゴリズムの応用です。 Yann LeCun は畳み込みニューラル ネットワークの創始者であり、「畳み込みニューラル ネットワークの父」としても知られています。畳み込みニューラル ネットワークの出現が人工知能の発展に与えた影響については、特に説明する必要はないでしょう。今回はヤン・ルカンのツイートがあっという間に広まりました。「畳み込みニューラルネットワーク」より重要な学術的成果はあるのでしょうか？ LeCun氏が推進するコンテンツを国内の読者に知らせるため、Leifeng.comの編集者がツイートをまとめた。

まず、とてもキャッチーな英語とフランス語の慣用句から始まります。

ディープラーニングは死にます。微分可能プログラミング万歳！

中国語に翻訳すると、次のようになります: ディープラーニングは死に、微分可能プログラミング万歳!

なぜこの声明を強調するのでしょうか?ディープラーニング アルゴリズムは、人工知能の多くの分野の基礎となるフレームワークですが、なぜ廃止されてしまったのでしょうか?その後、読み進めていくと、LeCun 氏は「ディープラーニング」という用語は死に絶えており、新しい用語に置き換える時期が来ていると述べていることに気付きました。

LeCun 氏が言及した新しい用語は、微分可能プログラミングです。

同氏はツイートの中で、「微分可能プログラミング」は現代のディープラーニング技術の新しい名前に過ぎず、ニューラルネットワークが2つ以上の隠れ層を持っていた頃に「ディープラーニング」と呼ばれていたのと似ていると説明した。現代のディープラーニング技術では、「ディープラーニング」という用語はもはや適切ではありません。

彼はまたこうも書いている。

しかし、重要なのは、機能モジュールのパラメータ化されたネットワークを組み立て、ある種の勾配ベースの最適化手法を使用してそれらをトレーニングすることで、新しい種類のソフトウェアを構築しているということです。

入力データに基づいて動的に変更されるように、データに依存する方法 (ループと条件) でプログラム的にネットワークを定義する人が増えています。これは、パラメータ化され、自動的に微分化可能、トレーニング可能、最適化可能である点を除いて、通常のプログラムと非常によく似ています。 PyTorch や Chainer などのディープラーニング フレームワークのおかげで、動的ネットワークはますます人気が高まっています (特に NLP の場合) (注: 1994 年には、以前のディープラーニング フレームワーク Lush は、テキスト認識用の Graph Transformer Networks と呼ばれる特殊な種類の動的ネットワークを処理できました)。

命令型微分可能プログラミング言語用のコンパイラの開発に関する研究が活発に行われており、これは学習ベースの AI を開発するための非常にエキサイティングな手段です。

***、LeCun 氏はまた、「ディープラーニング」を「微分可能プログラミング」に名前を変更するだけでは不十分であり、「予測学習」を「帰納的学習」に変更するなど、他の概念も変更する必要があると強調しました。彼は後でもっと話すと言った...（読者は他に何に名前を変更する必要があるか考えるのを手伝ってください。この文はLeifeng.comによって追加されました）。 LeCunの最新情報をフォローしましょう！

LeCun の Facebook のスクリーンショット: