機械学習について昨日、今日、そして明日に語りましょう

機械学習

• 今日、機械学習は、そのアルゴリズムの1つであるディープラーニングの優れたパフォーマンスを誇っています。

• なぜなら、機械学習について話すとき、まずディープラーニングについて考える人がいるからです。機械学習はディープラーニングだと思っている人さえいます。

ディープラーニングは機械学習のアルゴリズムの1つに過ぎない

• 現在、ディープラーニングは、畳み込みニューラル ネットワーク、再帰型ニューラル ネットワーク、およびそれらから派生したネットワークを使用して、空間的および時間的なタスクで優れた結果を達成しています。

• ただし、機械学習のタスクはこれら 2 つのタスクに限定されず、価格推定、財務定量化、株価予測なども含まれます。

• ディープラーニング以外にも、SVM、XGboost、その他の便利なアルゴリズムなど、多くの機械学習手法があります。
• 進化的アルゴリズム探索ニューラルネットワーク

ディープラーニングの台頭

[[391620]]

データ

• データ量が多いほど、ニューラル ネットワークのスケーラビリティが向上します。ニューラル ネットワークのサイズと深さを調整して、より有用な情報を学習します。他の学習モデルには上限があります。

[[391621]]

ハッシュレート

• GPU の登場により、多数の並列行列演算を実行できるようになりました。ニューラル ネットワークの計算のほとんどは、特にトレーニング段階では GPU 上で実行されます。

固執する

• Yoshua Bengio、Geffrey Hiton、Yann Lecun の継続的な努力と粘り強さのおかげで、ディープラーニングが可能になりました。

ディープラーニングの応用分野

コンピュータビジョン

• Yann Lecun 氏が covNet を提案し、その後 AlexNet によって精度が大幅に向上しました。

2016 年までに、ニューラル ネットワークによって imageNet データセットのエラー率が 3% に削減されました。これは、人間による分類タスクのエラー率 5% よりも低い値です。

• 現在、ニューラル ネットワークはコンピューター ビジョンの成熟段階に入っています。ほとんどのニューラル ネットワークでは、依然として ResNet と VGG が基本ネットワークとして使用されています。

• 画像の生成はGANによって実現されます。画像が作成できたときのみ、機械が画像の意味を真に理解したとみなすことができます。存在しない人物のウェブサイトは、実在の人物と区別がつかない人物の画像を生成します。

[[391625]]

• カプセルネットワークと適応型ニューラルネットワークが提案されている

[[391626]]

自然言語モデル

初期のリカレントニューラルネットワークはタイミングの問題に対処するために使用できる

自然言語モデル

• 初期のリカレントニューラルネットワークはタイミングの問題に対処するために使用できる

• LSTM と GRU は、リカレント ニューラル ネットワークにおける勾配拡散の問題を解決するためのゲーティング メカニズムを追加し、ストレージ ユニットの書き込みと読み取りを制御することで、リカレント ニューラル ネットワークをより合理的で使いやすくします。

• セルフアテンションは、シリアルからパラレルまで、巡回ニューラルネットワークを実現できます。セルフアテンションは、シーケンス内のどの値にもっと注意を払うかに注意を割り当てることで、現在の出力を制御します。

• Transform と BERT がすべての自然言語ランキングを更新

[[391628]]

• GPT-2が登場したとき、Open AIはそのパフォーマンスがあまりにも優れていると考えたため、オープンソース化しませんでした。

• 最近、Google は XLNet を立ち上げ、自然言語処理の分野に再び衝撃を与えました。

グラフ畳み込み (GNN)

• ディープラーニングは多くのユークリッド空間データを解きますが、現実世界の数字がすべてユークリッド空間に存在するわけではなく、実体間には一定の関係性があります。

[[391629]]

• 人間の情報は構造の中に存在しており、私たちはエンティティ間の関係性を分析することで構造情報を掘り起こしたいと考えています。

[[391630]]

• グラフ畳み込みは現在、推奨システム、ソーシャル ネットワーク、輸送ネットワーク、ロジスティクスなどで使用されています。

[[391631]]

• グラフ畳み込みは下流のタスクにさらに有益なデータを提供することができる

強化学習 (RL)

[[391632]]

• 人工知能は世間の注目を集めました。アルファ碁が人間の世界チャンピオンに勝利したのを見て、人々は自分の将来を心配し始めました。

• 人工知能は世間の注目を集めました。アルファ碁が人間の世界チャンピオンに勝利したのを見て、人々は自分の将来を心配し始めました。

[[391633]]

• タオバオの推奨システム、滴滴出行システム、自動運転はいずれも意思決定を支援するために強化学習を導入し始めている。