AI リサーチ インスティテュートが 2021 年の AI 技術トレンド トップ 10 を発表

[[374480]]

12月31日、AI研究所は2020年のAIの進歩トップ10を発表しました。新年、人工知能はどこへ向かうのでしょうか?

2021年の初め、知遠のすべての学者は、人工知能の基礎理論、アルゴリズム、脳のようなコンピューティング、コンピューティングパワーのサポートの側面から詳細な議論と予測を行いました。彼らは2021年の人工知能のトップ10の技術トレンドを提案し、人工知能の将来の発展方向を共同で期待しました。

人工知能技術が徐々に成熟するにつれ、ポストパンデミック時代のさまざまな不確実性に人類がよりうまく対処し、希望と変化に満ちた世界を築くのに役立つようになると私たちは信じています。

トレンド 1: 科学計算におけるデータとメカニズムの融合モデリング

トレンド2: ディープラーニング理論が統合とブレークスルーをもたらした

トレンド3: 機械学習は分散型プライバシー保護に向けて進化する

トレンド4：大規模な自己教師あり事前トレーニング手法のさらなる開発

トレンド5: 因果学習に基づく情報検索モデルとシステムが重要な開発方向となる

トレンド6: 脳のようなコンピューティング システムは、徐々に「特殊」から「汎用」へと進化しています。

トレンド7: 脳のようなコンピューティングは、散在する独立した研究から多点反復開発へと移行している

トレンド8: ニューロモルフィックハードウェア機能のさらなる研究と、より高度なインテリジェントシステムの実現への活用

トレンド9: AIは脳構造のインスピレーションから構造と機能の両方のインスピレーションへと移行

トレンド10: AIコンピューティングセンターはインテリジェンスの時代の重要なインフラとなる

以下はトップ10のトレンドの概要です。 「知源研究院」公式アカウントをフォローし、バックグラウンドで「2021年のトレンド」と返信すると、完全なレポートをダウンロードできます。

トレンド 1: 科学計算におけるデータとメカニズムの融合モデリング

機械学習と科学計算の組み合わせ、つまりデータとメカニズムの融合計算は、科学研究に新たな手段とパラダイムを提供し、最先端コンピューティングの典型的な代表となっています。メカニズムに基づくモデリングは基本的な物理法則に基づいて簡潔で美しい表現を追求し、データに基づくモデリングはデータから法則を要約し、実際の応用効果を追求します。モデリングの両方の側面は、科学の歴史において重要な役割を果たしてきました。

近年、科学計算の発展における重要な傾向として、メカニズムやデータのみに基づくパラダイムから、データとメカニズムを統合するモデリングおよびコンピューティングのアプローチへの移行が挙げられます。多くの最先端の科学分野における多くの重要な問題には、異なる時間および空間スケールで発生する複数の相互に結合した物理プロセスが含まれることが多く、高い異方性、特異性、不均一性、および不確実性が特徴です。人間が知ることのできるのは、いくつかの原理とデータだけです。現時点では、メカニズムとデータの組み合わせが、これらの問題を研究する強力な手段となるでしょう。

トレンド2: ディープラーニング理論が統合とブレークスルーをもたらした

ディープラーニングは応用分野で目覚ましい成功を収めていますが、その理論的根拠はまだ非常に弱く、ディープラーニングが従来の機械学習手法よりも優れたパフォーマンスを発揮するメカニズムについては研究者もまだ解明していません。ディープラーニングの理論的分析には、表現能力、一般化能力、アルゴリズムの収束と安定性などの複数の側面に加えて、数学、統計、コンピューティングのさまざまな観点からの探求と革新が必要です。ディープラーニング理論に対する現在の断片的な理解がさらに統合され、突破され、浅いネットワークとローカルな特性から深いネットワークとグローバルな特性への理解が深まり、最終的にはディープラーニングの能力と限界に関する主要な理論的疑問に完全に答えることになります。

トレンド3: 機械学習は分散型プライバシー保護に向けて進化する

現在、世界中の多くの国や地域では、HIPAA（米国の医療保険の携行性と責任に関する法律）やGDPR（欧州連合の一般データ保護規則）などのデータ監視法や規制が導入されており、厳格な規制によって複数の機関間でのプライバシーデータのやり取りが制限されています。分散型プライバシー保護機械学習は、暗号化と分散ストレージを通じて機械学習モデルトレーニングの入力データを保護します。これは、データサイロを解消し、複数の機関間で共同トレーニングとモデリングを完了するための実現可能なソリューションです。

トレンド4：大規模な自己教師あり事前トレーニング手法のさらなる開発

GPT-3の出現は、研究者らが視覚などより広い範囲で大規模な自己教師あり事前トレーニング手法の探求と研究を続けるきっかけとなった。今後は、画像、音声、動画、クロスランゲージなどの大規模マルチモーダルデータに基づく自己教師あり事前トレーニングモデルがさらに開発されるだろう。研究者らはまた、現在の大規模自己教師あり事前トレーニングモデルの認知能力の欠如などの問題を解決する方法も模索し続けるだろう。

トレンド5: 因果学習に基づく情報検索モデルとシステムが重要な開発方向となる

人工知能アルゴリズムは、推奨システムや検索エンジンなどのインテリジェント情報検索システムの中核技術であり、何億人ものインターネット製品ユーザーの仕事と生活に大きな影響を与えます。人工知能アルゴリズムに基づく現在の情報検索モデルは、与えられたデータ内の変数間の相関関係を確立することに主に焦点を当てています。しかし、相関関係はより基本的な因果関係と同じではないため、現在の情報検索の結果に重大な偏差が生じ、攻撃に対する抵抗力が低下し、モデルの解釈可能性が欠如することがよくあります。

トレンド6: 脳のようなコンピューティング システムは、徐々に「特殊」から「汎用」へと進化しています。

脳型コンピューティングチップを中核とするさまざまな脳型コンピューティングシステムは、特定のインテリジェント問題の処理や低電力インテリジェントコンピューティングにおいて徐々にその優位性を示しつつあります。しかし、設計方法の観点から見ると、脳型チップは、対象アプリケーションの要件に応じて誘導によってハードウェア機能とインターフェースを決定し、ツールチェーンソフトウェアをカスタマイズすることが多く、ハードウェアとソフトウェアの密結合や対象アプリケーションの範囲が限られるなどの問題が生じます。

脳に着想を得たコンピューティング チップの設計では、既存のプロセッサの設計方法論と開発履歴からインスピレーションを得て、計算の完全性とアプリケーション要件の理論に基づいて完全なハードウェア機能を実現します。同時に、脳型コンピューティング基本ソフトウェアは、既存の脳型コンピューティングプログラミング言語とフレームワークを統合し、特定のチップに依存しない高レベルのプログラミング抽象化と統一開発フレームワークを提案し、対象チップ向けの脳型コンピューティングコンパイル最適化とマッピング最適化技術を開発し、脳型コンピューティングシステムの「特殊」から「汎用」への段階的な進化を実現します。

トレンド7: 脳のようなコンピューティングは、散在する独立した研究から多点反復開発へと移行している

脳型コンピューティングは多くの面で多くの基礎研究成果を達成していますが、現在の研究はまだ比較的独立的で狭い垂直分布特性を示しており、相互に強化し合う水平浸透状況はまだ形成されていません。今後、脳型コンピューティングは、単一点の独立した研究と他のレベルの研究を組み合わせることにさらに重点を置き、脳型コンピューティングの基礎理論アルゴリズム、チップハードウェアプラットフォーム、評価およびテストベンチマーク、プログラミングおよびコンパイルツール、システムアプリケーションの相互調整と推進を促進し、よりフルスタックの脳型コンピューティング反復開発エコシステムを構築し、健全な進歩の軌道に乗ります。

トレンド8: ニューロモルフィックハードウェア機能のさらなる研究と、より高度なインテリジェントシステムの実現への活用

RRAM（抵抗変化型RAM）やPCM（相変化メモリ）などの新しいニューロモルフィックデバイスは、人工知能の分野で重要な役割を果たしています。これらのデバイスに基づいて構築されたインテリジェントハードウェアシステムは、インテリジェントアルゴリズムの実行速度とエネルギー効率を効果的に向上させ、アルゴリズムのパフォーマンスを維持することができます。

しかし、現在のハードウェア インテリジェント システムのほとんどは、不揮発性や線形性などのニューロモルフィック デバイスの一部の特性のみを利用しており、揮発性、非線形性、ランダム性などのデバイスのより豊富な特性の応用が欠けています。次世代のインテリジェント システムは、デバイスの包括的な調査を通じて、アルゴリズムのさまざまな要件とデバイスの豊富な特性を密接に組み合わせ、インテリジェント システムの機能と適用範囲をさらに拡大し、システムのパフォーマンスと効率を向上させます。

トレンド9: AIは脳構造のインスピレーションから構造と機能の両方のインスピレーションへと移行

脳に着想を得た人工知能は、脳の構造と神経形態の模倣を重視しますが、人間のニューロンと神経回路の機能とメカニズムを理解することも必要です。これは、脳の構造と脳の機能の間に単純な一対一の対応がなく、類似の構造が異なる機能を持つ可能性があるためです。

たとえば、海馬は古代の構造で、人間と動物の脳に似た構造を持っていますが、記憶をエンコードする方法は異なります。動物の海馬は記憶を符号化する際に「パターン分離」アプローチを使用します。つまり、ニューロンは記憶の混乱を避けるために異なるニューロングループを形成して記憶を保存します。しかし、人間の海馬は「概念と連想」の符号化方式を使用しており、つまり、同じニューロンのグループが複数の異なる記憶を保存できます。この独特な記憶符号化方法は、人間の知能の出現における重要な要因である可能性があり、抽象的思考や創造的思考など、他の種と比較した人間の独特な認知能力を説明するのに役立ちます。

トレンド10: AIコンピューティングセンターはインテリジェンスの時代の重要なインフラとなる

近年、人工知能における計算能力の需要が急速に高まり、最も重要な計算リソース要件の 1 つとなっています。 AIコンピューティングはインテリジェント時代の発展の中核的な原動力であり、人工知能コンピューティングパワーをベースにした人工知能コンピューティングセンターが登場しています。