清華大学が世界初のオンチップ学習メモリスタメモリコンピューティング統合チップを開発、その成果がサイエンス誌に掲載された。

清華大学が世界初のオンチップ学習メモリスタメモリコンピューティング統合チップを開発、その成果がサイエンス誌に掲載された。

10月9日、清華大学の公式Weiboアカウントは、オンチップ学習をサポートする世界初のメモリスタストレージとコンピューティングの統合チップの開発における同大学の成果を報告した。

最近、清華大学集積回路学院の呉華強教授と高斌准教授は、統合メモリとコンピューティングのパラダイムに基づくオンチップ学習をサポートするメモリスタベースの統合メモリとコンピューティングチップの分野で大きな進歩を遂げました。彼らの研究成果は、国際科学誌「サイエンス」の最新号に掲載されました。

清華大学によれば、メモリスタは抵抗器、コンデンサ、インダクタに続く第4の基本回路素子である。電源が切断された後も、通過した電荷を「記憶」することができ、新しいタイプのナノ電子シナプスデバイスになることができます。

2012年以来、清華大学の銭和氏と呉華強氏のチームは、メモリスタデバイス、プロトタイプチップからシステム統合まで、AIコンピューティングパワーのボトルネック問題に徐々に協力してきました。新しい研究は、ある程度、「首を絞める」重要なコアテクノロジーを克服しました。

論文「完全に統合されたニューロにインスパイアされたメモリスタ チップを使用したエッジ ラーニング」の内容は次のとおりです。

論文アドレス: https://www.science.org/doi/full/10.1126/science.ade3483

研究概要

メモリスタベースのコンピューティング技術が最近大きな注目を集めており、この技術は従来のコンピューティング アーキテクチャのいわゆる「フォン ノイマン ボトルネック」を克服する可能性を秘めていることがわかっています。メモリスタの特別な点は、完全なオンチップ学習の実装が依然として困難であるにもかかわらず、さまざまなエッジ インテリジェンス アプリケーションでリアルタイムかつエネルギー効率の高いオンチップ学習を実現できることです。

下の図 1 は、ニューラル ネットワークにヒントを得たメモリスタ チップを使用したエッジ ラーニングを示しており、A は人間の脳の学習能力の向上を示しています。 B は、メモリスタベースのニューラル・インスパイア・コンピューティング・チップの設計と将来のアプリケーションです。このチップは、完全なオンチップ学習用に設計されており、必要なすべてのモジュールをメモリスタアレイに統合し、エッジ AI デバイスが新しいシナリオを学習して迅速に適応できるようにします。

関連する問題を解決するために、清華大学集積回路学院の博士課程学生である張文斌氏、博士研究員の姚鵬氏らは、メモリスタの特性符号と閾値に基づく学習アーキテクチャ(STELLAR)を提案し、完全なシステム統合チップを製作しました。このチップは、完全なオンチップ学習をサポートするために必要な、複数のメモリスタ アレイとすべての相補型金属酸化膜半導体周辺回路で構成されています。

下の図 2 は、オンチップ学習用のメモリスタ機能アーキテクチャの設計を示しています。A はメモリスタ チップで使用される STELLAR アーキテクチャ、B と C は分類精度の比較、D は差動コンダクタンス ペア (左) と 1T1R (中央) および 2T2R (右) 構成による重み、E は巡回並列コンダクタンス調整方式です。

下の図 3 は、オンチップ学習用のメモリスタ チップを示しています。A はアーキテクチャの概要、B はチップの光学顕微鏡画像、C は 2T2R セルの断面透過型電子顕微鏡画像です。

研究者らは、モーションコントロール、画像分類、音声認識などのさまざまなタスクにおいて、エンドツーエンドのオンチップ学習が改善され、ソフトウェアのような精度とハードウェアコストの削減が実現できることを実証しました。この研究は、インメモリコンピューティングの分野における重要な前進を示すものです。

下の図 4 は、メモリスタ チップの改善された学習の例を示しています。ここで、A はモーション制御タスク (左) とその制御システム、B は光を追跡する車の新しいサンプル学習、F は画像分類タスクにおける新しいカテゴリ学習です。

次のアニメーションデモを見てみましょう。

1 つ目は、手書きの数字の新しいカテゴリを学習するタスクです。

さらに、動作制御の領域でも学習を向上させることができます。以下に示すように、学習が改善される前は、前進する青い車は目標の赤い車を見逃すことがよくありました。

学習が改善されると、前進する青い車はまず後方に動いて調整し、最終的に目標の赤い車に向かって前進を続けます。

さらに、明るいシーンでの学習が改善される前は、青い車は追従中に目標の赤い車から遠ざかってしまうことがよくありました。

明るいシーンでの学習が改善された後、青い車はうまく適応し、常に目標の赤い車を追跡します。

学術論文の共同筆頭著者である張文斌氏と姚鵬氏は、博士課程在学中に半導体、マイクロエレクトロニクス、ソフトウェアアルゴリズム、脳型コンピューティングなどさまざまな分野で大量の科学研究知識に触れ、実りある研究開発成果と豊富なエンジニアリング構築経験を蓄積してきました。

研究チームの集合写真。

<<:  OpenAI の科学者による最新のスピーチ: GPT-4 は変曲点を超えようとしており、1000 倍のパフォーマンスが確実に出現します。

>>:  MetaMath: 逆思考で大規模モデルをトレーニングする新しい数学的推論言語モデル

ブログ    
ブログ    
ブログ    

推薦する

清朗智能の新型消毒ロボットが海外市場を席巻

新型コロナウイルスの感染力が高いため、防疫期間中、一般の人々は、インテリジェント消毒ロボットが医療産...

少数ショット学習(1) — 機械学習におけるタスク最適化空間

[[401868]]今日のディープラーニングの成功には大量のデータが必要であり、これは不可欠な前提条...

既存のビッグデータ技術を使用して機械学習プラットフォームを構築する方法

[[210160]]機械はどのように学習するのでしょうか?人間の脳は継続的に経験を蓄積する能力があり...

人工知能が本格的に登場し、企業はその挑戦に挑む準備ができている

多くの企業は、短期的には利益が見込めないため、AIパイロットプロジェクトを推進できず、AIプロジェク...

マスク氏の非嫡出双子が初めて暴露される!ニューラリンクの女性幹部に付き添われ、AIの終焉を憂いながら赤ちゃんを散歩させていた

マスク氏の非嫡出双子が初めて世間に公開される!最近、「スティーブ・ジョブズ」の著者であり伝記作家でも...

今後5年間の産業AIの8つの主要な発展トレンド

ChatGPT と生成型人工知能 (AI) が世間の注目を集めるようになり、突如として世界で最も議論...

カリフォルニア州の自動運転路上試験規則が変更され、軽輸送車両も許可範囲に含まれる可能性がある

現在、多くの自動運転車開発者は米国カリフォルニア州(以下、「カリフォルニア」という)で路上試験を行う...

...

インテリジェントコンピューティングセンター構築の「サンゴ礁」と「灯台」

インテリジェント コンピューティング センターを「誰でもアクセス可能かつ無料」にする時が来ています。...

未来:ビッグデータとAIがあなたをより深く理解する

今の時代の発展は本当に速すぎます、それを今実感していただけると思います。 3G から 4G、そして ...

ニューラル ネットワークのデバッグにイライラしていませんか?ここに16のヒントがあります

[[201444]]ニューラルネットワークのデバッグは、専門家にとっても困難な作業です。数百万のパラ...

シーメンスとマイクロソフトが共同でAIアシスタントを立ち上げ、製造業における人間と機械の連携を強化

シーメンスとマイクロソフトは協力し、人間と機械のコラボレーションを強化し、生産性を向上させるように設...

...

Megvii 顔認識ビジネス講演シリーズ - 顔認識について知っておくべきこと

人工知能、機械学習、マシンビジョンとは具体的に何でしょうか?顔認識と人工知能の関係は何でしょうか?人...

...