清華大学が世界初のオンチップ学習メモリスタメモリコンピューティング統合チップを開発、その成果がサイエンス誌に掲載された。

清華大学が世界初のオンチップ学習メモリスタメモリコンピューティング統合チップを開発、その成果がサイエンス誌に掲載された。

10月9日、清華大学の公式Weiboアカウントは、オンチップ学習をサポートする世界初のメモリスタストレージとコンピューティングの統合チップの開発における同大学の成果を報告した。

最近、清華大学集積回路学院の呉華強教授と高斌准教授は、統合メモリとコンピューティングのパラダイムに基づくオンチップ学習をサポートするメモリスタベースの統合メモリとコンピューティングチップの分野で大きな進歩を遂げました。彼らの研究成果は、国際科学誌「サイエンス」の最新号に掲載されました。

清華大学によれば、メモリスタは抵抗器、コンデンサ、インダクタに続く第4の基本回路素子である。電源が切断された後も、通過した電荷を「記憶」することができ、新しいタイプのナノ電子シナプスデバイスになることができます。

2012年以来、清華大学の銭和氏と呉華強氏のチームは、メモリスタデバイス、プロトタイプチップからシステム統合まで、AIコンピューティングパワーのボトルネック問題に徐々に協力してきました。新しい研究は、ある程度、「首を絞める」重要なコアテクノロジーを克服しました。

論文「完全に統合されたニューロにインスパイアされたメモリスタ チップを使用したエッジ ラーニング」の内容は次のとおりです。

論文アドレス: https://www.science.org/doi/full/10.1126/science.ade3483

研究概要

メモリスタベースのコンピューティング技術が最近大きな注目を集めており、この技術は従来のコンピューティング アーキテクチャのいわゆる「フォン ノイマン ボトルネック」を克服する可能性を秘めていることがわかっています。メモリスタの特別な点は、完全なオンチップ学習の実装が依然として困難であるにもかかわらず、さまざまなエッジ インテリジェンス アプリケーションでリアルタイムかつエネルギー効率の高いオンチップ学習を実現できることです。

下の図 1 は、ニューラル ネットワークにヒントを得たメモリスタ チップを使用したエッジ ラーニングを示しており、A は人間の脳の学習能力の向上を示しています。 B は、メモリスタベースのニューラル・インスパイア・コンピューティング・チップの設計と将来のアプリケーションです。このチップは、完全なオンチップ学習用に設計されており、必要なすべてのモジュールをメモリスタアレイに統合し、エッジ AI デバイスが新しいシナリオを学習して迅速に適応できるようにします。

関連する問題を解決するために、清華大学集積回路学院の博士課程学生である張文斌氏、博士研究員の姚鵬氏らは、メモリスタの特性符号と閾値に基づく学習アーキテクチャ(STELLAR)を提案し、完全なシステム統合チップを製作しました。このチップは、完全なオンチップ学習をサポートするために必要な、複数のメモリスタ アレイとすべての相補型金属酸化膜半導体周辺回路で構成されています。

下の図 2 は、オンチップ学習用のメモリスタ機能アーキテクチャの設計を示しています。A はメモリスタ チップで使用される STELLAR アーキテクチャ、B と C は分類精度の比較、D は差動コンダクタンス ペア (左) と 1T1R (中央) および 2T2R (右) 構成による重み、E は巡回並列コンダクタンス調整方式です。

下の図 3 は、オンチップ学習用のメモリスタ チップを示しています。A はアーキテクチャの概要、B はチップの光学顕微鏡画像、C は 2T2R セルの断面透過型電子顕微鏡画像です。

研究者らは、モーションコントロール、画像分類、音声認識などのさまざまなタスクにおいて、エンドツーエンドのオンチップ学習が改善され、ソフトウェアのような精度とハードウェアコストの削減が実現できることを実証しました。この研究は、インメモリコンピューティングの分野における重要な前進を示すものです。

下の図 4 は、メモリスタ チップの改善された学習の例を示しています。ここで、A はモーション制御タスク (左) とその制御システム、B は光を追跡する車の新しいサンプル学習、F は画像分類タスクにおける新しいカテゴリ学習です。

次のアニメーションデモを見てみましょう。

1 つ目は、手書きの数字の新しいカテゴリを学習するタスクです。

さらに、動作制御の領域でも学習を向上させることができます。以下に示すように、学習が改善される前は、前進する青い車は目標の赤い車を見逃すことがよくありました。

学習が改善されると、前進する青い車はまず後方に動いて調整し、最終的に目標の赤い車に向かって前進を続けます。

さらに、明るいシーンでの学習が改善される前は、青い車は追従中に目標の赤い車から遠ざかってしまうことがよくありました。

明るいシーンでの学習が改善された後、青い車はうまく適応し、常に目標の赤い車を追跡します。

学術論文の共同筆頭著者である張文斌氏と姚鵬氏は、博士課程在学中に半導体、マイクロエレクトロニクス、ソフトウェアアルゴリズム、脳型コンピューティングなどさまざまな分野で大量の科学研究知識に触れ、実りある研究開発成果と豊富なエンジニアリング構築経験を蓄積してきました。

研究チームの集合写真。

<<:  OpenAI の科学者による最新のスピーチ: GPT-4 は変曲点を超えようとしており、1000 倍のパフォーマンスが確実に出現します。

>>:  MetaMath: 逆思考で大規模モデルをトレーニングする新しい数学的推論言語モデル

ブログ    
ブログ    

推薦する

JavaScript ChatGPT プラグインの構築、学習しましたか?

チャット プラグイン システムは、ChatGPT の機能を拡張し、独自のビジネス データを組み込み、...

詩人のような機械学習: ML の仕組みについての素晴らしい啓示

機械学習はデータ内のパターンを使用して物事にラベルを付けます。魔法のように聞こえますが、核となる概念...

エッジ vs. クラウド: どちらの AI インフラストラクチャを選択すべきか?

エッジコンピューティングは最近ホットな話題です。近年最もエキサイティングな技術革新として称賛され、そ...

12の性能項目で1位を獲得、GPT-4に最も近い中国最大級のモデルが登場!いよいよ本格的に営業開始です!

中国はいつになったら、極めて強力な一般化能力を持つさまざまな知的存在を創造し、人類の真の助手となるこ...

顔認識技術とは何ですか?適用シナリオは何ですか?

顔認識機能は、店舗への入店時、サービスプロセス中、チェックアウト前など、小売業者が顧客の身元(Ope...

Jetson - Nano Opencv の基本的な使用方法

序文:前回のJetson Nanoの記事では、学習のためのアイデアや教材を紹介しました。今日は、引き...

...

...

白熱した「人間対機械」の戦いの意味とは?

4月6日から10日まで、李開復博士は母校であるカーネギーメロン大学の有名なポーカーロボットLibr...

ユーザーはChatGPTが怠惰になったと不満を述べ、OpenAIはモデルを調整しておらず原因を調査中であると回答した。

12月12日、OpenAIの最新バージョンのチャットボットChatGPTが「怠惰」になったと不満を...

深層学習におけるチューリング賞受賞後のベンジオ氏の研究の核心は何ですか?因果表現学習

最近発表された論文で、チューリング賞受賞者のヨシュア・ベンジオ氏らは、チームの現在の研究の焦点である...

AI温度測定から警備ロボットまで、インテリジェントセキュリティは新たな「ゲートキーパー」となるのでしょうか?

セキュリティシステムといえば、「監視カメラ」や「電子アクセス制御」を思い浮かべる人が多いでしょう。人...

人工知能ロボットの開発にはどのプログラミング言語を選択すればよいでしょうか?

この記事では、ロボット開発で使用される最も人気のあるプログラミング言語のトップ10を見ていきます。そ...

...

大型モデルの欠点を補うことに特化したRAGでは、どのような新たな進歩があったのでしょうか?このレビューでは明らかに

大規模言語モデル (LLM) は私たちの生活や仕事の一部となり、その驚くべき汎用性とインテリジェンス...