清華大学が世界初のオンチップ学習メモリスタメモリコンピューティング統合チップを開発、その成果がサイエンス誌に掲載された。

清華大学が世界初のオンチップ学習メモリスタメモリコンピューティング統合チップを開発、その成果がサイエンス誌に掲載された。

10月9日、清華大学の公式Weiboアカウントは、オンチップ学習をサポートする世界初のメモリスタストレージとコンピューティングの統合チップの開発における同大学の成果を報告した。

最近、清華大学集積回路学院の呉華強教授と高斌准教授は、統合メモリとコンピューティングのパラダイムに基づくオンチップ学習をサポートするメモリスタベースの統合メモリとコンピューティングチップの分野で大きな進歩を遂げました。彼らの研究成果は、国際科学誌「サイエンス」の最新号に掲載されました。

清華大学によれば、メモリスタは抵抗器、コンデンサ、インダクタに続く第4の基本回路素子である。電源が切断された後も、通過した電荷を「記憶」することができ、新しいタイプのナノ電子シナプスデバイスになることができます。

2012年以来、清華大学の銭和氏と呉華強氏のチームは、メモリスタデバイス、プロトタイプチップからシステム統合まで、AIコンピューティングパワーのボトルネック問題に徐々に協力してきました。新しい研究は、ある程度、「首を絞める」重要なコアテクノロジーを克服しました。

論文「完全に統合されたニューロにインスパイアされたメモリスタ チップを使用したエッジ ラーニング」の内容は次のとおりです。

論文アドレス: https://www.science.org/doi/full/10.1126/science.ade3483

研究概要

メモリスタベースのコンピューティング技術が最近大きな注目を集めており、この技術は従来のコンピューティング アーキテクチャのいわゆる「フォン ノイマン ボトルネック」を克服する可能性を秘めていることがわかっています。メモリスタの特別な点は、完全なオンチップ学習の実装が依然として困難であるにもかかわらず、さまざまなエッジ インテリジェンス アプリケーションでリアルタイムかつエネルギー効率の高いオンチップ学習を実現できることです。

下の図 1 は、ニューラル ネットワークにヒントを得たメモリスタ チップを使用したエッジ ラーニングを示しており、A は人間の脳の学習能力の向上を示しています。 B は、メモリスタベースのニューラル・インスパイア・コンピューティング・チップの設計と将来のアプリケーションです。このチップは、完全なオンチップ学習用に設計されており、必要なすべてのモジュールをメモリスタアレイに統合し、エッジ AI デバイスが新しいシナリオを学習して迅速に適応できるようにします。

関連する問題を解決するために、清華大学集積回路学院の博士課程学生である張文斌氏、博士研究員の姚鵬氏らは、メモリスタの特性符号と閾値に基づく学習アーキテクチャ(STELLAR)を提案し、完全なシステム統合チップを製作しました。このチップは、完全なオンチップ学習をサポートするために必要な、複数のメモリスタ アレイとすべての相補型金属酸化膜半導体周辺回路で構成されています。

下の図 2 は、オンチップ学習用のメモリスタ機能アーキテクチャの設計を示しています。A はメモリスタ チップで使用される STELLAR アーキテクチャ、B と C は分類精度の比較、D は差動コンダクタンス ペア (左) と 1T1R (中央) および 2T2R (右) 構成による重み、E は巡回並列コンダクタンス調整方式です。

下の図 3 は、オンチップ学習用のメモリスタ チップを示しています。A はアーキテクチャの概要、B はチップの光学顕微鏡画像、C は 2T2R セルの断面透過型電子顕微鏡画像です。

研究者らは、モーションコントロール、画像分類、音声認識などのさまざまなタスクにおいて、エンドツーエンドのオンチップ学習が改善され、ソフトウェアのような精度とハードウェアコストの削減が実現できることを実証しました。この研究は、インメモリコンピューティングの分野における重要な前進を示すものです。

下の図 4 は、メモリスタ チップの改善された学習の例を示しています。ここで、A はモーション制御タスク (左) とその制御システム、B は光を追跡する車の新しいサンプル学習、F は画像分類タスクにおける新しいカテゴリ学習です。

次のアニメーションデモを見てみましょう。

1 つ目は、手書きの数字の新しいカテゴリを学習するタスクです。

さらに、動作制御の領域でも学習を向上させることができます。以下に示すように、学習が改善される前は、前進する青い車は目標の赤い車を見逃すことがよくありました。

学習が改善されると、前進する青い車はまず後方に動いて調整し、最終的に目標の赤い車に向かって前進を続けます。

さらに、明るいシーンでの学習が改善される前は、青い車は追従中に目標の赤い車から遠ざかってしまうことがよくありました。

明るいシーンでの学習が改善された後、青い車はうまく適応し、常に目標の赤い車を追跡します。

学術論文の共同筆頭著者である張文斌氏と姚鵬氏は、博士課程在学中に半導体、マイクロエレクトロニクス、ソフトウェアアルゴリズム、脳型コンピューティングなどさまざまな分野で大量の科学研究知識に触れ、実りある研究開発成果と豊富なエンジニアリング構築経験を蓄積してきました。

研究チームの集合写真。

<<:  OpenAI の科学者による最新のスピーチ: GPT-4 は変曲点を超えようとしており、1000 倍のパフォーマンスが確実に出現します。

>>:  MetaMath: 逆思考で大規模モデルをトレーニングする新しい数学的推論言語モデル

推薦する

人工知能は人間の弱点を克服できる

人工知能の多くの利点はよく知られ、理解され、宣伝されていますが、その限界も明らかです。しかし、あまり...

人工知能アプリケーションのための6つの主要技術、ついに誰かがわかりやすく説明

01 ロボティックプロセスオートメーション(RPA) RPA (ロボティック プロセス オートメーシ...

App Store 中国、検索アルゴリズムを最適化:名前による検索を復活

約1週間の不安が去った後、国内のiOSアプリ開発者はようやく落ち着くことができた。中国におけるApp...

画像認証コードで人工バカになる

[[416826]]この記事はAI新メディアQuantum Bit(公開アカウントID:QbitAI...

救急室のAIにはもう少し人間的なケアが必要

[[228274]]交換室の電話が鳴り、看護師が手際よく緊急電話に出た。その後すぐに病院は救急車を派...

プログラマーの間でデータ構造やアルゴリズムに関する知識が一般的に不足していることについてどう思いますか?

多くのプログラマーの目には、データ構造やアルゴリズムなどは役に立たず、実際に使用されることもあまりな...

AI人材が年間数百万ドルを稼ぐ理由

現在、ほぼすべてのテクノロジー大手が AI プロジェクトを実施しており、AI 時代に勝ち残るために、...

人工知能はより安全で環境に優しい交通システムの構築に役立つ

人工知能は、運輸業界が直面している多くの複雑な課題を解決するための最適なテクノロジーとなっています。...

...

トレーニング時間とパラメータの数は100分の1に削減され、ラベルは予測に直接使用され、GNNを超えるパフォーマンスを実現

従来のラベル伝播法とシンプルなモデルを組み合わせると、一部のデータセットでは現在の最適な GNN の...

13Bモデルはあらゆる面でGPT-4を圧倒しますか?この裏にあるトリックは何でしょうか?

130 億のパラメータを持つモデルが実際にトップの GPT-4 に勝つのでしょうか?下の図に示すよ...

韓国初のAI女性キャスターが誕生。本物と間違えられ議論を巻き起こす。AIサベイニングはすでに存在していた

最近、韓国のテレビ局が韓国初の人工知能キャスターを導入した。この新しく作られたAI女性キャスターは、...

おとぎ話を使ってAIモデルを訓練することで、マイクロソフトは生成モデルのパラメータを探索するための新たな入り口を発見した。

大規模言語モデルのパラメータサイズは拡大しているものの、モデル内のパラメータがどのように機能するかを...

AIとクラウドコンピューティングが相互に利益をもたらし、ビジネス効率を向上させる方法

長年にわたり、クラウド コンピューティングは現代のビジネスに欠かせないツールとなり、2020 年には...

AIのための大規模ストレージインフラストラクチャの要件

大規模な人工知能 (AI) により、容量とパフォーマンスの面でストレージ インフラストラクチャの水準...