この新しい AI エレクトロニクスにはシリコンが使われていません。脳のニューロンをシミュレートすることができ、サイエンス誌にも掲載された。

この新しい AI エレクトロニクスにはシリコンが使われていません。脳のニューロンをシミュレートすることができ、サイエンス誌にも掲載された。

この記事はAI新メディアQuantum Bit(公開アカウントID:QbitAI)より許可を得て転載しています。転載の際は出典元にご連絡ください。

ペロブスカイトをシリコンの代わりに使用して電子機器を開発すると、実際に AI 計算を完了できるのでしょうか? ? ?

周知のように、ペロブスカイトは重要な材料として、主にドーピング後のSCI および博士論文(手動犬頭)の製造に使用されます。

今回、この技術は新しいAI電子機器の開発に使用され、サイエンス誌に掲載されました。その結果は目を見張るものでした。

心拍リズム認識タスクにおける平均パフォーマンスは従来のハードウェアの5.1 倍であり、動的ネットワークを柔軟にシミュレートしてトレーニングのエネルギー消費を削減することもできます。

ニューロモルフィックコンピューティングによるエネルギー消費の削減

この研究は主に、ペロブスカイトに異なる量の水素をドープすることで人間の神経活動をシミュレートし、それによってさまざまな機械学習タスクを実行します。

これは主にペロブスカイト自体の特性に基づいています。

ペロブスカイトは水素イオンを容易に吸収する独特の結晶構造を持っています。水素イオンを添加すると材料の導電性が変化するため、状態を切り替えられる AI 電子デバイスに材料を準備できるようになります。

ここで研究者らは、ネオジムとニッケルを混合したペロブスカイト材料を使用しました。

この物質に異なる量の水素イオンを混合することで、成分のさまざまな状態を変化させ、脳のニューロンの活動をシミュレートすることができます。

具体的には、この材料に大量の水素イオンを加えると、その電子が最終的にニッケル原子に移動し、原子の電気的特性が変化し、それが材料の導電性に影響を与えます。

このとき、外部から電界を印加することで水素の電子移動を制御することができ、水素含有量を制御することで電子部品を4 つの異なるモード間で切り替えることができます。

4 つのモードは、ニューロン モード、シナプス モード、抵抗モード、メモリ コンデンサ モードです。

ドーピングがない場合、または水素イオンを少量ドーピングした場合、材料は抵抗モードになり、情報の保存と処理に使用できます。

電気パルスによって刺激されると、ハードウェアはメモリ コンデンサ モードに切り替えることができます。メモリ コンデンサは、脳の構造を模倣したニューラル ネットワーク システムの一般的なコンポーネントです。

ニューロン パターンは複数の信号を蓄積し、その時点でコンポーネントの抵抗が大きく変化し、刺激を受けたときの人間の脳のニューロンの活動をシミュレートします。

シナプスパターンは、ニューロンの信号の強度に基づいて入力を変換します。

ペロブスカイトに水素をドーピングするというアイデアは、研究者たちがニューロモルフィック・コンピューティングを使ってこの新しいデバイスを作りたかったために生まれました。

これは通常のノイマン型コンピューティング システムとは異なる構造で、主に人間の脳内のニューロンとシナプスの活動をシミュレートすることで機械学習タスクを実行します。

その最大の利点は、コンピューティングのエネルギー消費を削減できることであり、これは将来、より複雑で大規模な AI 計算を解決する上で非常に重要です。

その結果、AI 計算を実行するときに、ハードウェアのさまざまな部分をアクティブ化またはシャットダウンする必要がなくなり、ハードウェアを制御して対応するモードに調整するだけで済みます。

研究者らはまた、この電子機器の内部状態は準安定であり、水素イオンを置き換えなくても6か月間準安定状態を維持できると述べた。

実験結果

では、このハードウェアはさまざまなニューラル ネットワークでどのように機能するのでしょうか?パフォーマンスを検証するための鍵となります。

ここで、研究者たちは 2 つのニューラル ネットワークをテストとして使用しました。

1 つ目は、人間の脳の働きを模倣した機械学習システムであるリザーバー コンピューティング ネットワークです。

これは、情報をリザーバーに入力し、そこでデータがさまざまな方法でリンクされ、分析のためにリザーバーから送信されることによって機能します。

その結果、ネットワークを大量のデータで事前にトレーニングする必要はなく、出力前のネットワークの最後の層の勾配降下法のみが必要になります。

鍵となる貯留層は、今回提案された新しい電子機器と従来のハードウェアをそれぞれ使用して計算されます。

従来の理論上のリザーバーや実験上のリザーバーと比較すると、この新しいリザーバー (H-NNO) は、使用するデバイスが少なく、MINIST (手書き数字認識)、SpokenDight (音声数字認識)、ECGHeartBeat (心拍数認識) の 3 つのタスクで同じパフォーマンスを達成できます。

平均性能はそれぞれ1.4倍1.2倍5.1倍向上しています。

さらに、この新しい電子デバイスに基づいて設計された動的ニューラル ネットワークは、増分学習の処理でも非常に優れたパフォーマンスを発揮します。

以下のネットワーク(GWR)は赤い鳥と黄色い鳥を識別できるシステムです。理想的には、ネットワークが新しいタイプの入力 (bluebird) を検出すると、システムはノードを追加してネットワークを拡張します。

入力に何らかの動物が長時間現れない場合、対応するノードはエネルギーを節約するためにシャットダウンされます。

研究者たちは、手書き数字認識データセットをテストに引き続き使用しました。

まず、0~4の範囲の数字を認識するようにネットワークに教えました。次に範囲を 0 ~ 9 に拡大してしばらくトレーニングし、その後 0 ~ 4 のみを認識します。

結果は、5〜9の数字が表示されなくなると、ネットワーク内の関連ノードが徐々にシャットダウンされることを示しました。

次の図 i ~ iii では、数字は対応する開いているノードを示し、黒い領域は閉じているノードを示します。

研究者たちは、この動的ニューラル ネットワークを静的ネットワークと比較し、増分学習シナリオでは、MNIST と CUB-200 データセットの両方で動的ネットワークの方がパフォーマンスが優れていることを発見しました。

下の図 BE からわかるように、MINIST データセット テストでは、動的ネットワークの最終精度は静的ネットワークの 2.1 倍であり、データセット CUB-200 の最終精度は静的ネットワークの 2.5 倍です。

北京航空航天大学の張海天教授が共同筆頭著者および責任著者である。

北京航空航天大学の張海天教授が本論文の共同筆頭著者および責任著者である。

彼はペンシルベニア州立大学で材料科学と工学の博士号を取得しています。

2018年、米国ギルブレス研究フェローを受賞し、パデュー大学工学部にて独自研究を実施(共同教授:シュリラム・ラマナサン、カウシク・ロイ)

昨年9月、張海天さんは北京航空航天大学の材料科学工学部にフルタイムで入学した。

主な研究分野は、機能性相変化材料の制御と、ニューロコンピューティングデバイス、磁気機能材料、ナノ材料などへの応用です。

論文リンク:

https://www.science.org/doi/10.1126/science.abj7943

<<:  メタバース軍団を結成しよう! 「Google Lab」が生まれ変わる、700人超の謎のチームのメンバーは?

>>:  生活における人工知能の主な応用

ブログ    
ブログ    
ブログ    

推薦する

...

警告!長距離LiDAR認識

この記事は、Heart of Autonomous Driving の公開アカウントから許可を得て転...

人工知能開発の新たな方向性

1. 大規模収集:あらゆる方向から情報を収集するデータ収集システムは、信号、センサー、アクチュエータ...

...

説明可能な AI とは何ですか?

説明可能な人工知能 (XAI) とブロックチェーン技術の融合は、分散型エコシステムにおける取引の監査...

機械学習の敷居が再び下がり、Zhiyuan TechnologyがAutoML製品をリリース

[51CTO.com よりオリジナル記事] 今年初め、Google は強化学習によりモデル選択 + ...

「顔の特徴による犯罪者の識別」という論文がNatureに掲載されるのでしょうか? 1,700人の科学者が共同で反対

1,700人の研究者が、Nature による AI 研究論文の出版をボイコットする請願書に署名した。...

RNN の効率は Transformer に匹敵し、Google は 2 つの新しいアーキテクチャをリリース: 同じ規模では Mamba よりも強力

今回、Google DeepMindは基本モデルに新たな動きを見せた。リカレント ニューラル ネット...

北京、自動運転路上試験の新規則を発表、有人試験も可能に

最近、北京市交通委員会は新たに改訂された「北京市自動運転車両路上試験管理実施規則(試行)」を発行し、...

視覚的な手がかりに「マーカー」を追加することで、Microsoft と他の企業は GPT-4V をより正確かつ詳細にしました。

最近、大規模言語モデル (LLM) において大きな進歩が見られました。特に、Generative P...

再ハッシュ: ブルームフィルタアルゴリズムの実装原理を理解する

[[385658]]この記事では、広く使用されているアルゴリズムである「ブルーム フィルター アルゴ...

人工ニューラルネットワーク入門

[[440456]]この記事はWeChatの公開アカウント「Zhibin's Python ...

OpenAIの内部抗争による被害はまだまだ終わっていない

OpenAI の最近の論争を受けて、AI エンジニアや企業はその API への依存を減らしたり、完全...

予測トークンの速度が2倍になりました! Transformerの新しいデコードアルゴリズムは人気がある、Alpacaチームより

アルパカチームの新たな研究は大ヒットとなっている。彼らは、モデルが 100 個のトークンを 1.5 ...

GPT-4はMITの学位を取得できない、MITの研究チームは「不正行為」と反応したが、ネットユーザーはそれを信じない

数日前、「大規模言語モデルを使用した MIT 数学および EECS カリキュラムの調査」と題された論...