単一ニューロンは将来の活動を予測することで学習し、脳の働きを説明するのに役立つ。

単一ニューロンは将来の活動を予測することで学習し、脳の働きを説明するのに役立つ。

何世紀にもわたり、人類は脳がどのように機能し、どのように情報を獲得するかを理解しようとしてきました。神経科学者は現在、脳のさまざまな部分がどのように機能し、どのような機能を持つかについて十分に理解していますが、まだ答えが出ていない疑問が数多く残っています。したがって、統一された神経科学理論はまだ欠けている。

近年、コンピューター科学者は、人間の脳の機能とプロセスを人工的に再現できる計算ツールの作成に取り組んでいます。

カナダのレスブリッジ大学の研究者らは最近、個々のニューロンがどのように学習し未来を予測するかを調査する研究を行った。個々のニューロンが将来の活動を予測する能力が、学習のための新しいメカニズムを提供できる可能性があることを示した。

研究結果は「ニューロンは将来の活動を予測することで学習する」というタイトルで2月25日にNature Machine Intelligenceに掲載された。

「神経科学は今や、ダーウィン以前の生物学と同じ段階にある」と、この研究に参加した研究者の一人、アルトゥール・ルチャック氏は語った。 「詳細な観察は無数にありますが、それらすべてを結びつける単一の理論はありません。したがって、神経科学の大きな課題の 1 つは、脳の働きを説明する統一原理を見つけることです。私たちの研究は、この探求に貢献することを目指しています。」

脳が使用する学習アルゴリズムをより深く理解することが、脳機能の統一理論を開発する上で中心的な役割を果たす可能性があります。脳の学習メカニズムを研究するには、主に 2 つのアプローチがあります。(1) 実験的アプローチでは、特定の介入によって神経活動の持続的な変化が誘発されます。(2) 計算的アプローチでは、選択されたターゲットの生物学的制約を満たしながら、特定の計算目標を達成するためのアルゴリズムが開発されます。

この論文では、研究者らは理論的導出のさらなる選択肢(3)を検討しており、学習規則は基本的な細胞原理、すなわち細胞の代謝エネルギーの最大化から導出されている。

脳が予測システムとして機能していることを示すさまざまな証拠があります。しかし、脳内で正確な予測コーディングがどのように達成されるかについては依然として論争が続いています。提案されているモデルのほとんどは予測回路を前提としていますが、研究者らはニューロン内に内部予測モデルがあるという代替案を提案しています。予測学習ルールを使用する単一のニューロンが、さまざまな予測脳を構築するための基本単位を提供できる可能性があることが示唆されています。

興味深いことに、研究者らが提案した予測学習ルールは、時間差学習アルゴリズムを修正して生物学的により妥当なものにすることでも得られる。時間差分学習は、バックプロパゲーションのようなアルゴリズムを脳に実装する方法に関する最も有望なアイデアの 1 つです。これは、ニューロン活動の違いを利用してトップダウンのエラー信号を近似することに基づいています。このようなアルゴリズムの典型的な例は、対照ヘブビアン学習であり、これは特定の仮定の下でバックプロパゲーションと同等であることが示されています。

図: アルゴリズムの基礎。 (出典:論文)

予測学習ルールと対照ヘブビアン学習 対照ヘブビアン学習アルゴリズムでは、ネットワークが 2 つの別々の学習フェーズで定常平衡に収束する必要があるため、まったく同じ刺激を 2 回提示する必要があります。しかし、実際の脳ではそうはならない可能性が高いです。ここで研究者らは、皮質感覚処理にヒントを得て、2 つの活動段階を 1 つに組み合わせることでこの問題に対処することを提案しています。

ここでの新しい洞察は、初期のボトムアップ活動はニューロンが自由相活動の定常状態部分を予測するのに十分であり、予測された自由相とクランプ相の間の不一致はティーチング信号として使用できるということです。

ニューロンが将来の自由期活動を正しく予測できることを確認するために、研究者らはサンプルニューロンを注意深く研究した。この研究では、予測学習ルールがうまく機能し、各ニューロンが将来の活動を正確に予測していることが示されました。

図: 予想される活動のニューロン予測。 (出典:論文)

さらに、予測学習ルールは、生物学的ニューロン ネットワークの他の側面を反映するように設計された複数の他のネットワーク アーキテクチャでテストされました。私たちの研究は、提案された予測学習ルールが、さまざまな生物学にヒントを得たネットワーク アーキテクチャでうまく機能することを示しています。

図 1: 多層畳み込みニューラル ネットワークでの予測学習ルールの実装。 (出典:論文)

覚醒した動物における予測学習ルールの検証 実際のニューロンが将来の活動を予測できるかどうかをテストするために、研究者らは覚醒したラットの聴覚皮質からのニューロン記録を分析しました。刺激として、それぞれ 1 秒間の音と 1 秒間の沈黙を挟んだ 6 つの音が 20 分以上連続して繰り返されました。 6 つのトーンそれぞれについて、平均開始応答と終了応答が個別に計算され、各ニューロンに 12 の異なる活動プロファイルが提供されました。各刺激について、15~25 ミリ秒の時間ウィンドウの活動を使用して、30~40 ミリ秒のウィンドウの平均的な将来の活動を予測しました。

図: 皮質ニューロンの将来の活動を予測する。 (出典:論文)

この研究では、ニューロンには予測可能なダイナミクスがあり、初期のニューロン反応から将来の活動を予測できることが示されました。しかし、皮質活動の長期的な変化を予測することで、学習規則を支持するより強力な証拠が得られました。重要なのは、提案されたモデルに基づいて、どの個々のニューロンの発火率が増加し、どのニューロンの発火率が減少するかを推測できることです。

図: モデルおよび皮質ニューロンにおける神経活動の長期的な変化。 (出典:論文)

この研究は、神経科学と機械学習の分野に多くの興味深い影響を与える可能性があります。全体的に、彼らの研究結果は、個々のニューロンの機能をサポートする予測メカニズムが学習において重要な役割を果たす可能性があることを示唆しています。

「将来的には、このアイデアは、現実の困難な問題を解決するために、より強力な人工ニューラルネットワークを構築するのに役立つかもしれない」とルチャック氏は語った。 「私たちが発表した予測学習ルールは、脳の統一理論を見つけるための重要な一歩だと信じています。しかし、この目標を達成するにはさらに多くのステップが必要であり、私たちはこの旅を続けることに興奮しています。」

論文リンク: https://www.nature.com/articles/s42256-021-00430-y

<<:  南極の氷床データセットは火星ほど良くない?スタンフォード大学の研究者はドローンと機械学習を利用して、最も価値のあるデータを発掘することに取り組んでいる。

>>:  自己回帰デコードが64倍高速化、Googleが新たな画像合成モデルMaskGITを提案

ブログ    
ブログ    
ブログ    

推薦する

Google が地図「タイムマシン」を公開: 100 年前のあなたの街はどんな様子だったでしょうか?

この記事はAI新メディアQuantum Bit(公開アカウントID:QbitAI)より許可を得て転載...

人工知能はセキュリティの優れた防御線である

2021年を迎え、私たちは新しい働き方や新しい労働環境に慣れてきました。多くの人は、デジタル通信手段...

言葉はもっと欺瞞的だ! MITの最新研究:DeepFakeによる顔の加工はペンを使った編集ほど良くない

​DeepFake は発売以来、潜在的な「悪質な AI」としてリストアップされてきました。 有名な「...

...

Python の例を使用して TensorFlow を始めるにはどうすればよいでしょうか?

[[223516]]この記事に付属するコードは、ここからダウンロードできます。 https://g...

...

2D ガール ジェネレーター、駆動可能なニューラル ネットワーク... 2019 年の優れた機械学習プロジェクト 17 選

2019 年のベスト オープンソース プロジェクトを選択するために、Medium のネットユーザーが...

写真とテキスト付き!推奨アルゴリズムのアーキテクチャ - 大まかなランキング

1. 全体的なアーキテクチャ粗いソートは、リコールと細かいソートの中間のモジュールです。 。数万の候...

建築設計におけるスマートビルディングと IoT の統合

技術が急速に進歩する時代において、私たちと建築との関係は大きな変化を遂げています。もはやレンガやモル...

Github ホットリスト: 2021 年の最もクールな AI 論文 33 件をレビュー!多くの中国人作家が選ばれた

[[435977]]現在、AI技術は急速に進歩しており、毎年多くの優れた論文が発表されています。 2...

百度CTO王海鋒氏:「文心易眼」のユーザー数は1億人を超える

「文心易眼のユーザー規模が1億人を突破した」。12月28日、百度の最高技術責任者で、深層学習技術・応...

ディープラーニングがなぜディープラーニングと呼ばれるのかご存知ですか?

これは単純なプッシュです。今日はディープラーニングという名前についてのみお話します。ディープラーニン...

アナリスト:生成AIは過大評価されており、関連業界は2024年に「冷え込む」と予想されている

分析機関CCSインサイトは10日、来年には生成AI分野が現実の試練に直面する可能性があるとの予測を発...

中国の人工知能産業市場はどれくらい大きいのでしょうか? 2021年の6つの主要トレンド

2016年、AlphaGoが囲碁九段の名人であるイ・セドル氏を破り、大きな話題となり、人工知能の話題...

GoogleのオープンソースビッグモデルGemmaは何をもたらすのか?「Made in China」のチャンスはすでに到来していることが判明

Google の珍しいオープン AI は、オープンソースのビッグモデルに何をもたらすのでしょうか? ...