Google Research: ゲーデル賞とクヌース賞受賞者が「脳内のテキスト表現」を分析

このオンラインセミナーで特に注目を集めた講演は、コロンビア大学のコンピューターサイエンス教授であるクリストス・パパディミトリオウ氏による「脳内のテキスト表現」でした。

[[406381]]

△ クリストス・パパディミトリウ、コロンビア大学コンピューターサイエンス教授、ゲーデル賞およびクヌース賞受賞者

パパディミトリオウ氏は講演の中で、脳がどのように情報を処理するかについての理解が深まるにつれて、会話をよりよく理解し、会話に参加するためのより堅牢なアルゴリズムを開発できるようになると論じた。彼は、脳のさまざまな領域が相互に通信して認知問題を解決する仕組みを説明するシンプルで効果的なモデルを提示しました。

パパディミトリウ氏は、観客との「コミュニケーション」行為を「世界最大の奇跡の一つ」と評した。

脳は構造化された知識を電波に変換し、それがさまざまな媒体を通じて聞き手の耳に伝わり、その後、脳によって処理されて構造化された知識に変換されます。

「これらすべてがスパイク、ニューロン、シナプスで起こっていることは間違いありません。しかし、どのように？それが大きな疑問です。次の10年で、これをどのように行うかの詳細について、はるかに良いアイデアが得られると確信しています。」

脳内のニューロンの集合

認知科学者や神経科学者は、脳内の神経活動がどのようにして言語、数学、論理、推論、計画などの機能に変換されるのかを解明しようとしています。科学者が数学モデルを使って脳の働きをうまく説明できれば、人間の思考を模倣できる人工知能システムの作成への新たな扉が開かれることになるだろう。

多くの研究は単一ニューロンの活動に焦点を当てています。数十年前まで、科学者たちは個々のニューロンが個々の思考に対応していると信じていました。

最も有名な例は「祖母細胞」理論で、祖母に会うたびに脳内のニューロンが活発化すると主張しています。

最近の研究結果はこの主張を否定し、それぞれの概念が多数のニューロンと関連付けられており、異なる概念に関連付けられたニューロン間には重複がある可能性があることを実証しています。

これらの脳細胞のグループは「アンサンブル」と呼ばれ、パパディミトリウ氏はこれを「単語、アイデア、物体など、何かを表す高度に接続された安定したニューロンのグループ」と説明しています。

神経科学者のジェルジ・ブザキは、集団を「脳のアルファベット」と表現しています。

神経科学者ジェルジ・ブザキ

脳の数学的モデル

集団の役割をより深く理解するために、パパディミトリウは「相互作用する再帰ネットワーク」と呼ばれる脳の数学的モデルを提唱しました。これによれば、脳は有限の数の領域に分割され、各領域には数百万のニューロンが含まれています。

各領域には再帰性があり、ニューロンが相互に作用します。各エリアは他のいくつかのエリアとつながっています。これらの領域間の接続は興奮性または抑制性のいずれかになります。

このモデルは確率性、可塑性、抑制を提供します。

確率性とは、脳の各領域のニューロンがランダムに接続されていることを意味します。さらに、異なる領域間にはランダムな接続があります。

可塑性により、ニューロンと領域間の接続は経験と訓練を通じて調整できるようになります。

抑制とは、特定の瞬間に限られた数のニューロンが活動していることを意味します。

パパディミトリウ氏はこれを「生命の3つの主な力」に基づいた非常に単純な数学モデルだと説明しています。

パパディミトリウ氏はさまざまな学術機関の科学者らとともに、昨年、査読付き科学雑誌「米国科学アカデミー紀要（PNAS）」に発表した論文でこのモデルの詳細を説明した。

△ 論文 https://www.pnas.org/content/117/25/14464

集団はモデルの重要な構成要素であり、科学者が「集団計算」と呼ぶ、情報の処理、保存、検索を可能にする一連の操作をサポートします。

「これらの操作は、どこからともなく現れたわけではありません。これらの操作は現実のものであり、数学的に証明し、シミュレーションを通じて実際の動作に対応していることを検証できると私は信じています。これらの操作は、（脳内で）観察された動作に対応しています。」

パパディミトリウ氏とその同僚は、集合と集合計算が推論、計画、言語などの脳の認知機能を説明するのに適したモデルであると仮説を立てました。

パパディミトリオウ氏は、ほとんどの認知能力がその条件に当てはまると語る。

集合計算に基づく自然言語処理

パパディミトリウ氏とその同僚は、メンタルモデルをテストするために、集合計算を使用して英語の文章を分析する自然言語処理システムを構築しました。

実際に彼らは、語彙と言語理解に対応するコレクションを収容する脳の領域をシミュレートする人工知能システムを作成しようとしました。

「一連の単語が LEX 内のこれらのセットをトリガーすると、エンジンは文の解析結果を生成します」と Papadimitriou 氏は言います。

このシステムは、集合的な計算操作によって引き起こされるニューロンのスパイク（脳と同じ）をシミュレートすることによって具体的に機能します。これらのニューロン集合体は、言語処理に大きく関与する脳の 3 つの領域、内側側頭葉、ウェルニッケ野、ブローカ野に対応しています。

モデルは単語のシーケンスを受け取り、構文ツリーを生成します。実験では、ニューロンのスパイクの速度と頻度の点で、モデルの活動が脳内で起こっていることとほぼ一致していることが示されました。

AIモデルはまだ非常に初歩的で、言語の重要な部分の多くが欠けているとパパディミトリウ氏は認めた。研究者たちは、存在する言語のギャップを埋めるための計画を策定している。彼らは、これらすべての部分は集合計算によって補完できると信じており、これは時の試練に耐える仮説である。

「これが言語の神経基盤なのでしょうか？ 私たちは脳の左側にこのようなものを持って生まれてくるのでしょうか？」とパパディミトリウ氏は問いかける。

言語が人間の脳内でどのように機能し、他の認知機能とどのように関係しているかについては、多くの疑問が残っています。しかしパパディミトリオウ氏は、アンサンブルモデルによってこれらの機能の理解が深まり、残された疑問にも答えられると考えています。

言語分析は集合計算の理論をテストする方法の 1 つにすぎません。パパディミトリウ氏とその協力者は、幼児と同じように学習や計画など他の用途についても研究している。

「私たちの仮説は、集合計算かそれに似たものが論理アクセスの要件を満たすというものです」とパパディミトリウ氏は言う。「言い換えれば、それは私たちの脳の計算方法にとって有用な抽象化です。」