アナーキストとの対話: ノーム・チョムスキーが語るディープラーニングの未来

この記事は公開アカウント「Reading Core Technique」（ID: AI_Discovery）から転載したものです。

ここ数週間、私は大好きなアナキストシンジケートのメンバー、ノーム・チョムスキーと電子メールのやり取りをしてきました。最初の接触は、人工ニューラルネットワーク（ANN）の最近の発展がチョムスキーに彼の有名な言語理論である普遍文法を再考させるきっかけとなったかどうかを確認するためでした。

[[375047]]

講演では、ディープラーニングの限界や、ANN が生物学的脳をどの程度模倣しているかなどについて触れられ、さらに哲学的な領域にも踏み込みました。これは非公式の議論であったため、この記事ではチョムスキー教授の言葉を直接引用することはしませんが、要点を要約してみたいと思います。

ノーム・チョムスキーとは誰ですか?

著者はチョムスキーの著作、特にアメリカ帝国主義、新自由主義、メディアに対する批判を大いに賞賛している。私たちの見解が少し異なるのは、彼が大陸哲学者、特にフランスのポスト構造主義者を退けた点です。

おそらく私はフーコー、ラカン、デリダの作品からあまりにも多くのインスピレーションを得ているため、少々ステレオタイプ化されているのかもしれないが、チョムスキーの哲学に対する分析的アプローチは道徳的に魅力的だが、私たちの世界を十分に説明するには少々「単純すぎる」と感じてきた。

チョムスキーがこれらのポスト構造主義の巨匠たちを軽蔑していることは明らかだが、彼の哲学的見解は実際には批評家が想定するよりも微妙なところがある。

普遍文法

私は言語学者ではないことを前置きとして述べておきますが、このセクションでは普遍文法の理論の概要を説明したいと思います。

チョムスキー以前の言語学では、人間は白紙の状態で生まれ、強化を通じて言語を習得するというのが主流の仮説でした。つまり、子どもは親の話を聞き、聞いた音を真似し、単語や文章を正しく使ったときに褒められるのです。

チョムスキーの研究は、強化は物語の一部に過ぎず、人間の脳には言語習得を促進する普遍的で固定された構造が存在するはずだということを示唆している。彼の主な主張は以下のとおりです。

• 子どもは、強化学習では説明できないほど入力データが少なすぎるにもかかわらず、あまりにも早く言語を習得します (これは「刺激の不足」の議論としても知られています)。
• 人間と同じデータを提示されても、動物は言語を習得できません。 1960年代の有名な実験では、言語学者がニム・チンプスキーという名のチンパンジーに手話を教えようとしました。しかし、10年経った今でも、彼は基本的なコミュニケーションスキル以外は他人とコミュニケーションをとることができません。
• すべての人間の言語には共通点があります。これは、言語が独立して発達したとしても、人間の脳は同じように構成されているため、普遍的な特徴があるということを示唆しています。
• 子どもは特定の言語を学んで生まれるわけではありません。ケニアで生まれた子供をドイツで育てれば、ドイツの子供と同じくらい簡単にドイツ語を習得できます。

遺伝的にコード化された言語能力というこの理論は科学界で広く受け入れられましたが、当時は「この普遍文法は実際にはどのようなものになるのか」という暗黙の疑問がありました。勇敢な研究者たちはすぐにすべての人間の言語に共通する特徴を発見し始めましたが、私たちの生来の言語能力がどのような形をとるかについてはまだ合意が得られていませんでした。

普遍文法には特定の文法規則は含まれず、むしろ基本的な認知機能であると考えるのが妥当でしょう。チョムスキーは、人類の歴史のある時点で、人間は「マージ」と呼ばれる単純な再帰プロセスを実行する能力を発達させ、それが人間の言語に見られる文法構造の特性と制約の原因になっているという仮説を立てました。

少し抽象的ですが、基本的に「マージ」とは、2 つのオブジェクトを取得して、それらを新しいオブジェクトに結合するプロセスを指します。この能力は平凡に思えるかもしれませんが、概念を頭の中で組み合わせ、それを再帰的に実行する能力は、驚くほど強力であり、「表現の無限の数の階層」を構築することができます。

この小さいながらも重要な遺伝的飛躍は、私たちの言語によるコミュニケーション能力を説明するだけでなく、私たちの数学的才能や、より広い意味での人間の創造性にも少なくとも部分的に関係していることが判明しました。この「融合」変異は、約 10 万年前に私たちの祖先の 1 人に発生し、人間を他の動物と区別する重要な要因の 1 つである可能性があります。

人工ニューラルネットワーク

チョムスキー教授に連絡を取った主な理由は、人工ニューラルネットワークに関する彼の見解を聞きたかったからです。 ANN は、人間の脳をモデルにしており、同様の方法 (多数の例を参照することによって) で学習する機械学習モデルのサブセットです。これらのモデルはハードコーディングをほとんど必要とせず、比較的シンプルなアーキテクチャで、かなり広範囲の複雑なタスク (画像のラベル付け、音声認識、テキスト生成など) を実行できます。

このアプローチの有益な例として、Google が開発した AlphaGo Zero モデルが挙げられます。このモデルは囲碁の遊び方を学習し、最終的には人間の世界チャンピオンに敗れました。最も印象的なのは、ハードコーディングや人間の介入なしに、つまり「白紙の状態」でこれらすべてを実行するようにトレーニングされたことです。

ANN は確かに人間の脳の完璧な類似物ではありませんが、私はチョムスキー教授に、これらのモデルは散在したデータから学習するためにハードコードされた認知構造は実際には必要ないことを示唆しているかどうかを尋ねました。

チョムスキー氏は、ANN は高度に専門化されたタスクには有用だが、それらのタスクは厳密に制限されなければならない (現代のコンピュータのメモリと速度を考えると、その範囲は広く見えるかもしれないが) と正しく指摘しました。彼は ANN を高層ビルで稼働する巨大クレーンに例えています。

印象的ではありますが、これらのツールは両方とも、固定された境界を持つシステム内に存在します。この考え方は私の観察と一致しています。私が目撃したディープラーニングのブレークスルーはすべて非常に特定の領域で起こっており、私たちは人工汎用知能のようなものに近づいているようには思えません。

チョムスキー氏はまた、人工ニューラルネットワークが人間の認知を正確にシミュレートできないという証拠が増えていること、そして脳の計算システムは比較的豊富で、細胞レベルにまで及ぶ可能性のある内容を含んでいることを指摘した。

チョムスキーが正しいとしたら（そして、私はそう思う）、ディープラーニング研究の進歩は何を意味するのでしょうか？結局のところ、人間の脳には魔法のようなものは何もありません。それは単なる原子で構成された物理的構造なので、将来のある時点で汎用知能機能を備えた人工脳を作成できる可能性があると信じる理由は十分にあります。

とはいえ、現在のニューラル ネットワークはこの種の認知のシミュレーションしか提供しておらず、チョムスキーの論理によれば、まず有機ニューラル ネットワークの動作に関する理解を深めなければ、次のフロンティアに到達することはできません。

道徳的相対主義

AI の倫理的使用は現代のデータ サイエンティストにとって大きな懸念事項ですが、特定の分野においては、その概念がやや曖昧で主観的になることがあります。チョムスキーの研究は、ディープラーニングの将来について独自の技術的視点を提供しているだけでなく、言語は私たちが世界を議論し、解釈する方法であるため、彼の普遍文法には深い道徳的意味合いもあります。

たとえば、チョムスキーの主張は、上で説明した生来の神経構造が道徳的相対主義を排除し、普遍的な道徳的制約が存在するはずだというものである。道徳相対主義にはさまざまな流派がありますが、その中心となる原則は、倫理的な決定には客観的な根拠が存在しないということです。

道徳相対主義者は、「奴隷制度は不道徳である」などの主張を深く信じているとしても、その見解に同意しない人にそれを実証する方法はないと主張します。なぜなら、いかなる証明も必然的に価値判断に依存しており、私たちの価値観は究極的には外生的であり、文化と経験によって決定されるからです。

チョムスキーは、道徳は脳に現れるため、定義上、道徳は生物学的システムであると主張しています。すべての生物システムは（自然に、またさまざまな刺激に反応して）変化しますが、限界もあります。人間の視覚系を例に挙げてみましょう。実験により、視覚系には一定の可塑性があり、経験（特に幼少期）によって形成されることがわかっています。

人間の視覚システムに提供されるデータを変更することで、受容体の分布を変更し、個人が水平線と垂直線を認識する方法を変えることができます。しかし、人の目を昆虫の目に変えたり、X線を見る能力を与えたりすることはできません。

チョムスキーの理論によれば、生物学的システム（道徳を含む）は大きく変化する可能性があるが、無限に変化するわけではない。彼はさらに、たとえ私たちの道徳が文化から完全に派生していると信じていたとしても、あらゆるシステム（普遍的な生来の認知構造の結果）を習得するのと同じように、文化を習得する必要があると述べています。

この解釈に対する私の最初の留保は、道徳が単に「融合」（または同様に原始的な何か）の結果であると仮定した場合、これは理論的な制約を課す可能性がある一方で、私たちの道徳は非常に多様である可能性があり、一般的な一般的な発言をすることは事実上不可能になるのではないかという私の直感です。

チョムスキーは過去に、道徳的進歩が特定の傾向（違いの受け入れ、抑圧の拒否など）に従う方法について議論してきましたが、これらの広範な傾向がどのようにしてそのような単純な原子的認知構造から一貫して生じるのかはわかりません。

私がこのことをチョムスキー教授に尋ねたところ、彼は、物事を理解していないと実際よりも多様で複雑に見えるという見方は幻想だと一蹴した。彼はカンブリア爆発以来の動物の大きさの変化の例を挙げた。

わずか 60 年前、生物学の主流の見解は、生物は非常に異なるため、個別に研究する必要があるというものでした。しかし、現在では、これは完全に誤りであり、種間の遺伝的変異は非常に小さいことがわかっています。複雑な取得システムの変更は最小限に抑える必要があります。そうしないと、取得できません。