強いAIと弱いAIの議論：人工知能の意識に関する興味深い理論

[[344692]]

最近、私のお気に入りの新進思想家の一人と高性能 AI と低性能 AI について議論した際に、1 年以上前に書いた内容を思い出したので、そのアイデアのいくつかを取り上げてみることにしました。人工知能を取り巻く技術的な誇大宣伝があまりにも多いため、時にはその哲学的なルーツに戻るべき時が来ます。 AI をめぐる哲学的な議論の中で最も重要なのは、強い AI と弱い AI に関する議論です。

技術的な観点から言えば、何らかの形の強力な AI または汎用 AI を実現する領域で、1 つまたは 2 つのブレークスルーが起こるという考えは好ましいと思います。しかし、哲学的な観点から見ると、解決すべき課題がまだいくつか残っています。こうした課題の多くは、前世紀にオーストリア・ハンガリー帝国の数学者らが開拓し、神経科学研究の主要分野の一つとなったあまり知られていない理論によって説明できる。

AI理論では、低性能のAIシステムは通常、知的であるように見えるだけですが、高性能のAIマシンは実際に考える能力を持っています。ここでの思考は、単なるシミュレートされた思考ではなく、実際の思考を指します。このジレンマはしばしば「高性能 AI 仮説」と呼ばれます。

[[344693]]

デジタルアシスタントやアルゴリズムが囲碁の世界チャンピオンや World of Warcraft 2 のチームに勝てる世界では、機械が知的に行動できるかどうかという疑問は愚かに思えます。医療研究、囲碁、旅行など限られた環境において、知能機能を発揮できるAIシステムを多数構築することができました。ほとんどの専門家は、低性能の AI は間違いなく可能であることに同意していますが、高性能の AI については依然として大きな懐疑論があります。

機械は考えることができるのか？

これらの疑問は、アラン・チューリングが 1950 年に有名な論文「計算機械と知能」を発表して以来、コンピュータ科学者や哲学者を悩ませてきました。また、ほとんどの科学者が心の正式な定義にさえ同意できないときに、この質問の答えを決定するのは不公平に思えます。

高性能 AI の仮定を取り巻く混乱を説明するために、有名なコンピューター科学者エドガー・ダイクストラのユーモラスな表現を借りることができます。 1984 年の論文で、彼は機械が考えることができるかどうかという疑問を、「潜水艦は泳げるか？」や「飛行機は飛べるか？」といった疑問と比較しました。

これらの質問は似ているように思えるかもしれませんが、ほとんどの英語話者は、飛行機は実際に飛ぶことができるが、潜水艦は泳ぐことができないことに同意するでしょう。なぜでしょうか? この比較の基本的なポイントは、思考の統一された定義がなければ、機械が思考できるかどうかという執着は無関係であるように思われるということです。

高性能 AI に対する主な反論の 1 つは、機械が本当に思考できるかどうかを判断することは本質的に不可能であるという点です。この議論は、史上最も有名な数学の定理の一つに由来しています。

ゲーデルの不完全性定理

私たちの思考方法に広範囲に影響を与えてきた歴史上最も偉大な数学理論について語るとき、ゲーデルの不完全性定理はその地位に値します。

1931 年、数学者クルト・ゲーデルは有名な不完全性定理を証明することで演繹法の限界を実証しました。ゲーデルの定理は、算術演算を実行できるあらゆる形式の理論については、その理論内に真のステートメントが存在するという証明は存在しないことを述べています。

不完全性定理は長い間、強力な人工知能に対する反論として使われてきました。この理論の支持者は、高性能の AI エージェントは不完全性定理によって制限されるため、真に考えることはできないが、人間の思考には明らかに制限がないと主張している。

この議論は多くの論争を巻き起こし、高性能 AI の実践者の多くがこれを否定しました。高性能 AI 派の最も一般的な議論は、人間の心がゲーデルの定理に従うかどうかを判断することは不可能であるというものです。なぜなら、証明には人間の知識を形式化する必要があり、それが不可能であることはわかっているからです。

意識の議論

AIに関する白熱した議論の中で私が最も好きな話題は意識です。機械は本当に考えることができるのでしょうか、それとも思考をシミュレートできるのでしょうか? 将来機械が考えることができるようになると、意識は人間の思考の基盤であるため、機械は意識を持つ (つまり、状態や行動を認識する) 必要があることになります。

高性能 AI に対する懐疑論は、古典的な数学理論 (ゲーデルの不完全性定理など) から AI プラットフォームの純粋に技術的な限界に至るまで、さまざまな議論を引き起こしています。しかし、生物学、神経科学、哲学の交差点は依然として議論の余地があり、AI システムの意識に関連しています。

意識とは何でしょうか?

意識については多くの定義や議論があり、ほとんどの人が AI システムにおける意識の役割についての議論を追求することを思いとどまらせるほどです。意識の定義のほとんどは、自己認識、または実体が自身の精神状態を認識する能力を含みますが、AIに関しては、自己認識と精神状態も明確に定義されていないため、私たちは急速に迷い込んでしまい、途方に暮れています。

AI に適用するには、意識理論はより実用的かつ技術的であり、哲学的ではないことが必要です。これらの原則に従った意識の定義の中で私が気に入っているのは、ニューヨーク大学の理論物理学教授であり、弦理論の創始者の一人である物理学賞受賞者のミチオ・カク氏によるものです。

数年前、カク博士は生物学や神経科学などの分野からの意識の定義を統合した「意識の時空間理論」を提唱しました。カク博士は自身の理論の中で意識を次のように定義しています。「意識とは、目標（配偶者、食料、避難所を見つけるなど）を達成するために、さまざまなパラメータ（温度、空間、時間、他の人に関連するパラメータなど）の複数のフィードバック ループを使用して世界のモデルを作成するプロセスです。」

意識の時空間的定義は、空間（動物のように）だけでなく時間（前後）との関係でも世界のモデルを作成する脳の能力に基づいているため、AIに直接適用できます。この観点から、カク博士は人間の意識を「世界のモデルを作成し、過去を評価することで未来をシミュレートし、それによって時間の中でそれをシミュレートする意識の形」と定義しています。言い換えれば、人間の意識は未来を計画する能力に直接関係しています。

意識の時空間理論には、その中核となる定義に加えて、いくつかの種類の意識が含まれています。

• レベル 0: 移動性が制限された植物などの生物が含まれ、温度などのいくつかのパラメータを使用して空間モデルを作成します。
• レベル 1: 爬虫類のような生き物で、動き、神経系を持っています。これらの生物は、空間モデルを形成するためにさらに多くのパラメータを使用します。
• レベル 2: 哺乳類などの生物は、空間だけでなく他の人々との関係においても世界のモデルを構築します。
• レベル 3: 時間の関係を理解し​​、未来を想像する独自の能力を持つ人間。

AIシステムは意識を持っているか?

意識は AI 界で最も熱く議論されているトピックの 1 つです。ここでの AI 意識とは、AI が自らの「精神状態」を自覚する能力を指します。前回の記事では、著名な物理学者ミチオ・カク博士が初めて提案した、意識を4つの異なるレベルで評価するための枠組みを紹介しました。

カク博士の理論では、レベル 0 の意識は、温度などのいくつかのパラメータに基づいて現実を評価する植物などの生物を表します。爬虫類や昆虫は、空間を含む新しいパラメータを使用して世界のモデルを作成するときに、レベル 1 の意識を示します。レベル 2 の意識では、感情や他の種との関係に基づいて世界のモデルを作成します。レベル 2 の意識に関連する主な種は哺乳類です。最後に、将来のシミュレーションを含む世界モデルに基づいて、人間の意識をレベル 3 に分類できます。

カク博士の意識の枠組みに基づいて、現世代の AI 技術の意識のレベルを評価することができます。ほとんどの専門家は、今日の AI エージェントはレベル 1 またはレベル 2 の初期意識のいずれかに分類できることに同意しています。 AI エージェントを Tier 1 としてランク付けする際には、流動性など多くの要素が関係します。

現在、多くの AI エージェントはすでにモビリティを実現し、周囲の空間に基づいて環境のモデルを開発できるようになっています。しかし、ほとんどの AI エージェントは、制約された環境外で動作することが非常に困難です。

空間評価は、AI エージェントをレベル 1 の意識に導く唯一の要素ではありません。モデルを作成するために使用されるフィードバック ループの数も、考慮すべき非常に重要な要素です。

画像解析を例に挙げてみましょう。最も高度な視覚 AI アルゴリズムでも、オブジェクトを認識するために比較的少数のフィードバック ループを使用します。これらのモデルを昆虫や爬虫類の認知能力と比較すると、それほど複雑ではないようです。つまり、現在の AI テクノロジーは昆虫レベルの意識を持っているということです。

二次意識に入る

一部の AI 技術はレベル 2 意識の特性を着実に実証しており、この発展にはいくつかの要因が寄与しています。人工知能技術は、感情を理解してシミュレートするだけでなく、周囲の感情的な反応を感知する能力もさらに向上しています。

感情ベースの AI 技術の開発に加えて、AI エージェントは、生き残るために互いに協力したり競争したりする必要があるグループ環境での動作においても、より効率的になっています。場合によっては、グループ作業によって新しい認知スキルが生み出されることもあります。レベル 2 の意識を持つ AI エージェントの最近の例としては、DeepMind や OpenAI などの企業の取り組みが考えられます。

最近、DeepMind は、AI エージェントがリソースが限られた環境で生活することを要求するいくつかの実験を実施しました。 AI エージェントは、リソースが豊富な場合と不足している場合で異なる動作を示します。エージェントは互いに対話する必要があるため、動作は変化します。

この興味深い例は、最近の OpenAI シミュレーション実験にも見られます。この実験では、AI エージェントが環境内でよりうまく共存するために、少数の記号を使用して独自の言語を作成することができました。

主流の AI ソリューションはまだ初期段階ですが、AI エージェントの認識レベルを向上させることは、現在の AI テクノロジー スタックにおける最も重要な目標の 1 つであり、レベル 2 の認識が次の研究分野です。

意識の第三レベルに到達する

現在、AI システムにおけるレベル 3 の意識は、活発に議論されている主題です。しかし、OpenAI Five や DeepMind Quake III などの最近のシステムは、AI エージェントが長期にわたって計画し、協力する能力を明確に実証しているため、この目標はすぐに達成できるかもしれません。

AI システムには意識があるか? 私の答えは「はい」です。カク博士の時空意識の理論を AI システムに適用すると、AI エージェントがいくつかの基本的な形の意識を示すことができることが明らかになります。現在の AI テクノロジーの能力を考慮すると、AI エージェントの意識はレベル I (爬虫類) またはレベル II の基本レベルにあると私は考えています。

レベル3については、まだ遠いですが、決して空想ではないと思います。

この記事はWeChatの公開アカウント「Reading the Core」から転載したもので、以下のQRコードからフォローできます。この記事を転載する場合は、Duxinshu の公開アカウントにご連絡ください。