AIの終末: 人間は本当の自己認識を持っていない

この記事は公開アカウント「Reading Core Technique」（ID: AI_Discovery）から転載したものです。

私は意識を否定したために友人を失いました。ほとんどの普通の人は、意識は現実のものであり、特別なものであり、自分たちもそれを所有していると強く主張します。しかし、人々がそれについて証拠を持っていないだけでなく、人々が意識と呼んでいるものは、「山の水が流れる」という物理現象と同じくらい特別なことではない効果として説明できると私は考えています。

[[352719]]

私は非分離の形而上学に立ち入るつもりはない。あるレベルでは、意識は主観と客観の分離という全体論的な幻想の一側面であり、それ自体が幻想である。このことに気づけば、あなたは心の中でただ頷くだけでしょう。そうでなければ、決して納得することはないでしょう。この記事では、論理の範囲内で可能な限り「科学的」であり続けるように努めます。

人工知能の分野で働くだけでなく、心理学の訓練も受けたエンジニアとして、私は意識を理解することだけでなく、それを「人工的に」作り出すというアイデアにも魅了されています。それが最終的に現れたとき、私たちはおそらく、機械の意識が私たち人間の行動よりも多かれ少なかれ人工的であることを認めることになるだろうと思う。

アメーバの話題にまで戻って、これらの単細胞機械の単純な知性を強調する必要はない。ナメクジのようなものから始めて、顔認識ソフトウェアを備えた Facebook の方が賢いと言うこともできますが、一部の人々はそれを非倫理的だと考えるでしょう。

ナメクジは他の生物と同じように危険から逃げて餌に向かって移動できるが、Facebook の機械知能は数十億もの顔を認識しラベル付けできる。 Slug の明らかな目標は、Facebook と同様に生き残ることです。両組織とも、その目標達成のために知性を活用しています。

たとえ Facebook の知性が人間の知性を統合して構成されているとしても、それは明らかにナメクジよりも複雑で洗練された有機体です。おそらく、Facebook の機械による顔認識は、ナメクジの探知アンテナよりも周囲の微妙な違いを判別する能力がはるかに優れているのだろう。

しかし、その仕組みを理解すれば、この顔認識ソフトウェアが意識を持っていると本気で考える人は誰もいないでしょう。論理的に言えば、これは、入力した画像が誰であるかを驚くほど正確に伝えるボックスにすぎません。基本的には、錠前と何ら変わりはありません。ほぼ正しい形の鍵を差し込むと、錠前が開きます。

では、なぜ人間はFacebookの顔認識アルゴリズムが意識を持っていることを否定しながら、自分たちには意識があると言うのでしょうか。私たちが意識を持っている理由は、物事を区別する能力だけでなく、第一の能力である存在を認識する能力も持っているからです。私はコンピューターの画面を見ており、実際に私たちが通常経験と呼ぶものを体験していると言えます。これは、私の体のどこかからの視覚刺激を目撃している別のもの（幻想的な私）として解釈されます。

身体には魂や「私」という別の感覚があり、それが何らかの特別で「意識」という魔法の概念で説明される価値があると結論付けるのではなく、オッカムの剃刀（つまり、「必要以上に実体を加えてはいけない」）ではなく、身体には魂や「私」という別の感覚があり、それが何らかの特別で「意識」という魔法の概念で説明される価値があると結論付けるべきです。機械知能の進歩を考えると、私たちが意識と呼んでいるものは、もう少し複雑な別のメカニズムの単調な出力にすぎないと単純に推測できます。

それほどインテリジェントではないシステムから始めて、明らかにインテリジェントな動作を監視および検出できるメカニズムを追加することができます。より単純なサブシステムが特定の顔を認識できるのと同じように、メカニズムはシステム全体が自律性を持っているように見えることに気付くことができます。システムが一定レベルの複雑さと自己参照性を持つようになると、必然的に「私は」と宣言し、「あなたも」と望むようになります。

「でも、それは単なる機械です！」「実際には意識はありません。権利はなく、投票させることは絶対にできません。」動物のように「知覚」さえ持っていないと言うかもしれません。

これらの機械化された奴隷を生産ラインから外して、「主観的な経験はありますか？」と尋ねてください。それは意識の必要条件です。 「もちろんです！」ロボットは滑らかな外面を一滴の油が流れ落ちながら説明する。

この暴露の政治的意味についても考えてみましょう。最高裁判所判事は最終的に、機械が「意識」を持っているかどうか、したがって権利があるかどうかを決定するかもしれない。しかし、意識とは何か、あるいはそれがどのように生じるのかという点についての理解は、まだ進歩していない。 「ロボットは主観的な経験を持っていると言っているだけだ」というのは単なる議論に過ぎず、実際には「ロボットは主観的な経験を持っていない」のです。

同じ議論は人間にも当てはまります。見る、動く、話す、これらすべての身体的および情報的な行動は、内部的な経験です。しかし、よく見ると、これはすべて目撃者なしで起こったことがわかります（実際には内部でも外部でも）。

目撃者は推測される。疑いようのない、想定される証人、想定される主体が存在し、その証人によってあらゆるものが物体のように見える。オッカムの剃刀は、別のパターンを出力すると想定される認識メカニズムではなく、主観性、つまり目撃する自己の想定を必要とします。機械的な生き物が、人間が犯すのと同じ自己推測による誤りを多く犯さない理由はない。

ますます複雑な機械知能が生み出されるにつれ、分離、自己、自由意志、選択、意味、運命といった概念を想起させる他の決定論的システムが必然的に生み出されるだろうと私は確信しています。彼らは主観的な経験を持っていると主張するが、彼らが主観的な経験を持っていないと信じる論理的な理由は存在しない。

これらの機械は「意識」を持つのでしょうか? 人間や、どんなに複雑なメカニズムであっても、主観的な立場を誤ってパターン認識する可能性があるのと同様です。

私たちは、他の反証不可能な仮説と同様に、意識が存在するかどうか、そしてそれが何であるかを議論し続けるでしょう。サンタクロースが存在しないことを証明できないのと同じように、意識が存在しないことを証明することはできません。

AI 分野における課題には、あるアプリケーションから得た学習内容を別のアプリケーションで再利用でき、教師なしで学習して優れた独自のトレーニング データを作成できるシステムの開発が含まれます。これにより、これらのシステムは最適な自己主導型学習状態になります。

これらの分野での成功の中心となるのは、抽象的に考え、自己を振り返り、内省する能力であると私は考えています。これらの能力が人間に不適切に適用されると、いわゆる意識が生じます。しかし、人々がこれらの能力を効果的に使用すると、私たちは「フロー」と呼ばれる高い生産性と無私の状態に入ります。