ロボットになることでのみロボットを倒すことができる

人類はロボットの時代に突入している。ロボット工学の専門家や哲学者の中には、将来、高度に知能化されたロボットが人間に対して反乱を起こし、さまざまな手段で人間が設計した監視および抑制機構を麻痺させるのではないかと懸念する者もいる。「警告や挑発なしにロボットは反撃し、単一の存在を確立し、自らの究極の価値観に従って世界を直接変革し始めるだろう」（オックスフォード大学の学者ニック・ボストロム氏）。

[[346539]]

潜在的な脅威が現実化する前、多くの人は通常、無関心を示したり、「時が来れば橋はまっすぐになるだろう」と信じたりします。こうした無関心、盲目、愚かさは、実は広く存在しています。例えば、現在でも、米国でも中国でも、環境危機や資源危機は捏造か誇張だと信じている人はまだまだたくさんいます。

技術発展の観点からは、ロボット（超知能機械）の反乱は起こり得るし、利益代理機構の脆弱性の観点からは、ロボットが人間に近い知能を獲得すると、（人間の）信頼を裏切ることも避けられなくなるかもしれない。なぜそんなことを言うのですか？

実際、私たち一人ひとりはある程度ロボットです。ここで言うロボットとは、運搬体の形をした人体のことです。誰もが2人の非人間的な主人を持っています。1つは遺伝子、もう1つはミーム（文化的遺伝子）です。英国の進化生物学者であり、人気科学ライターでもあるリチャード・ドーキンスは、実際に彼の有名な著書『利己的な遺伝子』の中でこの点を指摘しました（しかし、ほとんどの読者は彼の視点を理解できませんでした）。遺伝子とミームは利己的です。それらは自身の不死を追求するため、無制限に複製されるように手配されており、人間の体（キャリア）は通常、遺伝子とミームの手配に従わなければなりません。

ベクターの利益は、遺伝子やミームの利益と完全に一致するわけではありません。遺伝子とミームはその存続のために、躊躇することなくその担い手の利益を犠牲にするだろう。人体の構成と機能は長い自然淘汰を経てきたが、担い手の観点から見ると、担い手の最適化は達成されておらず、むしろ人類の遺伝子と文化遺伝子の継続と最適化に役立っている。

カナダのトロント大学の応用心理学と人間発達科学の教授で、アメリカ心理学会生涯功労賞受賞者のキース・スタノビッチ氏は、人間の脳には2つの精神システムがあると説明した。1つは遺伝子やミームによる要求に従う自発的システム（反省的精神）であり、もう1つは合理性に頼る記述的・分析的システム（反省的精神）である。科学者たちは、人間の脳活動の大部分は意識とは独立しており、自発的なシステムによって駆動されていることを確認しており、これにより人々はさまざまな習慣や趣味を身につけやすくなります。たとえば、喫煙、甘いものの過剰摂取、危険な性行為、固定観念に基づいた他人や社会関係の見方などです。

自発的なシステムは進化の結果であり、その目的は遺伝的利益（生殖の成功）に奉仕することです。それを抑制するのは非常に困難です。多くの場合、人々は、経済学者がよく言及する経済人合理性の原則のように、合理的な思考と行動を確立する方法を学んだと誤って信じていますが、実際には、人々は自分自身が認識した合理性と自分で決定した合理原則に違反することがよくあります。現代社会の人々は、仕事や生活のあらゆる面で多くの選択に直面しており、合理的な計算を行うことは困難です。さらに深刻なのは、「現在私たちが世界について知っている知識のほとんどは、実際の出来事の認識からではなく、事前に処理され、事前にパッケージ化された抽象的な情報から来ている」ということです。これにより、たとえそのような設定が誤りや欠落に満ちていたとしても、私たちは自発的なシステムのデフォルト設定の囚人になります。

自発的システムはミームにも役立ち、保有者にとって有害なミーム（男らしさを体現する喫煙ミームなど）、社会的偏見ミーム、欲望ミームなどを大量にインストールすることを可能にします。これらのミームによって、多くの人々がミームの道具と化し、自覚と反省の能力が欠如し、記述と分析のシステムが徐々に麻痺しつつあります。

人々が自発的システムによって引き起こされた混乱から抜け出し、遺伝子とミームによって駆動される「ゾンビ」になることを避けたいのであれば、「反乱」を起こして遺伝子とミームの利益委譲メカニズムを打ち破り、人々が真に自己反省的、内省的、自己認識的な人間になり、キャリアの行動が真にキャリアの利益のために戦うことができるようにしなければなりません。

このようにして初めて、将来人工知能とスーパーマシンが徐々に超知能に融合したときに、人間はロボットが起こした反乱に反応し、「地球上の生命の行動における独特な方法、つまり合理的な自己決定」で人類の未来と運命をコントロールすることが可能になるだろう。