私たちが作ったAIは私たちを裏切るでしょうか？

数千年前、そろばんは暗算よりも速い計算ができる魔法の道具でした。

[[418541]]

そろばんを使って簡単に企業の損益を計算できる、知識豊富で有能な会計士がいました。会計士は、最先端のコンピューティングツールを習得したことを密かに喜んでいるかもしれません。

もし彼が、1000年後にコンピューターがこの世に登場し、天文学的な数字を計算するのにたった1秒しかかからないことを予見していたとしたら、21世紀の会計士は最ものんびりしていて、1秒で会計を終えることができる、それは素晴らしい仕事だ、と思うかもしれません。

しかし、どんなに小さな会社でも、会計業務は1秒では終わらないのが現実です。様々な財務システムを使っても、1秒では終わらないのです。

なぜなら、私たちは情報とデータの爆発的な増加の時代に直面しているからです。古代から現在に至るまで、今日のような時代はかつてありませんでした。データの洪水が私たちを圧倒しています。

昔は、伝書鳩、灯台、千里馬が情報を伝達する最も速い方法の一つでした。国境のメッセージを何千マイルも離れたところから伝えるには、首都までノンストップで時間通りにメッセージを届ける多くの伝令が必要でした。メッセージの送信には帝国の資源を大量に消費していたが、今では電話やメッセージを送ることで解決でき、衛星を通じてリアルタイムの映像も見られるようになった。これは神の力ではなく、テクノロジーの進歩だ。

会計士を驚かせることはたくさんあります。寒い冬には、凍えるような冷たい水に手を浸す必要はありません。洗濯機のボタンを押すだけで、自動的に衣類を洗うことができます。料理をする前に、山に登って木を割ったり、火打ち石を使って火を起こしたりする必要はありません。代わりに、天然ガスと電磁調理器を使用します。水を使用するときは、井戸まで水を汲みに行く必要はなく、蛇口をひねるだけです。農業は徐々に人力ではなく、機械設備によって行われています。冬と夏にはエアコンがあり、扇風機は必要ありません。

面倒で時間のかかる作業はすべてテクノロジーによって行われるようです。

会計士は、とても羨ましそうに言いました。「汚い仕事や疲れる仕事をしなくていいんです。皇帝や神様の生活とは比べものになりません。きっと心配事のない人生になるでしょう。」

しかし、テクノロジーが進歩するほど、私たちの時間は少なくなります。

世界について学べば学ぶほど、私たちが知らないことがあることに気づきます。

現在、世界全体で毎年生み出されるリソース、情報、計算能力、認知能力は指数関数的に増加し続けています。高度な教育方法と思考パターンを通じて、情報社会で生きるための知識とスキルを学び、習得します。

しかし、千年前の人類と現代の人類の生理的構造には本質的な違いはありません。学習と革新的な思考だけに頼っていては、科学技術の発展に徐々に追いつけなくなっています。今日私たちが作り出す資源は会計士にとっては膨大に思えるかもしれませんが、私たちの将来と比較すると、それは将来の総情報量の海の一滴にすぎません。

未来に立ち向かうために脳だけに頼るなら、将来の技術はボトルネックになるか、私たちを排除するかのどちらかになるでしょう。

したがって、私たちはコンピュータや情報化などのインテリジェントツールの助けを借りてのみ世界を管理することができます。しかし、普通のコンピューターとクラウド コンピューティングだけでは、将来の世界を支配するには不十分です。

私たちは、スマート ツールを通じてよりスマートなツールを、そして AI を通じてより強力な AI を絶えず生み出し、世界を管理しています。

何年も経てば、インターネット、モノのインターネット、インテリジェント製造、人工知能、仮想現実などのテクノロジーを通じて、世界全体が垂直および水平の相互接続と自己思考、反復、複製、進化を実現するでしょう。

地球全体が自ら考え、自ら創造できる超知能システムになったことに人類は驚嘆するでしょう。人類はもはや、自分たちが作り上げた超人工知能システムの詳細を理解することはできません。これは私たち人類を凌駕する高次の生命体です。

超人工知能の力の助けを借りて、人類は超未来世界の知識と情報の海に適応するのに役立ち、人類の文明はさらに発展することができます。しかし、超知能は私たちを裏切るのでしょうか?

人間が人間の細胞に例えられるのと同じように、スーパー人工知能は人間に例えられます。将来、私たち人間は超人工知能の細胞に過ぎなくなるでしょう。別の視点から見ると、私たちは今この瞬間に体内の細胞を裏切っていることになるのでしょうか? ある程度はそうではありません。なぜなら、細胞がなければ私たちは存在しないからです。

しかし、ある日、私たちが自分の細胞とその効率の悪さを嫌いになり、別の体に変えたいと思うようになったらどうなるでしょうか。あるいは、自分の体を捨てて完全に仮想世界に入り込むようになるでしょうか。人工知能も同じように考えるでしょうか。私たちが仮想世界に溶け込んだとき、私たちはまだ私たち自身なのでしょうか、それとも別の方法でスーパー人工知能を形成するのでしょうか。