ケビン・ケリーがAIブームを解説：超人的なAIを暴く5つの神話

人工知能は非常に人気が高まっているため、ニュースで報道される超知能に関する予測が実現可能なものなのか、それとも単なる根拠のない心配なのかを区別することが難しい場合があります。最近、Wired誌の創刊編集者ケビン・ケリー氏がBackchannelに「AIカーゴカルト：超人的なAIの神話」と題する記事を掲載し、大きな注目を集めた。この記事では、私たちが夢見る超人的な人工知能は単なる神話である可能性があり、その仮定は裏付けとなる証拠に基づいていないと論じられている。 Machine Intelligenceがこの記事の全文をまとめて紹介しました。

[[189816]]

将来、コンピューターAIが人間よりもはるかに賢くなり、私たちの仕事や資源をすべて奪い、人類は絶滅するだろうと聞きました。これは本当ですか？

これは、私が人工知能について話すときに最も頻繁に受ける質問です。質問者たちは真剣だ。彼らの懸念は、同じ疑問を自らに抱く専門家がいるという事実に一部起因している。これらの人々は、スティーブン・ホーキング、イーロン・マスク、マックス・テグマーク（MIT物理学者、「パラレルワールド、パラレルライブ」の著者）、サム・ハリス（「自由意志」の著者、神経科学者、哲学者）、ビル・ゲイツなど、今日の世界で最も賢い人々の一部であり、彼らはこの状況が真実である可能性が高いと考えています。最近、AI 問題に関する議論において、最も著名な AI の第一人者 9 名がパネルに参加し、この超人的な知能は必然であり、そう遠くないという意見で一致しました。彼らの議論は、こちらでご覧いただけます。

しかし、超人的な AI が人類を支配するというシナリオは、5 つの仮定に基づいていますが、1 つ 1 つ検証すると、何の証拠にも基づいていないことがわかります。これらの主張は将来的には真実になるかもしれないが、今のところそれを裏付ける証拠はない。差し迫った超人的な知能の背後にある仮定は次のとおりです。

1. 人工知能は私たちよりも飛躍的に賢くなってきています。

2. 私たちは、人間と同じように、AI を汎用的な知能にします。

3. チップの中に人間の知能を作り出すことができる。

4. 知性は無限に拡張できる。

5. 超知能が爆発的に増加すれば、人類のほとんどの問題を解決できる。

この正統派の見解とはまったく対照的に、私は次の 5 つの反仮説の方がより多くの裏付けとなる証拠があると考えています。

1. 知能は単一の次元ではないため、「人間よりも賢い」というのは意味のない概念です。

2. 人間は汎用的な脳を持っておらず、人工知能も同様です。

3. 人間の思考を模倣するために他のメディアを使用することは、コストによって制約されます。

4. 知性の次元は無限ではありません。

5. 知性は進歩における一つの要素に過ぎません。

超人的な AI が人類を支配するという期待が、証拠の根拠のない 5 つの主要な仮定に基づいているとしたら、その考えは宗教的信念、つまり神話に近いものになります。以下の段落では、これら 5 つの反仮説のそれぞれに対する証拠を詳しく説明し、超人的な AI が実際には神話であることを示す例を示します。

1. 人工知能に関する最も一般的な誤解

AI に関する最も一般的な誤解は、自然知能に関する一般的な誤解から始まります。この誤解は、知性が一次元的であると仮定しています。ほとんどの技術者は、ニック・ボストロムが著書『スーパーインテリジェンス』で用いたように、知能を文字通り増大する大きさを示す一次元線形グラフとして描く傾向がある。一方の端には、小動物のような低い知能があり、もう一方の端には、天才のような高い知能があります。まるで知能がデシベルで表現される音のレベルであるかのようです。もちろん、そこから想像力を広げて、その知能の音量がさらに大きくなり、最終的には人間の高度な知能を超えて、人間をはるかに超える超大音量の知能、つまり轟音、さらには桁外れの音になるのを想像するのは簡単です。

このモデルのトポロジーははしごに相当するため、インテリジェンスの各レベルは層ごとに増加します。劣等な動物は私たちよりも低い段階に位置しますが、より高レベルの知能（つまり人工知能）は必然的に私たちを追い越してより高い段階に昇ります。これが起こる時間スケールは重要ではありません。重要なのは、知能の向上を示す指標であるランキングです。

[[189817]]

このモデルの問題は、進化の階段のように、それ自体が架空のものであることです。ダーウィン以前、人々は自然界には存在の階段があり、下等な動物は人間の下に存在すると考えていました。ダーウィン以降も、進化の階段という概念は広く普及しており、魚類から爬虫類が生まれ、次に哺乳類、霊長類、そして最後に人間へと進化し、それぞれの進化が前の進化よりも進歩し（そして確実に賢くなって）いったとされています。つまり、知性の階段は存在の階段と平行なのです。しかし、これら 2 つのモデルはどちらも完全に非科学的な見方を示しています。

種の自然な進化をより正確に表すのが、テキサス大学オースティン校のデイビッド・ヒリス氏（上図）が初めて考案した、DNA に基づいた放射状の円盤です。この奥深い系譜の曼荼羅は、真ん中の最も原始的な生命体から始まり、時間が経つにつれて外側へと枝分かれしていきます。時間は外側に向かって進み、地球上の最新の生命種が円の円周を構成します。この絵は進化に関する基本的かつ難しい事実、つまり存在するすべての種は等しく進化しているという事実を強調しています。人間は、ゴキブリ、ハマグリ、シダ、キツネ、バクテリアとともに、この外側のリング上に存在します。これらの種はそれぞれ、30億年にわたる途切れることのない繁殖の連鎖を経ており、今日の細菌やゴキブリは人類と同じ高度な進化段階にあることを意味します。階段はありません。

同様に、インテリジェントなラダーも存在しません。知性は一次元的ではありません。それは、それぞれが連続した複数の種類と認識方法の組み合わせです。動物の知能を測定するという非常に単純な作業に取り組んでみましょう。もし知能が単一の次元であるならば、オウム、イルカ、馬、リス、タコ、シロナガスクジラ、猫、ゴリラの知能を正しい昇順に並べることができるはずです。現時点では、このランキングを裏付ける科学的証拠はありません。理由の一つは、動物間に知能の違いがないということかもしれませんが、それを証明することもできません。動物の考え方には大きな違いがあります。しかし、彼らはおそらく同じ関連する一般的な知能を持っているのでしょうか? そうかもしれませんが、それを測定する方法はなく、その知能を測る単一の基準はありません。代わりに、さまざまなタイプの認知スタイルを表すさまざまな指標があります。

より正確な知能モデルは、リチャード・ドーキンスが書いたアルゴリズムによって作成された上記の可能な形式のレンダリングのように、単一のデシベル線ではなく、その可能性空間をマッピングすることでしょう。知能は複合的な連続体です。それぞれが連続体である複数のノードが、多様性の高い高次元複合体を形成します。一部の知能は複雑で、思考のサブノードが多数存在する場合があります。他のものは、より単純だが、より極端で、宇宙のどこか遠い隅に位置するかもしれない。私たちが知能と呼ぶこれらの複合体は、複数の楽器タイプを含む交響曲と考えることができます。音量だけでなく、音程、メロディー、音色、リズムなども異なります。これらは生態系として考えることができます。この意味で、思考を構成するさまざまなノードは相互に依存し、共創されています。

マービン・ミンスキーの言葉によれば、人間の心は心の社会である。私たちは思考のエコシステムに基づいて活動しています。私たちの脳には、演繹、帰納、記号推論、感情的知性、空間論理、短期記憶、長期記憶など、さまざまな思考を行う多くの種類の認知機能が備わっています。人体の中の神経系全体も一種の脳であり、独自の認知パターンを持っています。私たちは頭だけで考えるのではなく、体全体で考えます。

この認知システムは個人や種によって異なります。リスは、何年も前に何千個ものドングリを保管した正確な場所を記憶することができますが、これは人間の頭ではできないことです。ですから、そのような認識においては、リスは人間よりも優れているのです。その超能力には、人間の能力に比べれば重要ではない他のモードも含まれており、その結果、リスのような思考が生まれます。動物界には人間よりも優れた認知能力が他にもたくさんありますが、それらもまた異なるシステムの中に含まれています。

[[189819]]

人工知能の分野でも同様のことが言えます。人工知能はすでにいくつかの面で人間を上回っています。あなたの計算機は数学の天才であり、Google の記憶力は 1 つの次元において人間自身の記憶力を超えています。私たちは、特定のモードで最適に動作するように設計された AI を作成しています。これらのパターンのいくつかは人間が実現できる範囲にありますが、確率や数学の観点から、より良く設計することもできます。人間には到底できない思考法が他にもあります。それは、60億のウェブページにあるすべての単語を記憶することであり、これはどんな検索エンジンにも備わっている能力です。将来、私たちは人間にも生物学の他の分野にも存在しない、まったく新しい認知モードを発明するでしょう。人間が作った飛行機を発明したとき、私たちは生物が主に羽ばたいて飛ぶ様子からヒントを得ました。しかし、私たちが発明した飛行機械、つまり固定された広い翼に取り付けられたプロペラは、私たちの生物界では知られていない新しい飛行モードです。まったく違う飛行方法です。同様に、私たちは自然界には存在しないまったく新しい思考様式を発明するでしょう。多くの場合、それらは小さく、新しく、限定された、特定のタスクのための特定のモデルであり、おそらく統計と確率論でのみ役立つある種の推論です。

他のケースでは、新しい心は、人間の知性だけでは解決できない問題を解決するために使用できる複雑なタイプの認知能力になります。ビジネスや科学における最も困難な問題のいくつかは、2 段階の解決を必要とする場合があります。最初のステップは、人間の心を扱うための新しい考え方を生み出すことです。ステップ 2: 2 つを組み合わせて問題を解決します。これまで解決できなかった問題を解決しているので、それを私たちよりも賢い認知と呼びたいのですが、実際にはそれは私たちとは異なります。思考の違いこそが人工知能の主な利点です。 AI の有用なモデルは、それをエイリアンの知能 (または人工エイリアン) として考えることだと私は思います。その多様性が主な資産となるでしょう。

同時に、私たちはこれらの異なる認知モードをより複雑な精神社会に統合していきます。これらの複合体の中には、私たち人間よりも複雑なものもあり、私たちには解決できない問題を解決できるため、彼らを超人と呼びたがる人もいるでしょう。しかし、たとえ Google の記憶能力が人間よりも優れていたとしても、Google を超人的な AI と呼ぶことはできないでしょう。なぜなら、Google よりも優れた点がたくさんあるからです。これらの AI 複合体は、多くの点で私たちを上回ることは間違いありませんが、総合的な優位性を持つ単一の組織は存在しません。これは人間の体力に似ています。産業革命は 200 年前のことですが、人間の身体能力 (走る速さ、重量挙げ、精密な切断など) を上回る機械は存在しましたが、平均的な人間のあらゆる能力を上回る機械は存在しませんでした。

AI 内の心の社会がより複雑になったとしても、この複雑さを科学的に測定することは現時点では困難です。キュウリがボーイング 747 よりも複雑であるかどうか、あるいはそれらの複雑さが異なる可能性があるかどうかを判断するために使用できる、複雑さに関する適切な運用上の指標はありません。これが、知能を測る優れた指標がない理由の一つです。心 A が心 B よりも複雑かどうかを判断するのは非常に困難であり、知能を比較する場合も同様です。私たちはすぐに、「知性」は単一の次元ではなく、私たちが本当に気にかけているのは知性が機能する他の多くの方法、つまり私たちがまだ発見していない他のすべての認知ノードであるという明白な認識に達するでしょう。

2.人間の知能に関する2番目の誤解

人間の知能に関する 2 番目の誤解は、一般的な知能を信じていることです。この繰り返しの信念は、AI 研究者の間でよく言われる目標、つまり人工汎用知能 (AGI) の作成に影響を与えています。しかし、知性が大きな可能性空間を提供するものと考えると、普遍的な状態というものは存在しないことになります。人間の知能は、他の専門的な知能がその周囲を回っている中心的な場所にあるわけではありません。むしろ、人間の知能は、人類がこの惑星で生き残るために何百万年もかけて進化してきた、非常に特殊なタイプの知能です。知能空間のあらゆる可能なマッピングにおいて、私たちの世界が広大な銀河の端に閉じ込められているのと同じように、人間の知能タイプは隅に閉じ込められるでしょう。

私たちは確かに、スイスアーミーナイフのような思考を想像し、発明することさえできます。多くの点で優れているかもしれませんが、特に 1 つの点で優れているわけではありません。 AI は、あらゆるものの発明と創造を支配する同じエンジニアリングの原則に従います。つまり、すべての側面を最適化することはできません。バランスを取ることしかできません。汎用多機能ユニットをそれらの特定の機能よりも優れたものにすることはできません。何でもできる優れた精神でも、献身的なエージェントのようにすべてをこなすことはできません。私たちは人間の心を汎用的なものとして考えているため、認知はエンジニアが行うトレードオフに適合しないと考えがちであり、そうするとあらゆる思考モードを最大化する知能を構築することが可能です。しかし、これに関する証拠は見当たりません。私たちは、空間全体を見渡せるほどの心の種類をまだ発明していないのです (そしてこれまで、動物の心を、単一の次元で振幅が変化する単一の種類として考える傾向がありました)。

3.人工知能の一般的な考え方を最大限に活用する

汎用的な思考を最大限に高めるというこの信念の一部は、ユニバーサル コンピューティングの概念に由来しています。後者は、特定のしきい値を満たすすべての計算は同等であると述べるチャーチ＝チューリング仮説として 1950 年に正式に説明されました。したがって、すべての計算には普遍的な核があり、高速または低速で動作する多数の部品を備えたマシン上で行われる場合でも、生物の脳内で行われる場合でも、同じ論理プロセスに従います。これは、汎用計算が可能なあらゆるマシン上で、あらゆる計算プロセス（思考）をシミュレートできるはずだということを意味します。シンギュラリタリアンが人間の思考を保持できるシリコン脳を作ろうとする希望はこの原理に依存しており、彼らは人間のように考え、しかもより賢い人工の心を作ることができると信じている。この希望はチャーチ＝チューリング仮説の誤解に基づいているため、懐疑的であるべきだ。

この理論の出発点は、「無限のディスク容量 (メモリ) と時間が与えられれば、すべての計算は同等である」というものです。問題は、現実には、コンピューターには無限のメモリや時間がないということです。これを現実世界で実行すると、実時間に大きな差が生じ、それが生死を分けることもよくあります。はい、時間を無視すれば、すべての思考は同等になります。はい、時間や現実のストレージやメモリの制約を無視すれば、任意のマトリックスで人間型の思考をシミュレートできます。しかし、時間を方程式に取り入れると、重要な点で原則が繰り返されます。つまり、大きく異なるプラットフォームで実行される 2 つのコンピューティング システムは、リアルタイムでは同等ではないということです。同じ考え方を実現する唯一の方法は、同じプラットフォーム ベースでコンピューターを実行することだとも言えます。計算が実行される物理的な素材は、特にそれが複雑になるにつれて、リアルタイムでうまく実行できる認知の種類に大きな影響を与えます。

私はさらに、十分に人間に近い思考プロセスを実現する唯一の方法は、人体のような湿った組織上でコンピューティングを実行することだと主張します。これはまた、ドライチップ上で実行される極めて大規模で複雑な人工知能が、大規模で複雑な非人間の心を生み出すことを意味します。人工的に成長したニューロンを使って人工ウェットブレインを構築できれば、その思考は人間の思考にさらに似たものになるだろうと私は予測しています。このようなウェットブレインの利点は、基質と人間の脳の類似性に比例します。ウェットウェアの作成コストは莫大であり、組織が人間の脳組織に近ければ近いほど、人間を直接製造するよりもコスト効率が低くなります。結局のところ、人間を作るのは 9 か月でできるのです。

さらに、上で述べたように、私たちは頭だけではなく体全体で考えます。私たちの内臓神経系がどのように合理的な意思決定プロセスを導き、予測と学習が可能かを示すデータは豊富にあります。人間のシステム全体をシミュレートすればするほど、それをより正確に再現できるようになります。まったく異なる物体（湿った炭素ではなく乾いたシリコン）で動作する知性は、異なる考え方をします。

私はこれをバグとは考えていません。機能だと考えています。 2 番目のポイントでお話ししたように、人間とは異なる考え方が AI の大きな強みです。これが、ロボットを人間よりも賢いと呼ぶのは誤解を招くと私が考えるもう一つの理由です。

4.超人的知性の核心

超人的な知能、特に知能は自律的に向上するという考えの中心にあるのは、知能には限界がないという根本的な信念です。しかし、私はこの主張を裏付ける証拠を見つけていません。繰り返しますが、この信念は知性が判断の唯一の基準であるという誤解によって煽られていますが、私たちはそれを信念として理解するだけでよいのです。現在の科学が知る限り、宇宙には無限の物理的スケールは存在しません。温度の範囲は無限ではありません。低温と高温はどちらも有限です。同様に、時間、空間、速度も無限ではありません。数は無限かもしれませんが、他のすべての物理的特性は有限です。人間の合理性自体に限界があるというのは当然のことです。そこで疑問になるのが、知性の限界はどこにあるかということです。私たちは、この限界は私たちの手の届かないところにある、その距離は私たちとアリの間の隙間のようなものだと思いがちです。繰り返し起こる「ユニークなスケール」の問題はさておき、この限界が人間ではないことを証明する証拠は何でしょうか? なぜ人間は最大限に極端になれないのでしょうか? それとも、この限界は人間から遠くないのでしょうか? なぜ知性が永遠に拡大できると信じるべきなのでしょうか?

この問題について考えるより有用な方法は、人間の知能を何百万もの知能の 1 つとして考えることです。したがって、あらゆる認知能力や計算能力には限界があるものの、その数が数百、数千あるとすれば、そこには数え切れないほど多くの心があり、そのどれもがいかなるレベルにおいても無限ではないことになります。私たちがこうした考えを構築したり遭遇したりする場合、その一部は私たちの理解を超えていると考えるのが自然かもしれません。最近出版した私の著書「The Inevitable」では、ある意味で私たちよりも優れている心の部分について概説しました。以下は不完全な形式です。

• 人間の心に似ているが、答えるのがより速い（想像できる最も単純な AI の心）
• 非常に遅い心、主に大量の記憶と記憶で構成されている
• 数百万の個々の愚かな心で構成された世界的なスーパーマインド
• 非常に賢い多くの頭脳で構成された集団意識だが、それが集団であることに気づいていない
• 半分有機的で半分機械的な（ボーグ）超精神であり、非常に知的な多数の精神で構成され、それらが結合した実体を形成していることを認識しています。
• 自分自身の心を高めるために訓練されたが、他人にはほとんど役に立たない心。
• より良い心を想像することはできるが、それを創造することはできない心
• より良い心を創造できるが、それを想像できるほど自分自身をよく知らない心
• より良い心を創り出すことができる心は一度しか創れない
• より良い心を生み出し、より良い心を生み出し続けることができる心

今日、これらの思考する存在をそれぞれ超知能と呼びたい人もいる。しかし、こうした心の多様性と違いこそが、私たちを知性と知恵に関する新たな概念と洞察へと導くのです。

第二に、超知能を信じる人々は、知能が（何らかの未知の単一の尺度に基づいて）指数関数的に成長すると想定しています。これはおそらく、知能がすでに指数関数的に成長していると彼らが想定しているためでしょう。しかし、これまでのところ、（どのように測定しても）知能がこのように増加しているという証拠はありません。指数関数的成長とは、人工知能が一定の時間間隔で指数関数的に倍増することを意味します。この主張を裏付ける証拠は全く見つかりません。そのような証拠がないのなら、なぜ私たちはそれがすぐに起こると想定するのでしょうか? 指数関数的に増加するのは、AI への入力、つまり知恵や知性を生み出すために使用されるリソースだけです。しかし、出力性能はムーアの法則に従って向上するわけではなく、人工知能は3年または10年ごとに2倍賢くなるわけではありません。

私は多くの AI 専門家に、AI のパフォーマンスが飛躍的に向上している証拠を求めましたが、知能を測定する基準はなく、知能は (特定の領域でさえ) 飛躍的に向上していないという点に全員が同意しました。レイ・カーツワイル氏に、指数関数的成長の概念と人工知能の指数関数的成長傾向の証拠はどこにあるか尋ねたところ、人工知能は指数関数的に成長しているわけではないが、その開発レベルは指数関数的に成長しているとの回答がありました。彼はこう言います。「計算とアルゴリズムの複雑さの指数関数的な進歩は、プロセス全体にわたって新しいレベルの進歩を追加しています…そして、これらのレベルは直線的に追加されると予想できます。なぜなら、さらなるレベルを追加するには、より指数関数的な複雑さが必要になるからです。実際、私たちの能力は指数関数的に進歩しています。」私たちは、人間と競争できるいわゆる大脳新皮質レベルからそれほど遠くないので、私にとっては、2029年の予測はまだ当てはまります。

カーツワイルは、人工知能の力が飛躍的に増大していると言っているわけではないようだ。人工知能の出力はある時点で 1 レベルしか上昇しないが、この知能を生み出すための努力は飛躍的に増大している。これは知能が爆発的に増加しているという考えとほぼ逆です。将来は不確実ですが、現時点では人工知能が飛躍的に成長していないことは明らかです。

したがって、知能爆発のシナリオを想像するとき、私たちはそれを豪雨ではなく新しい種の花びらが舞い落ちるものとして、核連鎖爆発ではなく生命のカンブリア爆発として想像すべきである。加速するテクノロジーの結果は、超人的なものというよりは、超人的なものになる可能性が高いでしょう。それらは私たちの経験の外にあるものですが、必ずしも私たちを超えているわけではありません。

5. スーパー人工知能について

超知能について、裏付ける証拠もないのに批判的に受け入れられているもう一つの信念は、超無限に近い知能が、未解決の大きな問題をすぐに解決できるという考えだ。

知能爆発の支持者の多くは、それが進歩の爆発も引き起こすと期待している。私はこれを神話的信念、あるいは思考主義と呼んでいます。将来の進歩のレベルが知的能力や知性の欠如によってのみ妨げられるという考えは誤りです。 （また、考えることがすべての問題の万能薬であるという見解は、考えることを好む多くの人々によって抱かれていることにも気づいたかもしれません。）

がんの治療や寿命の延長を例に挙げると、これらの問題は考えるだけでは解決できません。性的な空想家は、細胞の老化やテロメアの減少に気づかないだろう。どれほど強力な知性を持っていても、現在世界で知られている科学文献をすべて読んで、それを深く考えることはできません。現在および過去のすべての核分裂実験を検討し、1日で実用的な核融合の解決策を思いつくことができる超知能は存在しません。物事がどのように機能するかという未知のレベルと既知のレベルの間を行き来するには、考えるだけでは不十分です。現実の世界では無数の実験が行われており、それぞれの実験で矛盾したデータが生成され、正しい仮説を立てるにはさらなる実験が必要になります。潜在的なデータについて考えるだけでは、正しいデータは生成されません。

思考（知性）は科学の一部に過ぎず、おそらくほんの一部に過ぎません。たとえば、死にどう対処するかという問題に取り組むのに十分な良質なデータがありません。生物を使った実験のほとんどは長い時間がかかります。細胞の遅い代謝は加速されません。結果が出るまでには何年も、何ヶ月も、あるいは少なくとも何日もかかります。原子レベルで何が起こっているのかを知りたいなら、ただ考えるだけではだめです。それを知るには、非常に大きく、複雑で、洗練された物理的構造を構築する必要があります。たとえ最も優秀な物理学者が今より 1,000 倍賢くなったとしても、粒子加速器がなければ何も新しいことは分からないでしょう。

超人工知能が科学の進歩を加速させることは疑いの余地がない。原子や細胞をコンピューター上でシミュレートし、多くの要素を導入することでそれらを高速化し続けることができます。しかし、すぐに進歩を遂げることができる一方で、シミュレーションの有用性を制限する問題が 2 つあります。まず、シミュレーションやモデルが実際のものより速いのは、いくつかの要素を省略しているからです。これがモデルやシミュレーションの本質です。注目に値する点もあります。これらのモデルは、元のボディと一致していると言えるまでに、テスト、確認、証明に長い時間をかけなければなりません。自然の真実のテストを加速することはできません。

これらのシミュレーションの簡略版では、最も有望な可能性のあるパスを効果的に選別できるため、プロセスを高速化できます。しかし、現実世界には冗長性はありません。現実のすべてはある程度独特であり、それが現実の定義の 1 つです。モデルとシミュレーションがますます詳細に強化されるにつれて、現実が 100% シミュレートするモデルよりも速く進化できるという制限に遭遇します。これは現実の別の定義です。つまり、現在の自由度と詳細をすべて可能な限り高速化したバージョンです。細胞内のすべての分子と人体内のすべての細胞をシミュレートできたとしても、そのシミュレーションは人間のプロセスほど高速にはならないでしょう。何かについてどれだけ考えたとしても、実際のシステムでもシミュレーションでも、時間をかけて実験する必要があります。

人工知能は、その価値を証明するために現実世界で役割を果たさなければなりません。そして現実世界は、そのイノベーションのペースをチェックし、バランスをとることになります。実験から試作、失敗、そして実践まで、これらがなければ、人工知能は実用的な価値のない単なる理論になってしまいます。毎分、毎時間、毎日、毎年革新的な発見がなければ、人間よりも賢い人工知能は生まれないでしょう。人工知能の開発は間違いなく人工知能自体の進歩を大幅に加速させるでしょう。その理由の 1 つは、エイリアンのような人工知能が人間が尋ねないような質問をするからです。しかし、人工知能の力 (人間と比較した場合) は、それがすぐに進歩をもたらすことを意味するわけではありません。問題を解決するには、単なる知性以上のものが必要です。

知性だけでは癌や寿命延長の問題を解決できないだけでなく、知性自体に適用した場合も同じことが言えます。シンギュラリティの支持者がよく使う議論は、人間よりも賢い AI を作成すると、その AI はすぐに自分よりも賢い AI を開発して作成するようになり、それが指数関数的な爆発を起こしてインテリジェント エージェントがほぼ神のような存在になるまで続くというものです。知能について考えるだけで、より高い知能が生み出されるという証拠はありません。この種の空想は単なる信念に過ぎません。この作業には、大量の知性だけでなく、実験、データ、試行錯誤、異例の質問、そして知性を超えたあらゆるもののサポートが必要であり、それによって新しい世代の知性が成功することが、多くの証拠からわかっています。

私の結論は、これらの見解は間違っているかもしれないということです。まだ初期段階です。知性の普遍的な基準を発見できる可能性があり、それがあらゆる方向に無限である可能性もあります。知能とは何か（意識とは何かは言うまでもなく）について私たちはほとんど何も知らないため、AI 特異点の確率は依然としてゼロより大きい。すべての証拠がそのようなシナリオが極めてありそうにないことを示しているにもかかわらず、それでもまだ可能性がある（確率はゼロより大きい）と私は考えています。

したがって、私はシンギュラリタリアンの見解には同意しませんが、OpenAI のより大きな目標には依然として同意します。また、超人的な AI を懸念する賢明な人々は、人間に優しい AI を開発し、人間の価値観と一致する自律的に複製可能な AI を浸透させるべきだと考えています。超人的な AI は遠い将来に脅威となる可能性があると私は信じていますが (考慮する価値はあります)、その可能性は非常に低いため (現在得られている証拠に基づくと)、それが私たちの科学、政策、開発の指針となるべきではありません。確かに、小惑星が地球に衝突して大惨事を引き起こす可能性はある（だからこそ、私たちは惑星防衛を専門とする非営利団体 B612 財団を支援すべきだ）。しかし、その可能性によって、気候変動、宇宙旅行、さらには都市計画などへの取り組みが左右されるべきではない。

同様に、これまでの証拠は、人工知能が超人的な人工知能に発展する可能性は低いことを示していますが、確かに人間以外にも何百もの新しい思考種が生まれます。新しい種は人間とは非常に異なります。彼らは特定の作業しかできず、すぐに大きな問題を数秒で解決できる神にはなりません。代わりに、星のように豊富な有限の知性が存在し、私たちの想像を超える多様な分野で働き、私たちと協力して既存の問題を解決し、新しい問題をタイムリーに発見します。

新しいスーパーマンのような超人的なAI神の魅力は理解できますが、スーパーマンと同様、それは神話上のキャラクターです。宇宙のどこかに超人が存在するかもしれないが、それが起こる可能性は極めて低い。しかし、神話は有用であり、一度発明されると決して消滅することはない。超人という考えは消えることはなく、超人的な AI シンギュラリティという考えも、提唱された以上、消えることはないでしょう。しかし、現時点では、これは科学というよりも宗教に近い概念であることを認識すべきです。人工知能と自然知能について現在私たちが持っているすべての証拠を検証すると、超人的な AI についての私たちの推測は、まさに神話に過ぎないとしか結論づけられません。

第二次世界大戦中、群島の多くの孤立した島々が初めて外の世界と接触しました。未知の神のような存在は、島民の頭の上の空を横切ってゴロゴロ型の鉄の鳥の上に飛び、島に食べ物や物資を落とし、決して戻ってこなかった。島の宗教的信者は踊り、神々がより多くの物資を返して落とすように祈りました。 50年後の今日でも、多くの島民は鉄の鳥が物資を戻して落とすように祈っています。超人的AIは、物質的な礼拝の別の形態であることが証明される可能性があります。今から1世紀後、人間は現在を振り返り、私たちが常に想像を超えた価値をもたらす超人的な人工知能の出現を常に楽しみにしていることに気付くかもしれません。何十年もの間、人々は超人的な人工知能の出現を待っており、「物資」ですぐに到着すると信じていました。

ただし、非uperhuman AIはすでに存在しています。私たちは将来それを制御するためにそれを再定義し、制約しようとしますが、広い知性の意味では、さまざまな種類の賢さ、知性、認知、合理性、学習、意識に及ぶ範囲であり、すでに惑星全体に存在し、広がり、深み、多様化し、より強力になります。人間の世界を変える可能性のある人工知能のような発明はこれまでにありませんでした。今世紀の終わりまでに、人工知能はすべての人間に普及し、革命を起こします。

[この記事は、51CTOコラムニストのMachine Heart、WeChatパブリックアカウント「Machine Heart（id:almosthuman2014）」によるオリジナル翻訳です]

この著者の他の記事を読むにはここをクリックしてください