スーパー人工知能はいつ実現されるのでしょうか？

01 近未来

1997 年 5 月 3 日、IBM のチェス コンピュータ Deep Blue と世界チェス チャンピオンの Garry Kasparov (おそらく史上最高のチェス プレイヤー) とのチェス マッチが始まりました。ニューズウィーク誌はこのマッチを「脳の最後の戦い」と呼びました。最初の5試合では、両チームの戦績は2.5対2.5で互角だった。

5月11日、ディープブルーは決勝戦でカスパロフを破った。 IBMの時価総額は一夜にして180億ドル増加した。あらゆる観点から見て、人工知能は大きな進歩を遂げた。 AI研究の観点から見ると、このゲームはまったく画期的なものではありません。ディープ・ブルーの勝利は印象的だったが、それは何十年もの間明らかだった傾向を単に継続しただけだった。チェスのアルゴリズムの基本設計は 1950 年にクロード・シャノンによって提案され、この基本設計は 1960 年代初頭に大幅に改良されました。それ以来、最高のチェス プログラムの評価は着実に向上してきました。これは主に、コンピューターの高速化によってプログラムがより遠い未来まで計算できるようになったためです。

1994 年に、ピーター・ノーヴィグと私は 1965 年以降の最高のチェス プログラムとチェス プレイヤーのリストをまとめました。この評価システムでは、カスパロフのスコアは 2805 ポイントです。 1965 年、チェス プログラムのレーティングは 1400 から始まり、その後 30 年間でほぼ直線的に上昇しました。 1994年から、このシステムはコンピュータが1997年にカスパロフに勝つだろうと予測し、実際にその通りになった。

AI 研究者にとって、本当のブレークスルーは、Deep Blue が世間の注目を集める 30 ～ 40 年前に起こりました。同様に、深層畳み込みネットワークも存在し、それが話題になる 20 年以上も前にすべての数学が完全に解決されていました。

一般の人々がメディアで目にする AI のブレークスルーの見方、つまり人類の輝かしい勝利、ロボットがサウジアラビアの国民になるなどといったものは、世界中の研究室で実際に起こっていることとはほとんど関係がありません。研究室では、研究には多くの思考、コミュニケーション、ホワイトボードへの数式の作成が含まれます。アイデアは絶えず生み出され、破棄され、そして再発見されます。優れたアイデア、真のブレークスルーは、その時点では注目されないことが多く、後になって、おそらく誰かがより適切なタイミングでそれを再発明したときに初めて、AI の大きな進歩の基盤を提供することが認識されることがあります。アイデアは、多くの場合、最初は単純な問題に対する基本的な直感の正しさを証明することによってテストされ、その後、より難しい問題に対するアイデアの拡張された影響を観察することができます。多くの場合、アイデアだけでは能力の大幅な向上は得られません。2 つのアイデアがその価値を証明するには、別のアイデアが出現するまで待たなければなりません。

これらの活動はすべて外部からはまったく見えません。研究室の外の世界では、AI はアイデアが蓄積され、その有効性の証拠が閾値を超えたときにのみ認識されます。この重要な時点で、技術的な作業に資金を投資し、新しい商用製品や印象的なデモンストレーションを作成する価値があります。その後、メディアは私たちが突破口を開いたと報道しました。

したがって、世界中の研究室で生まれつつある他の多くのアイデアが、今後数年間で商業的に応用できるレベルに達することが期待できます。企業の投資率が上昇し、世界が AI アプリケーションをより受け入れるようになると、このようなことはますます頻繁に起こるようになるでしょう。この章では、すぐに見ることができるいくつかの例を示します。その過程で、これらの技術進歩の欠点についてもいくつか触れておきたいと思います。おそらく、他にもデメリットはたくさんあると思いますが、心配しないでください。これらについては次の章で説明します。

02 AIエコシステム

当初、ほとんどのコンピューターは、大部分が空で無形の環境で動作していました。入力はパンチカードからのみ行われ、出力方法はライン プリンターで文字を印刷するだけでした。おそらくこの理由から、ほとんどの研究者はインテリジェントマシンを質問応答システムとして考えています。環境を認識し行動するインテリジェントエージェントとしての機械という考え方が広く受け入れられるようになったのは 1980 年代になってからでした。

1990 年代、ワールド ワイド ウェブの出現により、インテリジェント マシンにとってまったく新しい世界が開かれました。 Web などのソフトウェア環境で完全に実行される「ソフトウェア ロボット」を表すために、「Softbot」という新しい単語が作られました。ソフトボット（後にボットと呼ばれる）は、Web ページを認識し、文字列や URL などを発行してアクションを実行できます。

AI 企業はインターネット ブーム (1997 ～ 2000 年) の間に急速に成長し、リンク分析、推奨システム、評価システム、比較ショッピング、製品分類など、検索と電子商取引の中核機能を提供しました。

今世紀の初めには、マイク、カメラ、加速度計、GPS を搭載した携帯電話が普及し、人工知能システムが人々の日常生活に入り込む新しい方法が生まれました。このプロセスは、Amazon Echo、Google Home、Apple HomePodなどの「スマートスピーカー」ですでに実現されています。

2008 年頃には、インターネットに接続された物体の数がインターネットに接続された人の数を上回り、この変化はモノのインターネット (IoT) の始まりであると考える人もいます。これらのオブジェクトには、自動車、家電製品、信号機、自動販売機、サーモスタット、クワッドコプター、カメラ、環境センサー、ロボット、製造、流通、小売システムにおけるさまざまな材料が含まれます。これにより、人工知能システムは現実世界に対するより強力な認識と制御が可能になります。

最後に、知覚が向上すると、AI ロボットは、厳密に制約された物体の配置に依存する工場の現場から、カメラで何か興味深いものを捉えることができる、構造化されていない乱雑な現実の世界に移動できるようになります。

03 自動運転車

1950 年代後半、ジョン・マッカーシーは、自動運転車で空港まで行く日を思い描いていました。 1987年、エルンスト・ディックマンズはドイツのアウトバーンで、車線を維持し、他の車の後ろを走行し、車線を変更し、追い越しができる自動運転のメルセデスのバンを実演しました。 330年以上経った今でも、完全な自動運転車はまだ実現していませんが、現実に近づいています。開発の焦点は、学術研究機関から大企業へと移って久しい。 2019 年現在、最高の性能を誇るテスト車両は、重大な事故を起こすことなく、公道で数百万マイル (および運転シミュレーターで数十億マイル) を走行しています。残念なことに、他の自動運転車や半自動運転車によって数人の死亡事故が発生しています。

安全な自動運転車の実現になぜこれほど時間がかかるのでしょうか?最初の理由は、パフォーマンス要件が非常に厳しいことです。米国では、人間のドライバーは走行距離1億マイルにつき約1回致命的な事故に遭遇しており、これは高い基準となっています。自動運転車が受け入れられるためには、おそらく10億マイル走行するごとに致命的な事故が1件発生する程度、これよりも優れた性能が必要になるだろう。つまり、自動運転車が週40時間運転された場合、致命的な事故は25,000年に1回しか発生しないことになります。

2 つ目の理由は、交通状況が混乱したり、安全な運転条件から外れたりしたときに制御を人間に引き渡すという意図された回避策が、単純に機能しないということです。車が自動運転していない場合、人間はすぐに運転状況から離脱してしまい、安全に運転を引き継ぐのに十分な速さで周囲の状況を再学習することができません。さらに、何か問題が発生した場合、運転手以外の人や後部座席に座っているタクシーの乗客は車を運転できなくなります。

現在のプロジェクト目標は、自動車技術協会（SAE）が定義するレベル4の自動運転を実現することです。これは、車両が常に自動運転し、安全に駐車できる必要があることを意味しますが、地理的条件や気象条件によって制限されます。地理条件や気象条件が変化し、レベル 4 の車両では対応できない異常な状況が発生する可能性があるため、誰かが車内にいて、必要に応じて運転を引き継ぐ準備ができていなければなりません。 （レベル5は制限のない自動運転であり、人間による運転を必要としませんが、実現はより困難です。）

レベル 4 の自動運転は、白線の内側を走行したり障害物を避けたりする単純な反射型のタスクをはるかに超える自律性を実現します。車両は、現在および過去の観測に基づいて、現在は見えない可能性のある物体の評価も含め、すべての関連物体の意図と将来の軌道を評価する必要があります。次に、前方探索を使用して、車両は安全性を最適化する前進経路を見つける必要があります。いくつかのプロジェクトでは、強化学習（もちろんほとんどはシミュレーション）と教師あり学習（何百人もの人間のドライバーの録音から学習）に基づく、より直接的なアプローチを試みていますが、これらは必要なレベルの安全性を達成する可能性は低いようです。

無人運転車の潜在的なメリットは莫大です。毎年、世界中で自動車事故により120万人が死亡し、さらに数千万人が重傷を負っています。無人運転車の合理的な目標は、これらの数字を現在の 10% にまで減らすことです。一部の分析では、輸送コストや駐車場施設のコストが削減され、渋滞や汚染が改善されると予測されています。都市部の自家用車や大型バスは、どこでも利用できる自動運転の電気自動車に変わり、ドアツードアの交通サービスを提供し、ハブ間の高速公共交通機関の接続をサポートします。輸送コストが乗客1マイルあたり3セントと低いため、ほとんどの都市はおそらくサービスを無料で提供することを選択し、乗客に終わりのない広告の集中砲火を浴びせることになるだろう。

もちろん、これらすべての利益を享受するためには、業界はリスクを回避しなければなりません。設計不良の実験車両による死亡者が多すぎる場合、規制当局は計画されている配備を中止するか、数十年にわたって満たされない可能性のある非常に厳しい基準を課す可能性があります。もちろん、自動運転車が安全であることが証明されない限り、人々は自動運転車を買ったり乗ったりしないことに決めるかもしれません。 2018年の世論調査では、自動運転車技術に対する消費者の信頼は2016年に比べて大幅に低下していることが明らかになった。たとえこの技術が成功したとしても、無人運転車への移行は厄介なものとなるだろう。人間の運転技術は低下したり、消えたりするかもしれないし、運転中の人間の無謀で反社会的行動は全面的に禁止されるかもしれない。

04 インテリジェントパーソナルアシスタント

これまでに、ほとんどの読者はそれほどスマートではないパーソナル アシスタントを体験したことがあるでしょう。たとえば、インフォマーシャルで聞いた内容を購入指示として解釈するスマート スピーカーや、「救急車を呼んでください」と聞いて「わかりました。これからは「アン アンビュランス」と呼びましょう」と応答するモバイル チャットボットなどです。これらのシステムは本質的にはアプリケーションや検索エンジン用の音声インターフェースであり、主に固定された刺激応答テンプレートに基づいています。このアプローチは、1960 年代半ばの Eliza (人工知能ソフトウェア) にまで遡ります。

これらの初期のシステムには、アクセスの欠陥、コンテンツの欠陥、コンテキストの欠陥という 3 つの大きな欠陥がありました。アクセス障害。何が起こっているのか感覚的に認識できない状態。たとえば、ユーザーが何を言っているのかは聞こえても、ユーザーが誰と話しているかは見えない場合があります。コンテンツに欠陥があるということは、たとえコンテンツにアクセスできたとしても、ユーザーが言ったり送信したりした内容の意味を理解できないということです。文脈的欠陥、つまり、日常生活の目標、活動、関係性を追跡し、推論する能力が欠如しています。

こうした欠点にもかかわらず、スマートスピーカーやモバイルアシスタントはユーザーに十分な価値を提供しているため、何億人もの家庭やポケットに浸透しています。ある意味、それらは人工知能のトロイの木馬です。テクノロジーは私たちの身の回りにあり、ほぼすべての人の生活に深く根付いているため、テクノロジーの能力が少しでも向上すると、数十億ドルの価値があります。

したがって、進歩は集中的かつ急速に進んでいます。おそらく最も重要なのは、文脈を理解する基本的な能力です。「ジョンは病院にいます」と聞いたとき、「うまくいけば、すべて順調です」と応答するだけでなく、ユーザーの 8 歳の息子が近くの病院にいて、重傷または病気である可能性があるなど、より具体的な情報も理解する必要があります。電子メールやテキスト通信、そして（家中のスマートスピーカーを通じて）電話や家族との会話にアクセスできる機能は、ユーザーの生活の合理的かつ完全なイメージを構築するのに十分な情報を AI システムに提供します。これはおそらく、19 世紀の貴族の家に勤めていた執事や、今日の CEO に勤めていたエグゼクティブ アシスタントが持つ情報よりも多くの情報です。

もちろん、生の情報を知るだけでは十分ではありません。スマート アシスタントが本当に役立つためには、世の中の仕組みに関する常識も理解する必要があります。たとえば、病院にいる​​子どもは同時に家にいることはできませんし、腕を骨折して入院する期間は 1 日か 2 日以上になることはめったにありませんし、子どもの学校は事前に欠席について知る必要があります。このような知識により、インテリジェント アシスタントは直接観察していないものを追跡できるようになります。これは、インテリジェント システムに不可欠なスキルです。

前の段落で説明した機能は、既存の確率的推論技術で実現可能だと思いますが、私たちの日常生活を構成する種類のイベントやトランザクションのモデルを構築するには、非常に大きな労力が必要になります。これまでのところ、常識モデリング プロジェクトは、関連するコストと不確実なリターンのため、一般的には開始されていません (おそらく、情報分析と軍事計画の分類システムを除く)。しかし現在では、そのようなプロジェクトは数億人のユーザーに簡単にリーチできるため、投資リスクは低下し、潜在的な収益は高くなります。さらに、多数のユーザーに触れることで、アシスタントはすぐに学習し、知識のギャップを埋めることができます。

そこで私たちが期待できるのは、スケジュール、旅行、ホームショッピング、請求書の支払い、宿題の手伝い、電子メールや電話、リマインダー、食事の計画、そして「夢」の鍵を見つけるといった、日々増え続ける活動の管理をユーザーが月に数セントで利用できるアシスタントです。これらのスキルは複数のアプリケーションに分散されていません。むしろ、それらは、軍人が「共通作戦図」と呼ぶように、相乗効果を発揮しながら協力することで利益を得ることができる、単一の統合エージェントの側面となるだろう。

インテリジェント アシスタントの一般的な設計テンプレートには、人間の活動に関する背景知識、感覚データとテキスト データのストリームから情報を抽出する機能、インテリジェント アシスタントがユーザーの特定のコンテキストに適応できるようにする学習プロセスが含まれます。同じ一般的なテンプレートは、少なくとも他の 3 つの主要分野、つまり健康、教育、金融にも適用できます。これらのアプリケーションでは、システムはユーザーの身体、精神、銀行口座の状態を（大まかに言えば）追跡する必要があります。私たちの日常生活におけるアシスタントと同様に、これら 3 つの領域で必要な一般知識を作成するための初期コストは、数十億人のユーザーに分散されます。

たとえば、健康の分野では、私たちはみなほぼ同じ生理機能を持っており、人体の仕組みに関する詳細な知識が機械が読み取り可能な形式でエンコードされています。このシステムはあなたの個人的な特性やライフスタイルに適応し、病気の予防アドバイスや病気の早期警告を提供します。

教育の分野では、インテリジェントな教育システムの可能性は 1960 年代にはすでに認識されていましたが、実際の進歩には長い時間がかかりました。主な理由は、コンテンツとアクセスの欠陥です。ほとんどの教育システムは、教えると主張するコンテンツを理解せず、音声またはテキストを介して双方向で生徒とコミュニケーションをとることができません。 （私は自分が全く理解できない弦理論を、全く話せないラオス語で教えているところを想像しています。）音声認識の最近の進歩により、自動化された教師は最終的にはまだ十分に読み書きができない生徒とコミュニケーションをとることができるようになります。

さらに、確率的推論テクノロジーにより、生徒の知識習得を追跡し、教育コンテンツを最適化して学習成果を最大化できるようになりました。 2014年に始まったGlobal Learning XPRIZEコンテストは、「発展途上国の子供たちがわずか15か月で基本的な読み書きと算数を独学できるようにするオープンソースのスケーラブルなソフトウェア」の開発に1500万ドルの賞金を提供する。優勝した Kitkit School と onebillion の結果は、この目標がほぼ達成されたことを示しています。

個人財務の分野では、財務アナリストが企業の財務状況や見通しを把握するのと同じように、システムは個人の投資、収入源、必須および裁量的支出、負債、利息、緊急準備金などを追跡します。日常生活を扱うエージェントとの統合により、システムはより詳細なサービスを提供できるようになり、子供たちがお小遣いを確実に受け取ることさえ可能になり、いたずらをした場合はその一部を差し引くことも可能になります。かつては超富裕層だけが受けられた、質の高い日常的な金融アドバイスを、一般の人々がすぐに受けられるようになるでしょう。

上記の文章を読んでプライバシーに関する警告が鳴らなかった場合は、ニュースに注意を払っていなかったことになります。しかし、プライバシーの問題にはさまざまな側面があります。まず、あなたのパーソナルアシスタントがあなたについて何も知らないとしたら、それはどれほど役に立つでしょうか?おそらく役に立たない。第二に、平均的な人やあなたのような人についてより詳しく知るために、複数のユーザーから情報を収集できないパーソナル アシスタントは本当に役立つのでしょうか?おそらく役に立たない。では、これら 2 つのことは、日常生活で AI の恩恵を受けるためにはプライバシーを放棄しなければならないということを意味しているのでしょうか?

答えはノーです。その理由は、学習アルゴリズムが安全なマルチパーティ計算技術を使用して暗号化されたデータ上で動作できるため、ユーザーはプライバシーを侵害することなくリソース プールの恩恵を受けることができるからです。ソフトウェアプロバイダーは、法律上の義務なしにプライバシー保護技術を自主的に採用するでしょうか?それはまだ分からない。しかし、ユーザーがパーソナル アシスタントを信頼するのは、その主な役割がユーザーへのサービス提供であって、それを開発した企業へのサービス提供ではないことは避けられないようです。

05 スマートホームとホームロボット

スマートホームのコンセプトは何十年にもわたって発展してきました。 1966 年、ウェスティングハウス・エレクトリック社のエンジニア、ジェームズ・サザーランドは、余剰のコンピューター部品を集め、最初のスマートホーム コントローラーである ECHO を開発し始めました。残念ながら、ECHO の重量は 800 ポンド、電力は 3.5 キロワットで、管理できるのは 3 つのデジタル時計とテレビアンテナのみでした。その後のシステムでは、ユーザーは極めて複雑な制御インターフェースを習得する必要がありました。当然のことながら、彼らは流行りませんでした。

1990 年代から、機械学習を使用して居住者のライフスタイルに適応し、人間の介入をできるだけ少なくして自律管理できる住宅の設計を目指す野心的なプロジェクトがいくつか開始されました。これらの実験が意味を成すためには、家の中に実際に人が住んでいる必要があります。残念なことに、誤った判断が頻繁に起こったことで、システムは混乱し、改善されるどころか、住民の生活の質は低下しました。たとえば、ワシントン州立大学の 2003 年の MavHome プロジェクトでは、訪問者の就寝時間が居住者の通常の就寝時間よりも遅い場合、訪問者は暗闇の中で座らなければならなかったが、これは頻繁に起こった。この失敗は、知能の低いパーソナルアシスタントのように、システムが居住者の行動を感覚的に把握できず、家の中で何が起こっているかを理解して把握できないことに起因しています。

カメラ、マイク、そして必要な認識および推論機能を備えた真のスマートホームは、訪問者、食事、睡眠、テレビ鑑賞、読書、運動、長旅の準備、転倒して無力に床に横たわっていることなど、その住人が何をしているかを理解できます。スマートパーソナルアシスタントと連携することで、家庭では誰がいつ部屋に出入りしたか、誰がどこで食事をしたかなどを明確に把握できるようになります。この理解により、暖房、照明、ブラインド、セキュリティ システムを管理し、タイムリーなリマインダーを送信してユーザーに通知したり、問題が発生した場合に緊急サービスを呼び出したりできるようになります。アメリカや日本のいくつかの新築マンションでは、すでにこの技術が採用されています。

スマートホームの価値はアクチュエータによって制限されます。タイマー付きサーモスタット、モーションセンサー付きライト、盗難警報器などのよりシンプルなシステムは、状況に対する感度は低いものの、同じ機能の多くをより予測可能な方法で提供できます。スマートホームでは洗濯物を畳んだり、食器を洗ったり、新聞を取ってきたりすることはできません。指示を実行するには物理的なロボットが必要です。

長く待つ必要はないかもしれません。ロボットはすでに必要なスキルの多くを実証しています。私の同僚であるピーター・アビールのカリフォルニア大学バークレー校研究室では、2011年からBRETT（面倒な作業を省くバークレーロボット）が山積みのタオルを折りたたんでおり、ボストン・ダイナミクスのSpotMiniは階段を登ったりドアを開けたりできる。すでにいくつかの企業が調理ロボットを製造しているが、特別な密閉された設備とあらかじめ切り刻まれた食材が必要であり、通常のキッチンでは機能しない。

便利な家庭用ロボットには、知覚、移動性、器用さという 3 つの基本的な機能が必要です。その中で、柔軟性が最も問題となります。ブラウン大学のロボット工学教授、ステファニー・テレックス氏は、「ほとんどのロボットは、ほとんどの場合、ほとんどの物体を拾うことができません」と述べています。これには 3 つの理由があります。1 つ目は触覚の問題、2 つ目は製造の問題 (現在、器用なロボット ハンドを作るのは非常に高価です)、3 つ目はアルゴリズムの問​​題です。つまり、家庭にあるさまざまな一般的な物体をつかんで操作するために、知覚と制御を組み合わせる方法をまだ十分に理解していないのです。硬い物体の掴み方だけでも数十種類あり、瓶から錠剤を2つ注ぐ、ジャム瓶のラベルを剥がす、柔らかいパンに固いバターを塗る、鍋からフォークを使ってスパゲッティをつまんで茹で上がりを確認するなど、何千もの異なる操作テクニックがあります。

[[378062]]

BRETT ロボットがタオルを折りたたむ (左)。ボストン ダイナミクスの SpotMini ロボットがドアを開ける (右)

触覚感知と製造の問題は、3D プリントによって解決できる可能性があります。ボストン ダイナミクスは、すでにアトラス ヒューマノイド ロボットのより複雑な部品の一部に 3D プリントを使用しています。ロボットの操作スキルは、深層強化学習のおかげもあって急速に向上しています。これらすべてを統合して、映画に出てくるロボットが持つような畏敬の念を抱かせる身体能力に近いものにするという最後の推進力は、おそらく倉庫業というあまり華やかではないビジネスから生まれたものだろう。

アマゾンは、巨大な倉庫で箱から商品を取り出し、顧客に配送する何十万人もの従業員を雇用している業界唯一の企業です。アマゾンは2015年から2017年まで、ピッキング作業を行えるロボットの開発を加速させるため、毎年「ピッキングチャレンジ」を開催した。まだ道のりは長いが、中核となる研究課題が解決されれば（おそらく10年以内）、高性能ロボットが急速に登場すると期待できる。これらは、最初は倉庫で使用され、その後、さまざまなタスクや対象物が比較的予測可能な農業や建設などの他の商業用途で使用される予定です。近い将来、スーパーマーケットの棚に商品を並べたり、衣服をたたんだりといった小売業の仕事に就く人たちも見られるようになるかもしれません。

家庭用ロボットから本当に恩恵を受ける最初のグループは高齢者と病弱者であり、実用的なロボットは彼らに、他の方法では得られない程度の自立性を提供することができます。ロボットが実行できるタスクが限られており、何が起こっているかについて基本的な理解しか持っていないとしても、ロボットは非常に有用です。家事を落ち着いてこなし、飼い主のあらゆる要望を予測できるロボット執事を作るには、まだ道のりは長い。そのためには、人間レベルに近い人工知能の汎用性が必要だからだ。

06 グローバルインテリジェンス

音声とテキストを理解する基本的な機能を開発することで、インテリジェントなパーソナル アシスタントは人間のアシスタントが行う作業の一部を実行できるようになります。 （ただし、これは月に数千ドルではなく、数セントで行われます。）基本的な音声とテキストの理解により、機械は人間にはできないことも実行できるようになります。それは理解の深さのためではなく、作業の規模によるものです。たとえば、基本的な読解力を持つ機械は、昼食の時間までに人間が書いたものをすべて読むことができ、その後、何か他のことがないか周囲を見回すでしょう。音声認識機能により、アフタヌーンティーの前にあらゆるラジオやテレビ番組の音声を聞くことができます。比較すると、世界中の現在の出版物（過去のすべての文書は言うまでもありません）をすべて読むだけでも 20 万人のフルタイム労働者が必要となり、現在のラジオ放送を聞くにはさらに 6 万人のフルタイム労働者が必要になります。

このようなシステムは、単純な事実の記述を抽出し、このすべての情報をすべての言語にわたって統合することができれば、質問に答え、パターンを明らかにするための素晴らしいリソースとなり、現在約 1 兆ドルの価値がある検索エンジンよりもはるかに強力になる可能性があります。歴史学や社会学などの分野に対するその研究価値は計り知れないものとなるでしょう。

もちろん、世界中のすべての電話通話を監視することも可能でしょう（これには約 2,000 万人の人員が必要になります）。何年もの間、会話からキーワードを拾い出すといった単純な大規模な機械監視を行ってきた一部の秘密機関は、これが有益であることに気づき、今では会話全体を検索可能なテキストに書き起こす作業に移行している。文字起こしは確かに役に立ちますが、すべての会話の内容を同時に理解して統合することほど役に立ちません。

機械が活用できるもう一つの「超能力」は、世界を瞬時に見る能力だ。大まかに言えば、衛星は1ピクセルあたり約50センチメートルの平均解像度で毎日世界全体を撮影します。この解像度では、地球上のすべての家、船、車、牛、木がはっきりと見えます。これらすべての画像をチェックするには、3,000 万人以上のフルタイム従業員が必要になります。その結果、現在、衛星データの大部分を検証できる人は誰もいません。コンピューター ビジョン アルゴリズムは、このすべてのデータを処理して、毎日更新される検索可能なグローバル データベースを作成できるほか、経済活動、植生の変化、動物の移動や人口移動、気候変動の影響などの視覚化と予測モデルも作成できます。 PlanetやDigitalGlobeのような衛星会社は、このアイデアの実現に取り組んでいます。

地球規模の認識が可能になれば、地球規模の意思決定も可能になります。たとえば、地球規模の衛星データにより、地球環境を管理し、環境および経済介入の影響を予測するための詳細なモデルの開発が可能になり、国連の持続可能な開発目標に不可欠な分析情報を提供できるようになります。すでに、交通管理、輸送、廃棄物収集、道路整備、環境保護などの機能を市民の利益のために最適化するように設計された「スマートシティ」制御システムが見られ、これらは国家レベルにまで拡大される可能性があります。最近まで、このレベルの調整は、大規模で非効率的な人間の官僚機構を通じてのみ可能でしたが、それは必然的に、私たちの集団生活のますます多くの側面を管理する超知能エージェントに置き換えられるでしょう。もちろん、その後に続くのはおそらく世界規模のプライバシー侵害と社会統制であり、これについては次の章で論じます。

07 スーパー人工知能はいつ登場するのか？

スーパーインテリジェンスがいつ登場するかを予測するようよく尋ねられますが、私は通常、3 つの理由から答えることを拒否します。まず、歴史的に、予測は外れることが多い。たとえば、1960年にAIの先駆者でノーベル賞受賞者のハーバート・サイモンは、「技術的に言えば、20年以内に機械は人間が実行できるすべてのタスクを実行できるようになるだろう」と書いています。1967年には、ダートマス会議（1956年に「人工知能」の概念が初めて提案された会議）の共同主催者であるマービン・ミンスキー氏が、「1世代以内に機械が知能のほぼすべての領域を征服し、「人工知能」を作成するという問題は実質的に解決されるだろうと私は信じている」と書いています。

2 つ目の理由は、超知能が超えなければならない閾値が明確ではないことです。機械はいくつかの分野で人間の能力を超えています。これらの領域は拡大され、深化され、完全に汎用的なスーパー人工知能システムが完成する前に、「スーパー汎用知識システム」、「スーパー生物医学研究システム」、「スーパー器用で機敏なロボット」、「スーパー企業計画システム」などが登場する可能性が高いでしょう。これらの「完全に超知能ではない」システムは、個別にも集合的にも、一般的な知能システムと同じ多くの問題を引き起こすことになります。

3 番目の理由は、スーパーインテリジェンスがいつ登場するかは本質的に予測不可能であるということです。ジョン・マッカーシーが1977年のインタビューで指摘したように、超知能には「概念上のブレークスルー」が必要だ。彼はさらにこう言いました。「スーパー AI を作成するには、1.7 人のアインシュタインと 0.3 のマンハッタン計画が必要で、まずはアインシュタインが必要です。5 年から 500 年かかると私は考えています。」次のセクションでは、概念的なブレークスルーのいくつかについて説明します。彼らはどれくらい予測不可能なのでしょうか?おそらく、ラザフォードが核連鎖反応は完全に不可能であると宣言したわずか数時間後にシラードが核連鎖反応を発明したのと同じくらい予測不可能なことだろう。

2015 年の世界経済フォーラムの会議で、私はスーパーインテリジェンスがいつ登場するかという質問に答えました。この会議はチャタムハウスルールに基づいて行われたため、会議に出席した者は誰も公の場でコメントすることはできない。それでも、念のため、私は答えの前に「極秘」という4つの単語を付け加えました。私は、大惨事でもない限り、私の子供たちが生きている間に超知能が出現する可能性が高いと示唆した。彼らはまだ若く、医学の進歩により、会議に出席する多くの人々よりも長生きするかもしれない。それから2時間も経たないうちに、デイリー・テレグラフ紙は私の言葉を引用した記事を掲載した。記事には暴れまわるターミネーター・ロボットの画像と「『反社会的』ロボットは1世代以内に人間を超える可能性がある」という見出しが付けられていた。

私が提案する時点（たとえば、今から 80 年後）は、AI 研究者の一般的な見解よりもはるかに保守的です。最近の調査によると、現役の研究者の大多数は、人間レベルの AI が 21 世紀半ばまでに登場すると予想しています。核物理学の経験は、進歩が迅速に発生する可能性があると仮定して、それに応じて準備することが賢明であることを示唆しています。必要なのは、何らかの形のスーパーインテリジェンスが突然現れるための中性子誘発性核連鎖反応を発見したような概念的なブレークスルーである場合、私たちは準備ができていない可能性があります。しかし、私たちには、現在とスーパーAIだけでなく、現在とスーパーAIの間にいくつかの大きなブレークスルーがあるため、私たちにはいくつかの呼吸室があると確信しています。

AIが提供できるものには制限があります。土地と原材料は無限ではないため、人口は無期限に成長することはできません。また、誰もが私有地で大邸宅を持つこともできません。 （それは太陽系の他の場所で採掘を必要とし、宇宙に人工の生息地を構築する必要があるからですが、私はサイエンスフィクションについて話さないことを約束しました。）プライドも限られています。上位1％に満足する必要がある場合、上位1％の最下位にいる人が客観的に良いライフスタイルを持っていても、99％の人は幸せになりません。したがって、私たちの文化が、認識された自己価値の重要な要因として、誇りとjeを徐々に軽視することが重要です。

ニック・ボストロムが彼の著書監督の終わりにそれを置くと、AIでの成功は「私たちが授与された宇宙の資源を思いやりのある文明の進歩に向けた文明的な軌跡」を生じさせます。人工知能の利点を完全に活用できない場合、責任するだけです。