人間は強力な人工知能の開発を心配する必要はない

[51CTO.com クイック翻訳] 現在、人工知能技術が「悪のロボット」に発展し、世界を支配するのではないかと懸念する人が多くいます。しかし、恐れることはありません。そんなことは起こりません。

[[354314]]

人工知能は人々の仕事や日常生活に入り込んでいます。医療、天気予報、工場自動化、自動運転車など、さまざまな業界の進歩を推進しています。ゴルフクラブメーカーもクラブの設計にAIを活用しています。

実際、人々は毎日人工知能とやり取りしています。 Google 翻訳は、外国のウェブサイトを閲覧したり、さまざまな国籍の人々と会話したりするのに役立ちます。 AI ベンダーは多くのアプリケーションに音声認識機能を組み込んでいます。人々は、単純なタスクを支援するために、Siri や Alexa などの音声アシスタントを毎日使用しています。顔認識アプリは写真に自動的にタグを付け、AIシステムは囲碁やテキサスホールデムなどの複雑なゲームでプロのゲーマーに勝ち、工場ではロボットが反復的な作業で労働者の代わりを務める。

最近の人工知能の進歩は、私たちに未来がどこに向かうのかというヒントを与えてくれます。 SF作家たちは何十年もこの疑問について考え続けてきました。一部の人々が描く未来の世界には、「スターウォーズ」の映画に登場するC3POロボットのような、強力で友好的な知能ロボットが存在するだろう。一方で、知能ロボットは友好的でも邪悪でもなく、むしろ人間のような弱点を持つと説明する人もいる。西洋世界のヒューマノイドロボットは独自の意識と感情を持ち、人間に奴隷化されることを望まない。しかしながら、他の作家の作品には、映画『HAL 2001年宇宙の旅』や『ターミネーター』に登場する知能ロボットのように、人間に敵対する「邪悪なロボット」も登場する。

人工知能が潜在的に危険であるという憶測は、SFの領域に限ったものではない。多くの一流技術専門家は、人工知能システムがますますインテリジェントになるにつれ、最終的にはロボットが世界を支配するだろうと予測しています。テスラの創業者イーロン・マスク氏は、人工知能は人類にとって「最大の存在的脅威」であり、文明の存在に根本的なリスクをもたらすと述べた。故スティーブン・ホーキング博士はかつてこう語った。「これは人類の終焉を告げるかもしれない」。人類の未来研究所の創設者で哲学者のニック・ボストロム氏は、人工知能は人類にとって史上最大の脅威であり、核兵器よりもさらに大きな脅威であると考えている。

人工知能と狭義のAI

これらの技術者やSF作家が懸念するAIシステムは、強いAI（人工汎用知能、AGI）の例です。強力な AI (人工汎用知能、AGI) システムは、人間と同じ機能を持ち、推論したり、視覚、聴覚、その他の入力を処理したり、さまざまな環境に適応したりできます。これらのシステムは、人間と同様に、さまざまなイベントやトピックに関する広範な知識とコミュニケーション能力を備えています。

サイエンス フィクションの強力な AI システム (つまり、架空の悪のロボット) と今日の AI システムの間には、2 つの大きな違いがあります。まず、今日の AI システムはそれぞれ、比較的狭い範囲のタスクしか実行できません。たとえば、写真に名前を付けることを学習する AI システムは、犬と象を区別することさえできず、それ以外のことは何もできません。質問に答えたり、情報を取得したり、会話を続けることはできません。第二に、今日の AI システムには世界に関する常識的な知識がほとんどないため、その知識に基づいて推論することができません。たとえば、顔認識システムは特定の人物を識別することはできますが、他の人については何も知りません。人間のように見たり聞いたりすることはできず、食べることも眠ることも働くこともできず、犯罪を犯すことも恋に落ちることもできません。

今日の AI システムはすべて、特定のタスクのみを実行できるロボットという区別を説明するために未来学者レイ・カーツワイルが 2005 年に作った造語である「限定的 AI」です。限定的な AI システムのパフォーマンスは、そのシステムをインテリジェントなものに見せかけることがありますが、実際はそうではありません。

対照的に、人間や架空のインテリジェントロボットは、多種多様なタスクを実行できます。彼らは顔を認識できるだけでなく、新聞を読んだり、料理をしたり、靴ひもを結んだり、時事問題を議論したり、その他多くの作業を実行することもできます。架空の知能ロボットも、世界に関する人間の常識に基づいて推論し、常識、経験、背景知識をさまざまなタスクに適用します。たとえば、人間が食器棚からグラスを取り出すとき、重力に関する知識を活用し、十分に強く握らないとグラスが手から落ちてしまうことを知っています。人間は重力に関する知識を数式の定義や説明から得るのではなく、実際の経験を通じて無意識のうちに獲得します。人々はこの知識を毎日、他の多くのタスクを実行するために使用しています。

新たなAIパラダイム

大きな疑問は、今日の限定的な AI システムが、常識的な推論を使用してさまざまなタスクを実行できる、人間レベルの知能を備えたインテリジェント ロボットに進化するかどうかです。

今日の画期的な AI システムのほとんどは、情報入力から出力カテゴリを識別できる機能を学習することを目的とした、教師あり学習と呼ばれる形式の機械学習を使用しています。たとえば、顔認識システムは画像を入力として受け取り、画像内の人物の名前を識別します。 「強化学習」でも同じことが言えます。強化学習の目的は、与えられた状態に対して最適なアクションを予測する関数を学習することです。

トロント大学の機械学習の専門家、ジェフリー・ヒントン氏は、教師あり学習、強化学習、自然言語処理などの現在のモデルが強力な人工知能（そしてSFに出てくる邪悪なロボット）につながるかどうかについては懐疑的だと語った。ヒントン氏は、AI を導入するには、現在主流となっている教師あり学習パラダイムを放棄する必要があるかもしれないと示唆しています。 FacebookのチーフAI科学者であるヤン・ルクー氏も、教師あり学習と強化学習は世界についての常識を持つシステムを作るのに使えないため、強力なAIを生み出すことは決してできないと述べた。

一部の人工知能研究者は新たなアプローチを模索し始めています。これらの新しいアプローチの実現可能性を評価する際には、既存の狭義の AI 手法では強力な AI システムの構築に行き詰まるため、狭義の AI の成果に対する熱意がこれらの新しい手法に対する楽観的な考えにつながるべきではないことを覚えておくことが重要です。

人間のように学ぶ

多くの研究者は、人間の学習は構成的であると説明しています。つまり、多くのスキルを学習し、それらを組み合わせて新しいスキルを学習するということです。人間は世界についての概念、ルール、知識を学び、これらのスキルは人々がさまざまなタスクを実行することを学ぶにつれて移転可能になります。これらの研究者は、常識的な AI 推論 (そして AI と悪意のあるロボット) の鍵は、人間と同じように構成的に学習できる AI システムを構築することにあると考えています。 AI システムに概念とルールを構成要素として学習させ、より高レベルの概念とルールを学習できるようにするという考え方です。

このアプローチに関する最大の懸念は、AI システムが人間が常識的な知識を獲得する方法を理解するのに時間がかかるという点です。 40年前、AIシステムが「ジャーマンシェパードの耳の形は？」といった質問に答えられるかどうかについて長い議論がありました。人工知能と認知科学の第一人者による分析と議論にもかかわらず、決定的な答えはまだ出ていません。 AI が犬の耳の形についての質問に答えられるかどうかは、代表的なシナリオと推論プロセスの膨大な配列のうちの 1 つにすぎません。さらに、これらのスキームと推論プロセスが生来のものであるか、それとも獲得されたものであるかさえわかっていません。これは50年以上も学術的な議論が続いているテーマですが、明確な答えは出ていません。

では、人工知能や邪悪なロボットに対する人々の見方が本当に進歩するまでに、どれくらいの時間がかかるのでしょうか。現在の進歩の速度では、おそらく数千年かかるでしょう。あるいは、決して実現しないかもしれません。

ディープラーニング

一部の研究者は、教師あり学習と強化学習だけでは AI システムの構築には行き止まりだが、ディープラーニングによってそこに到達できる可能性があると考えています。ヤン・ルカン氏とグレッグ・ブロックマン氏はともに、対象についての常識を魔法のように獲得し、その知識に基づいて推論することを学習できるという希望のもと、教師なし学習システムを拡張するというアイデアを提案しました。

GPT-3 システムはスケーラビリティの優れた例であり、GPT-2 システムよりも 100 倍強力であり、GPT-2 システム自体は元の GPT システムよりも 10 倍強力です。 GPT-2 システムは、人間のような（必ずしも首尾一貫したわけではないが）音声を生成する驚くべき能力を示し、GPT-3 システムはさらに優れた結果を生み出します。 GPT システムを開発した OpenAI の研究者たちは、これはネットワークの規模を拡大することで生まれる新たな機能だと考えています。

GPT-3 システムは、トレーニングに使用したテキストから統計的な規則性を抽出する強力な能力を備えていることは間違いありません。また、テキストの小さな断片を記憶する能力も備えている可能性があります。しかし、常識を学習したり、その知識に基づいて推論を獲得したりする能力はありません。現段階では、このアプローチから常識や推論能力を習得できるという証拠はなく、それが起こると信じる理由もありません。

Yoshua Bengio 氏は、ディープラーニングを使用して狭い範囲の人工知能の限界を打ち破ることを目指す、新しいディープラーニング アーキテクチャを提案しました。目標の 1 つは、AI システムが構成的に学習するのに役立つ、より高レベルのビルディング ブロックを学習することです。それは面白いアイデアですね。

人間の脳をシミュレートする

業界の専門家が提案する強力な AI へのもう 1 つのアプローチは、人間の脳の物理的構造を理解し、それをモデルにして AI システムをモデル化することです。数十年にわたる研究を経ても、人間の脳がどのように情報を処理するかについては、ごく基本的な事実しかわかっていません。例えば、大脳皮質は学習した知識を静的にも動的にも保存できること、基底核は強化学習を通じてさまざまな目標を処理して情報を選択すること、大脳辺縁系の脳構造は脳と体を結び付けて動機や感情、物事の価値を生み出すことが知られています。

脳内のニューロンをモデル化するというアイデアは40年以上前から存在していますが、人間の脳の理解の進歩が極めて遅く、人工知能プログラムで私たちが知っている人間の脳をシミュレートする具体的な方法が存在しないため、まだ本格的に普及していません。ここで、私たちは振り出しに戻ったようで、このアプローチが成功するという証拠はない。

より高速なコンピュータ

テクノロジーの未来学者レイ・カーツワイル氏は、人工知能はより大きく、より高速なコンピューターの副産物として出現すると長年主張してきた。彼は、コンピューターが自身のプログラムをインテリジェントに改善できる時点である「シンギュラリティ」という概念を生み出しました。同氏は、これが実現すれば、AI システムの知能は指数関数的に増大し、すぐに超人的な知能レベルに達するだろうと指摘した。カーツワイル氏は「シンギュラリティ」が2045年頃に起こると予測している。

つまり、処理能力だけで強力な AI を作成できるとは想像しにくいのです。 1970 年代のコンピューターを使用する場合でも、今日の高度なコンピューターを使用する場合でも、プログラムがロードされていないと、コンピューターは何も実行できません。どちらかのコンピュータにワープロソフトをロードすると、ワープロ処理のみが可能になります。より新しい、より現代的なコンピューターは、より速く応答し、より大きな文書を処理できますが、依然としてワードプロセッシングに制限されています。将来、コンピューターでも同じことが起こるでしょう。

より高速なコンピューターだけでは、人工知能は生成されません。スティーブン・ピンカーは「処理能力の向上は、すべての問題の万能薬ではない」と述べています。強力な AI が実現される可能性は低いですが、プログラミングと学習のアルゴリズムは非常に複雑になり、非常に強力なコンピューターが必要になる可能性があります。

強力な人工知能は可能か？

限定的な AI システムの背後にあるテクノロジーは、「邪悪なロボット」に発展することはできません。業界では強力な人工知能を実現する方法についていくつかのアイデアが提案されていますが、これらのアイデアは明確ではありません。 1950 年代後半以来、AI 研究者は強力な AI を作成する方法についてさまざまなアイデアを考案してきましたが、どれも成功しておらず、現在のアイデアの方が優れているという証拠もありません。

アレン人工知能研究所のCEO、オレン・エツィオン氏は、強力なAIの実現に対する楽観論と不安は、いずれも特定分野に特化したAIシステムの成功から生じていると述べた。狭義の AI に対するこの楽観主義は、当然のことながら、強い AI の見通しに対する楽観主義へと広がります。

人は生きている間にタイムトラベルすることはできないかもしれない。テクノロジーによって、人間が冬眠したり透明人間になったり、テレポーテーションで人間の思考をコンピューターに入力したり、さらには人間の老化プロセスを逆転させたりできるようになるのではないかと空想する人もいるかもしれない。もしそうだとしたら、人工知能と「邪悪なロボット」を同じカテゴリーにまとめるべきだろう。

原題: Don't Fear Artificial General Intelligence、著者: Steve Shwartz

[51CTOによる翻訳。パートナーサイトに転載する場合は、元の翻訳者と出典を51CTO.comとして明記してください]