AIの進化:「テクノロジーは2つの道に分かれる」

AIの進化:「テクノロジーは2つの道に分かれる」

この記事はWeChatの公開アカウント「Product Second Sister」から転載したもので、著者はProduct Second Sisterです。この記事を転載する場合は、Product Second Sister公式アカウントまでご連絡ください。

1. レビュー

前回の記事では、AI の歴史における先駆者 2 人についてお話ししました。

マービン・ミンスキー: 世界初の強化学習ニューラルネットワーク SNARC を発明

フランク・ローゼンブラット: AI 史上最も基本的な画像認識を可能にした世界初のパーセプトロンを発明しました。

マーヴィンとフランクは高校の同窓生でもあり、二人とも有名なブロンクス科学高校(ノーベル賞受賞者を輩出していることで知られる米国のトップ高校)の出身で、学友でもあります。

写真

しかし、時が経つにつれ、二人は学問的に別々の道を歩むことになった。実際、AI の初期の頃は、知能を実現する方法は、シンボリズムとコネクショニズムの 2 つの陣営に分かれていました。

  • シンボリズム: 簡単に言えば、「プログラミング言語 (シンボル)」を通じて機械に知能を「教える」ことです。言い換えれば、すべての機械操作のルールは、プログラムにルールを注入することで生成される知能です。
  • コネクショニズム:簡単に言えば、人間の脳のニューロンの「接続」プロセスをシミュレートすることで、機械が自ら「学習」し、知能化の目的を達成できるようにするというものです。これは、前回の記事で述べた「パーセプトロン」から始まるニューラルネットワークアルゴリズムです。現在よく知られている ChatGPT および AIGC ツールは、主に最下層でコネクショニスト アルゴリズムを使用しています。

写真

2. 象徴主義の誕生

記号化の誕生の最も代表的な産物は、ジョン・マッカーシー(1971年チューリング賞受賞者)が作成したLISP言語です。コンピュータ言語を研究した友人たちは、LISPを「先祖」を崇拝するかのように語ります。2000年代にも、LISPの「ルネッサンス」がありました。類推すると、LISPとコンピュータ言語の関係は、幾何学における「要素」の関係と同じです。 Python、js、その他皆さんがよくご存知の言語も、LISP にまで遡ることができます。

写真

オブジェクト プログラミングの父 (2003 年チューリング賞受賞者) であるアラン ケイは、「オブジェクト指向プログラミングのインスピレーションの一部は LISP から得た」と述べています (アラン ケイの自伝を参照)。

写真

今日、LISP と人工知能の関係を理解するのは難しいかもしれません。ある友人は、LISP 言語はおもちゃのようなものだとさえ言っていました。しかし、ACM(Association for Computing Machinery)の公式ウェブサイトを見ると、ジョン・マッカーシーが60年前に人工知能の研究のための重要なツールを作成するためにLISPを作成したことがわかります。

写真

もしジョン・マッカーシーがタイムトラベルして今日まで生きていたとしたら、彼はおそらくプログラマーの肩をたたいてこう言うだろう。「おや、君が今やっていることは、当時の私の「人工知能」よりずっと優れているね。」

もちろん、その後の記号の発展は、LISP プログラミング言語に限定されるものではありません。大まかに言えば、2010 年代以前は、シンボリズムとそこから派生したさまざまな機械学習アルゴリズムが AI の歴史の大部分を占めており、コネクショニズムの発展の余地はわずかしか残されていませんでした。象徴主義については今は脇に置いて、まずはコネクショニズムがいかに大きな打撃を受けたかを見てみましょう。

3. コネクショニズムが打撃を受ける

もともと、1956年にAIが誕生した後、学術界が2つの派閥に分かれ、両派閥が米軍から「後援」資金を受け取っていたのは当然のことでした。1960年代には、2つの派閥間の力の差はそれほど大きくなかったと言えます。

【注釈】前回の記事で触れたフランク・ローゼンブラットの「パーセプトロン・マークI」に関するニューヨークタイムズの記事の当時のタイトルは「海軍の新装置は実践で学習:心理学者が読み取り、賢くなるように設計されたコンピュータの胚を披露」であり、「パーセプトロン・マークI」が軍事用に開発されたものであることがわかる。マービン・ミンスキーは晩年のインタビューで、1970 年以前には米国防高等研究計画局 (DARPA) が科学研究に多額の投資を行っており、この時期は「AI の黄金時代」と呼ばれていたとも述べています。

しかし、時が経つにつれ、マーヴィンが属していた象徴主義陣営はますます勢力を増し、その中でも 3 人の偉大な人物について言及しなければなりません。

  • ジョン・マッカーシー: 彼とマーヴィンはプリンストン大学博士課程の同級生で、彼はMITで教鞭をとり、マーヴィンの同僚でもありました。マッカーシーはLISP言語の発明者であり、後に1971年にチューリング賞を受賞しました。
  • アレン・ニューウェル: 世界トップ 3 のコンピューター スクールの 1 つであるカーネギーメロン大学 (CMU) を設立し、1975 年にチューリング賞を受賞しました。
  • ハーバート・サイモン: アレン・ニューウェルとともに CMU (カーネギーメロン大学) を設立。後に 1975 年にアレン・ニューウェルとともにチューリング賞を受賞。1978 年にはノーベル経済学賞も受賞。

この3人にマービン・ミンスキーを加えたものが当時のAI分野の4大巨頭と言え、その地位は今日のディープラーニングの3大巨頭(ヒントン、ベンジャミン、ルカン)に劣らない。フランク・ローゼンブラットのコネクショニズムに関する研究は主にコーネル大学で行われており、そこでは彼は孤独な人物であるように思われる。

写真

この力の不均衡は、1969 年にマービン ミンスキーの著書「パーセプトロン」で頂点に達しました。この本はフランクが発明した「パーセプトロン」にちなんで名付けられましたが、コネクショニズムを支持する声明ではありませんでした。この本で、マービン ミンスキーはコネクショニズムの欠陥を明確に指摘しており、それは「理解していないのではなく、理解しているので十分ではないと思う」という意味のようです。同年、マービン・ミンスキーはコンピュータ業界最高の賞であるチューリング賞を受賞しました。

写真

当時、人工知能は学術界ではまだ「インキュベーション」段階にあり、市場には登場していなかったと考えられます。チューリング賞受賞者に対抗する意志のある科学研究者はほとんどいませんでした。コネクショニストの論文が発表された場合、査読者はそれを直接拒否すると予想されます。

さらに悪いことに、1970 年に「コネクショニズムの父」フランクが事故で突然亡くなりました。コネクショニズムの唯一の「討論者」もまた没落したスーパースターであり、コネクショニズムの厳しい冬の到来を予兆していました。

写真

4. コネクショニズムの欠点は何ですか?

学術的な議論はさておき、マービン・ミンスキーがコネクショニズムに反対する理由を見てみましょう。マービン・ミンスキーの「パーセプトロン」では、コネクショニズムでは最も単純な XOR 問題さえも解けないと述べられています。次に、XOR 問題を例にとり、マービンの視点を見てみましょう。

4.1 XORとは何か

XOR は論理計算であり、数学記号では A (XOR) B と表されます。たとえば、試験問題を採点する際、機械は標準解答と受験者の解答を比較します。両者が矛盾している場合は誤りとしてマークされ、矛盾していない場合は正解としてマークされます。簡単にするために、以下に示すように、真偽の質問(答えは Y または N)を例に挙げてみましょう。

写真

このロジックは、次の 2 つの入力値を使用してモデル化されます。

  • X1は標準的な答えです
  • X2は候補者の答えです

出力には 1 つの値があります。

  • X1 と X2 が同じ場合、出力は正しく、0 で表されます。
  • X1とX2が異なる場合、エラーが出力され、1で表される。

Y を 1、N を 0 で表すと、対応する入力と出力には次の 4 つの可能性があります。

X1(入力)

X2(入力)

Y = XOR(X1,X2)

0

0

0

0

1

1

1

0

1

1

1

0

これは非常に単純なケースですが、コネクショニストアプローチを使用して解決しようとすると、それほど簡単ではないようです。

4.2 コネクショニズムは XOR 問題を解決できるか?

前回の記事で述べたニューロンモデルによれば、2つの入力があると仮定すると、

  • その時の出力は1です。
  • のとき、出力は 0 になります。

これを座標系に配置します。コネクショニストの見解では、ニューロンは重みパラメータを学習できるため、次の図のように線を引いて分類することができます。

  • 直線より上の領域では、ニューロンの出力は 1 です。
  • 直線の下の領域では、ニューロンの出力は 0 です。

写真

しかし、XOR演算の2つの入力値を前と同じように座標系にプロットすると、XOR入力値(0,0)、(0,1)、(1,0)、(1,1)の4組を2つのカテゴリに分割する直線が期待されます。

  • (0,0) と (1,1) は同じカテゴリに属し、対応するニューロンの出力は 0 です (下の図の赤い点が示すとおり)。
  • (0,1) と (1,0) は同じカテゴリに属し、対応するニューロンの出力は 1 です (下の図の緑色の点が示すとおり)。

赤い点と緑の点を分ける線を見つけることができますか?答えはノーです。

写真

パーセプトロンではこの XOR 問題を簡単には解決できないようです。これは、マーヴィンがコネクショニズムに異議を唱えるときによく引用する例でもあります。人間の神経ネットワークをシミュレートするコネクショニズムは本当にそれほど脆弱なのでしょうか?


<<:  新しいNeRF技術は、ビデオを簡単に制御できる3Dモデルに変換できます。

>>:  大規模モデルで長いテキストを評価する方法: 4 つの主要な評価データセットのタスク設計とデータセット構築ソリューション

ブログ    
ブログ    
ブログ    

推薦する

「クローズドループ」に向けての運転 | LMDrive: LLM に基づく初のクローズドループ エンドツーエンド自動運転

この記事は、Heart of Autonomous Driving の公開アカウントから許可を得て転...

...

Google Brain エンジニアの講演: TensorFlow とディープラーニング

この記事は、Google Brain エンジニアの Zhou Yuefeng 氏が QCon Sha...

ビジネスに大きな影響を与える 5 つの AI テクノロジー

企業は、画像認識、音声認識、チャットボット、自然言語生成、感情分析がビジネスの運営方法にどのような変...

合成データは AI/ML トレーニングの未来を推進するでしょうか?

人工知能や機械学習 (AI/ML) をトレーニングするために現実世界のデータを収集することは、時間が...

...

1 つの記事で 10 個のアルゴリズムをカバーします。基本的なグラフアルゴリズムの視覚的な説明

[[343053]]グラフは、ソーシャル メディア ネットワーク、Web ページやリンク、GPS の...

レースをしながら「機械学習」を学ぶ? 380万人が観ていなかったら、信じられなかったでしょう。

[[440972]] 「秋名山には人が少なく、ドライバー同士が競争することが多い。今は自動運転車が...

AIは「技術力」の集中を加速させる。巨大企業によるAIの独占は深刻な結果をもたらすのか?

AI テクノロジーがかなり集中化しており、テクノロジー大手が優位に立っていることにお気づきですか?...

IoTミツバチ:私たちの未来を救う技術

ミツバチは植物から植物へと飛び回って餌を探しながら、受粉という重要な役割も担っています。しかし、過去...

AI は世界を変える。e コマースのビジネス シナリオで顔認識をどのように活用するのでしょうか?

【51CTO.comオリジナル記事】 1. 概要今日、コンピュータービジョンとディープラーニングの...

沈興陽博士:30年間の科学研究で私が遭遇した落とし穴

先日開催されたX-Talkでは、米国工学アカデミーの外国人会員であり、XiaoIce会長でもあるハリ...

マイクロソフトは、Bingチャットのベテラン向けにエキスパートモードの導入を検討中:より複雑なUIとより豊富な機能

7月26日、マイクロソフト広告およびウェブサービスのCEOであるミハイル・パラキン氏は、ネットユーザ...

...

Tensorflow はディープラーニングに基づいて画像補完をどのように実装するのでしょうか?

[[191038]]ブランドン・エイモス編集:モリー・ハン・シャオヤン目次1. はじめに2. ステ...