この記事はWeChatの公開アカウント「Product Second Sister」から転載したもので、著者はProduct Second Sisterです。この記事を転載する場合は、Product Second Sister公式アカウントまでご連絡ください。 1. レビュー前回の記事では、AI の歴史における先駆者 2 人についてお話ししました。 マービン・ミンスキー: 世界初の強化学習ニューラルネットワーク SNARC を発明 フランク・ローゼンブラット: AI 史上最も基本的な画像認識を可能にした世界初のパーセプトロンを発明しました。 マーヴィンとフランクは高校の同窓生でもあり、二人とも有名なブロンクス科学高校(ノーベル賞受賞者を輩出していることで知られる米国のトップ高校)の出身で、学友でもあります。 写真 しかし、時が経つにつれ、二人は学問的に別々の道を歩むことになった。実際、AI の初期の頃は、知能を実現する方法は、シンボリズムとコネクショニズムの 2 つの陣営に分かれていました。
写真 2. 象徴主義の誕生記号化の誕生の最も代表的な産物は、ジョン・マッカーシー(1971年チューリング賞受賞者)が作成したLISP言語です。コンピュータ言語を研究した友人たちは、LISPを「先祖」を崇拝するかのように語ります。2000年代にも、LISPの「ルネッサンス」がありました。類推すると、LISPとコンピュータ言語の関係は、幾何学における「要素」の関係と同じです。 Python、js、その他皆さんがよくご存知の言語も、LISP にまで遡ることができます。 写真 オブジェクト プログラミングの父 (2003 年チューリング賞受賞者) であるアラン ケイは、「オブジェクト指向プログラミングのインスピレーションの一部は LISP から得た」と述べています (アラン ケイの自伝を参照)。 写真 今日、LISP と人工知能の関係を理解するのは難しいかもしれません。ある友人は、LISP 言語はおもちゃのようなものだとさえ言っていました。しかし、ACM(Association for Computing Machinery)の公式ウェブサイトを見ると、ジョン・マッカーシーが60年前に人工知能の研究のための重要なツールを作成するためにLISPを作成したことがわかります。 写真 もしジョン・マッカーシーがタイムトラベルして今日まで生きていたとしたら、彼はおそらくプログラマーの肩をたたいてこう言うだろう。「おや、君が今やっていることは、当時の私の「人工知能」よりずっと優れているね。」 もちろん、その後の記号の発展は、LISP プログラミング言語に限定されるものではありません。大まかに言えば、2010 年代以前は、シンボリズムとそこから派生したさまざまな機械学習アルゴリズムが AI の歴史の大部分を占めており、コネクショニズムの発展の余地はわずかしか残されていませんでした。象徴主義については今は脇に置いて、まずはコネクショニズムがいかに大きな打撃を受けたかを見てみましょう。 3. コネクショニズムが打撃を受けるもともと、1956年にAIが誕生した後、学術界が2つの派閥に分かれ、両派閥が米軍から「後援」資金を受け取っていたのは当然のことでした。1960年代には、2つの派閥間の力の差はそれほど大きくなかったと言えます。 【注釈】前回の記事で触れたフランク・ローゼンブラットの「パーセプトロン・マークI」に関するニューヨークタイムズの記事の当時のタイトルは「海軍の新装置は実践で学習:心理学者が読み取り、賢くなるように設計されたコンピュータの胚を披露」であり、「パーセプトロン・マークI」が軍事用に開発されたものであることがわかる。マービン・ミンスキーは晩年のインタビューで、1970 年以前には米国防高等研究計画局 (DARPA) が科学研究に多額の投資を行っており、この時期は「AI の黄金時代」と呼ばれていたとも述べています。 しかし、時が経つにつれ、マーヴィンが属していた象徴主義陣営はますます勢力を増し、その中でも 3 人の偉大な人物について言及しなければなりません。
この3人にマービン・ミンスキーを加えたものが当時のAI分野の4大巨頭と言え、その地位は今日のディープラーニングの3大巨頭(ヒントン、ベンジャミン、ルカン)に劣らない。フランク・ローゼンブラットのコネクショニズムに関する研究は主にコーネル大学で行われており、そこでは彼は孤独な人物であるように思われる。 写真 この力の不均衡は、1969 年にマービン ミンスキーの著書「パーセプトロン」で頂点に達しました。この本はフランクが発明した「パーセプトロン」にちなんで名付けられましたが、コネクショニズムを支持する声明ではありませんでした。この本で、マービン ミンスキーはコネクショニズムの欠陥を明確に指摘しており、それは「理解していないのではなく、理解しているので十分ではないと思う」という意味のようです。同年、マービン・ミンスキーはコンピュータ業界最高の賞であるチューリング賞を受賞しました。 写真 当時、人工知能は学術界ではまだ「インキュベーション」段階にあり、市場には登場していなかったと考えられます。チューリング賞受賞者に対抗する意志のある科学研究者はほとんどいませんでした。コネクショニストの論文が発表された場合、査読者はそれを直接拒否すると予想されます。 さらに悪いことに、1970 年に「コネクショニズムの父」フランクが事故で突然亡くなりました。コネクショニズムの唯一の「討論者」もまた没落したスーパースターであり、コネクショニズムの厳しい冬の到来を予兆していました。 写真 4. コネクショニズムの欠点は何ですか?学術的な議論はさておき、マービン・ミンスキーがコネクショニズムに反対する理由を見てみましょう。マービン・ミンスキーの「パーセプトロン」では、コネクショニズムでは最も単純な XOR 問題さえも解けないと述べられています。次に、XOR 問題を例にとり、マービンの視点を見てみましょう。 4.1 XORとは何かXOR は論理計算であり、数学記号では A (XOR) B と表されます。たとえば、試験問題を採点する際、機械は標準解答と受験者の解答を比較します。両者が矛盾している場合は誤りとしてマークされ、矛盾していない場合は正解としてマークされます。簡単にするために、以下に示すように、真偽の質問(答えは Y または N)を例に挙げてみましょう。 写真 このロジックは、次の 2 つの入力値を使用してモデル化されます。
出力には 1 つの値があります。
Y を 1、N を 0 で表すと、対応する入力と出力には次の 4 つの可能性があります。
これは非常に単純なケースですが、コネクショニストアプローチを使用して解決しようとすると、それほど簡単ではないようです。 4.2 コネクショニズムは XOR 問題を解決できるか?前回の記事で述べたニューロンモデルによれば、2つの入力があると仮定すると、
これを座標系に配置します。コネクショニストの見解では、ニューロンは重みパラメータを学習できるため、次の図のように線を引いて分類することができます。
写真 しかし、XOR演算の2つの入力値を前と同じように座標系にプロットすると、XOR入力値(0,0)、(0,1)、(1,0)、(1,1)の4組を2つのカテゴリに分割する直線が期待されます。
赤い点と緑の点を分ける線を見つけることができますか?答えはノーです。 写真 パーセプトロンではこの XOR 問題を簡単には解決できないようです。これは、マーヴィンがコネクショニズムに異議を唱えるときによく引用する例でもあります。人間の神経ネットワークをシミュレートするコネクショニズムは本当にそれほど脆弱なのでしょうか? |
<<: 新しいNeRF技術は、ビデオを簡単に制御できる3Dモデルに変換できます。
>>: 大規模モデルで長いテキストを評価する方法: 4 つの主要な評価データセットのタスク設計とデータセット構築ソリューション
この記事は、Heart of Autonomous Driving の公開アカウントから許可を得て転...
この記事は、Google Brain エンジニアの Zhou Yuefeng 氏が QCon Sha...
企業は、画像認識、音声認識、チャットボット、自然言語生成、感情分析がビジネスの運営方法にどのような変...
人工知能や機械学習 (AI/ML) をトレーニングするために現実世界のデータを収集することは、時間が...
[[343053]]グラフは、ソーシャル メディア ネットワーク、Web ページやリンク、GPS の...
[[440972]] 「秋名山には人が少なく、ドライバー同士が競争することが多い。今は自動運転車が...
AI テクノロジーがかなり集中化しており、テクノロジー大手が優位に立っていることにお気づきですか?...
ミツバチは植物から植物へと飛び回って餌を探しながら、受粉という重要な役割も担っています。しかし、過去...
【51CTO.comオリジナル記事】 1. 概要今日、コンピュータービジョンとディープラーニングの...
先日開催されたX-Talkでは、米国工学アカデミーの外国人会員であり、XiaoIce会長でもあるハリ...
7月26日、マイクロソフト広告およびウェブサービスのCEOであるミハイル・パラキン氏は、ネットユーザ...
[[191038]]ブランドン・エイモス編集:モリー・ハン・シャオヤン目次1. はじめに2. ステ...