人工知能の65年の簡単な歴史：マッカーシーからヒントンまで、人類はどのようなAIを追求しているのでしょうか？

人工知能の発展は65年の歴史があり、厳しい冬も栄光も経験してきました。シンボリックエキスパートシステムから今や無敵のニューラルネットワークまで、再び寒い冬が来るのではないかと心配する人が多い一方で、人工知能の春も来ていると言う楽観論者もいる。人工知能の開発の始まりまで遡ると、答えが得られるかもしれません。

1956 年の夏、数学者とコンピューター科学者のグループがダートマス大学数学科の入っている建物の最上階を占拠しました。約8週間、彼らは新しい研究分野の可能性を想像しました。

当時ダートマス大学の若き教授だったジョン・マッカーシーは、次のような仮説を探求するシンポジウムの企画書を書いた際に「人工知能」という言葉を作り出した。

「（人間の）学習のあらゆる側面や知能の他の特徴は、原理的には非常に正確に記述できるため、機械でシミュレートすることができます。」

[[428353]]

その伝説的な会議で、研究者たちは今日私たちが知っている人工知能の概略を描きました。これにより、最初の研究者グループである「記号学者」が誕生し、記号に基づくエキスパート システムは 1980 年代にピークに達しました。

会議の後の数年間で、「コネクショニスト」が登場し、数十年にわたって人工ニューラルネットワークに取り組み、最近になって復活し始めた。

2つのアプローチは長い間、相互に排他的であると考えられており、資金獲得をめぐる競争が研究者間の敵意を生み出し、双方とも汎用人工知能への道を歩んでいると信じていた。

しかし、その会議から数十年を振り返ると、AIの冬が何度か訪れ、研究者の希望は打ち砕かれてきた。 AI が産業に革命を起こし、世界中の労働力を一変させる恐れがあるにもかかわらず、多くの専門家は、今日の AI は限界に達したのではないかと疑問を抱いています。

チャールズ・チョイが「人工知能が失敗した7つの理由」で述べているように、今日のディープラーニングシステムの弱点はますます明らかになりつつあるが、研究者たちは危機感をほとんど示していない。彼は、そう遠くない将来にもう一度 AI の冬が来るかもしれないと考えているが、それはまた、優れたエンジニアたちがついに私たちを機械思考の永遠の夏へと導く時なのかもしれない。

シンボリック人工知能を開発する研究者の目標は、コンピューターに世界について明示的に教えることです。彼らの哲学では、知識は一連のルールで表現でき、コンピュータ プログラムはロジックを使用してこの知識を操作できるとされています。ニューウェルやハーバート・サイモンなどの象徴主義の先駆者たちは、象徴体系に十分な構造化された事実と前提があれば、集約された結果によって最終的に汎用的な知能が生み出されるだろうと信じていました。

一方、コネクショニストは生物学にインスピレーションを受け、情報を取り込んで独自に理解できる「人工ニューラルネットワーク」に取り組んでいます。

代表的な例の 1 つは、米国海軍の資金提供を受けてコーネル大学の心理学者フランク・ローゼンブラット氏が構築した実験機械、パーセプトロンです。 400 個の光センサーが網膜として機能し、約 1,000 個のニューロンに情報を提供し、ニューロンがそれを処理して単一の出力を生成します。 1958年、ローゼンブラットはニューヨークタイムズの記事で「機械は人間の脳のように考える最初の装置になるだろう」と語ったと引用されています。

抑えきれない楽観主義により、米国と英国の政府機関は研究に資金を注ぎ込むようになった。 1967年、人工知能の父とされるMITのマービン・ミンスキー教授は、「1世代以内に『人工知能』を創る問題は実質的に解決されるだろう」とさえ書いている。

しかし、その後すぐに、AI研究が期待通りの成果をあげられず、期待以上の実質的な進歩も見られなかったため、政府の資金援助は枯渇し始めた。 1970 年代には最初の AI の冬が訪れました。

しかし、本物のAI研究者は諦めなかった。

1980 年代初頭までに、シンボリック AI は、法律や医学などの特定の分野向けのエキスパート システムの開発に資金提供を受けた研究者によって全盛期を迎えました。投資家たちは、これらのシステムがすぐに商業的に応用されることを期待している。

最も有名なシンボリック AI プロジェクトは、研究者のダグラス レナットが常識を機械にエンコードすることを目的とした Cyc と呼ばれるプロジェクトに取り組み始めた 1984 年に始まりました。

今日まで、Lenat 氏と彼のチームは、Cyc のオントロジーに用語 (事実と概念) を追加し、ルールを通じてそれらの関係を説明し続けています。 2017 年までに、チームには 150 万の条項と 2,450 万のルールがありました。しかし、Cyc が汎用知能を実現するにはまだ遠い道のりです。

1980 年代後半、ビジネス界の冷風が AI の第二の冬をもたらしました。エキスパート システムの市場は、特殊なハードウェアを必要とし、汎用性の高いデスクトップ コンピュータと競争できなかったため崩壊しました。 1990 年代になると、どちらの戦略も失敗したように思われたため、シンボリック AI やニューラル ネットワークを研究することはもはや学術的には流行らなくなっていました。

しかし、エキスパート システムに代わる安価なコンピューターはコネクショニストにとって恩恵でした。コネクショニストは突然、人工ニューロンの多くの層を持つニューラル ネットワークを実行するのに十分なコンピューター パワーを利用できるようになったのです。このようなシステムはディープニューラルネットワークと呼ばれ、それが実装する手法はディープラーニングと呼ばれます。

トロント大学のジェフリー・ヒントン氏は、ニューラルネットワークが間違いから学習できるように、バックプロパゲーションと呼ばれる原理を実装しました。

ヒントンのポスドクの一人であるヤン・ルカンは 1988 年に AT&T ベル研究所に加わり、そこで彼とヨシュア・ベンジオというポスドクは光学文字認識にニューラル ネットワークを使用しました。バンク オブ アメリカはすぐにこの技術を小切手処理に採用しました。

ヒントン、ルカン、ベンジオは2019年にチューリング賞を受賞した。

しかし、ニューラル ネットワークの支持者たちは依然として大きな問題に直面しています。ニューラル ネットワークの理論的枠組みはますます計算能力を高めていますが、少なくともほとんどのアプリケーションでは、モデルをトレーニングするのに十分なデータが世の中に存在しないのです。人工知能の春はまだ来ていません。

しかし、過去 20 年間ですべてが変わりました。

特にインターネットの急成長により、突然データがあらゆる場所に存在するようになりました。

デジタルカメラやスマートフォンはインターネット上に画像を投稿し、WikipediaやRedditなどのサイトには自由にアクセスできるデジタルテキストが満載され、YouTubeには膨大な数の動画が揃っています。十分なデータは、ニューラル ネットワークをトレーニングするための基礎でもあります。

もう一つの大きな進展はゲーム業界からもたらされました。 Nvidia などの企業は、ビデオ ゲームで画像をレンダリングするために必要な重い処理を行うグラフィックス プロセッシング ユニット (GPU) と呼ばれるチップを開発しています。ゲーム開発者は、複雑なシェーディングやジオメトリ変換に GPU を使用します。膨大な計算能力を必要とするコンピューター科学者は、ニューラル ネットワークのトレーニングなど、他のタスクにも GPU を使用できることに気付きました。

Nvidia もこの傾向に気づき、研究者が一般的なデータ処理に GPU を使用できるようにする CUDA を開発しました。

2012 年、ヒントン研究室のアレックス・クリジェフスキーという学生が CUDA を使用してニューラル ネットワーク コードを作成しました。AlexNet モデルの効果は学術界全体を驚かせました。

Alex 氏は、ImageNet コンペティションのためにこのモデルを開発しました。このコンペティションは、100 万枚を超える画像を 1,000 種類のオブジェクトに分類できるコンピューター ビジョン システムを構築するためのデータを AI 研究者に提供します。

Krizhevsky 氏の AlexNet は画像認識に使用された最初のニューラル ネットワークではありませんでしたが、2012 年のコンテストでのパフォーマンスは世界的な注目を集めました。 AlexNet のエラー率は 15% でしたが、2 位の候補のエラー率は 26% でした。ニューラル ネットワークの勝利は、GPU のパワーと 65 万個のニューロンで構成されるその深い構造によるものでした。

ImageNet コンペティションの 2 年目には、ほぼ全員がニューラル ネットワークを使用しました。 2017年までに、多くの参加者のエラー率が5%まで低下したため、主催者はコンテストを終了しました。

ディープラーニングは今回本当に始まりました。

GPU の計算能力と、ディープラーニング システムのトレーニングに使用される膨大な量のデジタル データのおかげで、自動運転車は道路を走行でき、音声アシスタントはユーザーの音声を認識し、Web ブラウザーは数十の言語間で翻訳できるようになります。

AIはまた、ボードゲームの囲碁や戦略ゲームのスタークラフトIIなど、これまで機械では勝てないと考えられていたいくつかのゲームで人間のチャンピオンに勝利した。

人工知能の発展は、パターンを識別し、各アプリケーションシナリオで複雑な決定を下すための新しい方法を提供することで、あらゆる分野に恩恵をもたらしています。

しかし、成長を続けるディープラーニングの分野では、ニューラル ネットワークのレイヤー数を増やし、それらのトレーニングに費やす GPU 時間を増やすことに依存してきました。

AI研究会社OpenAIの分析によると、最大規模のAIシステムをトレーニングするために必要な計算能力は、2012年以前は2年ごとに、それ以降は3.4か月ごとに倍増している。

ニール・C・トンプソン氏とその同僚が『Deep Learning’s Diminshing Returns』で書いているように、多くの研究者は、AI の計算需要が持続不可能な軌道に乗っており、地球のエネルギーサイクルを混乱させる可能性があり、研究者はこれらのシステムを構築する既存の方法から脱却する必要があると懸念しています。

ニューラルネットワーク陣営が象徴主義者を完膚なきまでに打ち負かしたように見えるかもしれないが、実のところ、この戦いの結果はそれほど単純ではない。

たとえば、OpenAI のロボットハンドは、ニューラル ネットワークとシンボリック AI の両方を使用してルービック キューブを操作し、解くことで話題になりました。これは、ニューラル ネットワークを知覚に、シンボリック人工知能を推論に使用する多くの新しいニューシンボリック システムの 1 つであり、効率性と解釈可能性の両方を実現するハイブリッド アプローチです。

ディープラーニング システムは不透明で神秘的な方法で推論するブラック ボックスになりがちですが、ニューラル シンボリック システムを使用すると、ユーザーは内部を覗き込み、AI がどのように結論に達したかを理解できます。米陸軍はブラックボックスシステムへの依存に特に慎重であるため、陸軍の研究者はロボットや自動運転車両に動力を供給するためのさまざまなハイブリッドアプローチを研究している。

現在、ディープラーニング システムは特定のタスク用に構築されており、その機能をあるタスクから別のタスクに一般化することはできません。さらに、新しいタスクを学習するには、AI が以前のタスクを解決する方法について知っていたことをすべて消去する必要があることが多く、これは壊滅的な忘却と呼ばれる問題です。

ロンドンにあるグーグルの人工知能研究所「ディープマインド」では、著名なロボット工学者ライア・ハドセル氏がさまざまな高度な技術を駆使してこの問題に取り組んでいる。他の研究者たちは、学習方法を学習し、そのスキルをあらゆる分野やタスクに適用する AI システムの作成を目指して、新しいタイプのメタ学習に取り組んでいます。

これらすべての戦略は、研究者が最大の目標である、子供たちの発達に見られるような流動性知能を備えた人工知能を構築するという目標を達成するのに役立つ可能性があります。

幼い子どもは結論を導き出すのに大量のデータを必要としません。彼らがすることは、世界を観察し、世界がどのように機能するかについてのメンタルモデルを作成し、行動を起こし、行動の結果を使用してそのメンタルモデルを調整することだけです。理解するまで繰り返します。このプロセスは非常に効率的かつ効果的であるため、今日の最先端の人工知能の能力をはるかに超えています。

現在、AI 研究に記録的なレベルの資金が投入されているにもかかわらず、私たちの未来が失敗するという証拠はほとんどありません。世界中の企業が AI システムを導入しているのは、収益がすぐに向上し、決して後悔しないからです。

研究者たちは、ディープラーニングをより柔軟で強力なものに適応させる方法を見つけるのでしょうか。あるいは、65 年間の探究で発見されていなかった、機械を人間に近づける新しい方法を考案するのでしょうか。