AI 開発の方向性に関する大論争: ハイブリッド AI?強化学習？実践的な知識と常識をAIに統合する？

[[396127]]

著者: Ben Dickson はソフトウェア エンジニアであり、テクノロジーが解決および生み出す問題を調査する TechTalks ブログの創設者です。

膨大な量のデータを収集、保存、処理する能力の向上によって実現可能になった AI の一分野であるディープラーニングの分野における驚異的な進歩のおかげで、これは人工知能の世界にとって非常に大きな意味を持ちます。今日、ディープラーニングは科学的な研究テーマであるだけでなく、多くの日常的なアプリケーション システムの重要なコンポーネントでもあります。

しかし、10 年にわたる研究と応用により、現状ではディープラーニングは、人間レベルの知能を備えた AI を構築するという困難な課題を克服するための究極のソリューションではないことが明らかになりました。

AI を次のレベルに押し上げるには何が必要でしょうか?より多くのデータとより大きなニューラル ネットワークが必要ですか?新しいディープラーニングアルゴリズムが必要ですか?それとも、ディープラーニング以外の方法が必要なのでしょうか?

この話題はAIコミュニティで白熱した議論を巻き起こし、先週開催されたMontreal.AIのオンラインディスカッションでも中心的テーマとなった。 「AI討論会2 - AIの進歩：学際的アプローチ」と題された討論会には、さまざまな背景や分野の科学者が参加しました。

ハイブリッドAI

討論会の共同司会を務めた認知科学者のゲイリー・マーカス氏は、大量のデータ要件、知識を他の領域に移転する能力の低さ、不透明性、推論と知識表現の欠如など、ディープラーニングのいくつかの欠点を繰り返し指摘した。

純粋なディープラーニングのアプローチを声高に批判してきたマーカス氏は、2020年初頭に論文を発表し、学習アルゴリズムとルールベースのソフトウェアを組み合わせたハイブリッドアプローチを提案した。

他の講演者も、ハイブリッド AI がディープラーニングが直面する課題を克服する有望なソリューションであると指摘しました。

「主な課題の1つは、AIの基本的な構成要素を特定し、それをより信頼性が高く、説明可能で、解釈可能なものにする方法だ」とコンピューター科学者のルイス・ラム氏は言う。

ラム氏は『Neural-symbolic Cognitive Reasoning』の共著者であり、その中で論理形式化と機械学習の両方に基づいたニューロシンボリック AI への基礎的なアプローチを提案しています。

「私たちは論理と知識表現を使って推論プロセスを表現し、それを機械学習システムと統合することで、ディープラーニングマシンでニューラル学習を効果的に改革することもできるのです」とラム氏は語った。

進化にインスピレーションを受けて

スタンフォード大学のコンピューターサイエンス教授であり、元Google Cloudの主任AI科学者であるフェイフェイ・リー氏は、進化の歴史を通じて、視覚は常に人間の知能の出現を推進する主な要因の一つであったと強調した。同様に、画像分類とコンピュータービジョンの研究は、過去 10 年間のディープラーニング革命のきっかけとなりました。 Fei-Fei Li 氏は、コンピューター ビジョン システムのトレーニングと評価に使用される数百万枚のラベル付き画像のデータセットである ImageNet を開発しました。

「科学者として、私たちは『次の北極星は何か？』と自問します。北極星は一つではありません」とリー氏は言う。「進化と発展は常に私にとって大きなインスピレーションでした。」

フェイフェイ・リー氏は、人間や動物の知能は能動的な知覚と現実世界との相互作用から生まれるが、現在のAIシステムにはこの機能が著しく欠けていると指摘した。代わりに、AIシステムは人間が選別しラベル付けしたデータに依存している。

「学習、理解、計画、推論を司る知覚と動作の間には、根本的に重要なループがあります」と彼女は語った。「具現化され、探索行動と活用行動を切り替えることができ、マルチモーダルで、マルチタスクで、一般化可能で、多くの場合ソーシャルな AI エージェントがあれば、このループを改善できます。」

スタンフォード大学のフェイフェイ・リー氏の現在の研究室は、知覚と動作を利用して現実世界を理解するインタラクティブエージェントの開発に重点を置いています。

OpenAIの研究者ケン・スタンリー氏も進化から学んだ教訓について語った。 「自然界には、アルゴリズムではまだ説明できないほど強力な進化の特性がいくつかあります。なぜなら、自然界で起こる現象を人間が作り出すことはできないからです」とスタンリー氏は言う。「それらは、進化だけでなく人間自身においても、私たちが追求し理解し続けなければならない特性なのです」

強化学習

コンピューター科学者のリチャード・サットンは、一般的にAIの研究には「計算理論」が欠けていると指摘している。この言葉は、視覚に関する研究で最もよく知られている神経科学者のデビッド・マーによって初めて作られたものである。計算理論は、情報処理システムが何を達成しようとしているのか、そしてなぜその目標を達成しようとしているのかを定義します。

「神経科学では、この目標と思考の目的全般に対する理解が不足しています」とサットン氏は言う。「これはAIにも当てはまりますが、おそらくもっと驚くべきことに、AIではマーの計算理論がさらに十分には発達していません。」サットン氏は、教科書ではAIを単に「機械に人間の仕事をさせること」と定義することが多く、ニューラルネットワークと記号システムをめぐる議論を含むAIコミュニティの最近の認識では、「私たちが何をしようとしているのかをすでに理解しているかのように、特定の目標を達成する方法を検討しています」と付け加えた。

「強化学習は知能に関する最初の計算理論です」とサットン氏は言う。同氏は、エージェントに環境の基本ルールを与え、報酬を最大化する方法を発見させるAIの一分野について言及している。 「強化学習は目標を明確にし、何を、なぜ行うのかを明確にします」とサットン氏は言います。「強化学習では、任意の報酬信号を最大化することが目標です。これを実現するには、エージェントはポリシー、価値関数、生成モデルを計算する必要があります。」

同氏は、この分野では、一般的に合意された知的計算理論をさらに発展させる必要があると付け加え、強化学習が現時点では優れた候補であるものの、他の研究も検討する価値があるかもしれないと認めた。

サットンは強化学習の分野の先駆者であり、このテーマに関する古典的な教科書を出版しています。彼が現在勤務するAI研究所DeepMindは、基本的な強化学習技術にニューラルネットワークを組み込んだ強化学習技術の一種である「深層強化学習」に多額の投資を行っている。近年、DeepMind は深層強化学習を使用して、囲碁、チェス、StarCraft 2 などのゲームを制覇しました。

強化学習は人間や動物の脳の学習メカニズムと驚くほど類似していますが、深層学習を悩ませているのと同じ課題のいくつかに直面しています。強化学習モデルは、最も単純なことでさえ学習するために多くのトレーニングを必要とし、トレーニングされた狭い領域に厳密に制限されます。現在、深層強化学習モデルの開発には非常に高価なコンピューティング リソースが必要であり、この分野の研究は、DeepMind を所有する Google や OpenAI を部分的に所有する Microsoft など、資金力のある少数の企業に限定されています。

現実世界の知識と常識をAIに統合する

ベイジアンネットワークと因果推論に関する研究で知られるコンピューター科学者でチューリング賞受賞者のジュディア・パール氏は、AI システムが入力されたデータを最も効果的に活用するには、実際の知識と常識が必要であると強調している。

「実際の知識とデータを組み合わせたシステムを構築すべきだと思う」とパール氏は述べ、大量のデータを集約し盲目的に処理することだけに基づいたAIシステムは失敗する運命にあると付け加えた。

知識はデータから生まれるものではないとパール氏は言う。代わりに、私たちは脳の生来の構造を使って現実世界とやりとりし、データを使って世界を探索し、そこから学びます。ちょうど新生児が世界を探索するのと同じです。新生児は明確な指示がなくても多くのことを学びます。

「その構造はデータの外部に実装されなければなりません」とパール氏は言う。「たとえ私たちが何らかの魔法でデータからその構造を学んだとしても、それを人間に伝わる形で使う必要があります。」

ワシントン大学のイェジン・チェ教授も、常識の重要性と、入力データと結果を一致させることに重点を置く現在のAIシステムに常識の欠如がもたらす課題を強調した。

チェ・イェジン氏は「今日のディープラーニングは、データセットの背後にあるタスクを理解していなくても、データセットを解釈できる。これは、AIと人間の知能、特に現実世界に関する知識の間に大きな差があるためであり、常識は欠けている重要な要素の1つである」と述べた。

崔一珍氏はまた、推論は無限の領域であると指摘した。推論自体は生成タスクであり、今日のディープラーニングアルゴリズムや評価ベンチマークが適用できる分類タスクとは大きく異なる。 「私たちは決してあまり多くを列挙することはなく、その場で推論するだけです。これは私たちが将来検討する重要な基本的課題の1つになるでしょう」とチェイ氏は語った。

しかし、常識と推論機能も備えた AI をどう実現すればよいのでしょうか?チェイ氏は、記号表現とニューラル表現の組み合わせ、知識を推論に統合すること、分類以上のことを実現するベンチマークの設計など、多数の並行した研究分野に取り組むことを提案しています。

しかし、AI で常識と推論を実現するにはどうすればよいのでしょうか?チェ・イェジン氏は、記号表現とニューラル表現の組み合わせ、推論への知識の組み込み、分類以上の機能を備えたベンチマークの設計など、幅広い並行研究分野を提案しました。

チェ・イェジンは「常識への完全な道はまだ分からない」と語った。彼女はこう付け加えた。「しかし、一つ確かなことは、世界に単に高い建物を建てるだけでは成功しないということです。だから、GPT-4、GPT-5、GPT-6は役に立たないかもしれません。」