チューリング賞受賞者のヨシュア・ベンジオ氏：ディープラーニングの最優先事項は因果関係を理解すること

ディープラーニングは大量のデータからパターンを見つけるのが得意だが、それらの間のつながりを説明することはできない。チューリング賞受賞者のヨシュア・ベンジオ氏は、この状況を変えたいと考えている。

[[279179]]

図: 「因果関係を AI に統合することは大きなことです!」 — ヨシュア・ベンジオ

今年3月、ヨシュア・ベンジオ氏はディープラーニング技術への多大な貢献により、コンピューターサイエンス界最高の栄誉であるチューリング賞を受賞しました。ディープラーニング技術は人工知能の復活の波を引き起こし、無人運転車、即時音声翻訳、顔認識なども徐々に可能にしてきました。

現在、ベンジオ氏は「ディープラーニングはボトルネックに達している」と指摘している。彼は、ディープラーニングがパターン認識を超えて、原因と結果に関するより多くの情報を本当に把握できない限り、その潜在能力を完全に発揮することはなく、真の AI 革命をもたらすことはないと考えています。言い換えれば、ディープラーニングは「なぜ」を理解することから始まるべきです。

モントリオール大学の55歳の教授は、濃い白髪と眉毛を持っている。彼は、ディープラーニング技術は理想的なシナリオでは優れたパフォーマンスを発揮するが、因果関係を推測できなければ人間の知能のレベルに近づくことはできないと説明した。 「因果関係を AI に組み込むことが最優先事項になっています」とベンジオ氏は言う。「現在の機械学習の実装は、AI システムがトレーニングに使用したのと同じ種類のデータを使用して現実世界の問題を解決するようにトレーニングされているという基本的な前提に基づいています。しかし、現実の世界では、必ずしもそうとは限りません。」

ディープラーニングを含む現在の機械学習システムは、高度に専門化される傾向があり、画像内の子猫の認識や音声での音声コマンドの認識など、特定のタスクのみを対象にトレーニングされています。ディープラーニングは、2012 年の導入以来、優れたデータ パターン認識能力を発揮してきました。医療用画像資料からがんの兆候を検出する場合も、アカウント記録から不正行為を特定する場合も、ディープラーニング技術はさまざまな実用的なシナリオで広く使用されています。

しかし、ディープラーニングは本質的に因果関係を認識しません。実際の医師とは異なり、ディープラーニング アルゴリズムでは、特定の画像パターンが病状を示す理由を説明できません。つまり、ディープラーニングは、特定の重大な状況では慎重に使用する必要があります。

原因と結果を理解することで、既存の AI システムはより優れたインテリジェンスと実行効率を実現できるようになります。たとえば、急速に落下する磁器は簡単に破損することをロボットに認識させたい場合、数十個の花瓶を地面に落としてその結果を観察する必要はありません。

ベンジオ氏は、上記の例は自動運転車にも応用できると付け加えた。 「人間は、慎重な運転の重要性を理解するために、多数の事故を経験する必要はありません。なぜなら、私たち人間は心の中で事故のシナリオを想像し、実際に事故が起こったときに精神的に備えることができるからです。」

問題は、AI システムにこの機能をどのように付与するかということです。

ベンジオ氏は自身の研究室で、単純な因果関係を認識できる新しいバージョンのディープラーニングを開発している。彼と彼の同僚は最近、このアプローチを概説した研究論文を発表しました。彼らは、喫煙と肺がんなどの現実世界の現象間の因果関係を確率形式で記述したデータセットを使用しました。そこから、彼らは因果関係を直接含む複数の包括的なデータセットを作成しました。

論文で説明されているアルゴリズムは、基本的に、どの変数に因果関係があるかについて基本的な仮定を立て、さまざまな変数への調整が最初の判断と一致するかどうかをテストします。

機械は最終的にこのアプローチを使用して、物体を落としたときに何が起こるかについて仮説を立て、その物体が床に数回ぶつかる様子を実際に観察して、その結論が正しいかどうかを確認するようになるかもしれません。

ベンジオ氏はすでにAI革命に関わっている。過去数十年にわたり、彼と今年のチューリング賞の他の受賞者数名（トロント大学およびGoogleのジェフリー・ヒントン氏、ニューヨーク大学およびFacebookのヤン・ルカン氏を含む）は、現代のディープラーニングの可能性を解き放つアイデアとエンジニアリング技術を開発してきました。

ディープラーニングは、人工ニューラル ネットワークを使用して数学的な接続を生成および強化し、人間のニューロンとシナプスが学習する方法をシミュレートします。トレーニング データ (画像や音声など) がニューラル ネットワークに入力され、ニューラル ネットワークはトレーニング マテリアルを分析して、正しく応答できるようになるまで調整します。したがって、理論上は、十分なトレーニング画像と十分な計算能力があれば、ディープラーニング プログラムは、写真内のオブジェクトを非常に高い精度で認識するようにトレーニングできます。

ディープラーニングは、人工ニューラル ネットワークを使用して、人間のニューロンとシナプスが接続を形成して強化することで学習する方法を数学的に近似します。画像や音声などのトレーニング データがニューラル ネットワークに入力され、正しく応答するまで徐々に調整されます。ディープラーニング プログラムは、大量のトレーニング画像を見て、十分な計算能力があれば、写真内のオブジェクトを高い精度で認識するようにトレーニングできます。

しかし、ディープラーニングアルゴリズムは一般化が苦手で、あるシナリオで学習した内容を別のシナリオに適用するのは困難です。言い換えれば、ディープラーニングは、鶏の鳴き声と太陽の昇り方など、現象間の相関関係を捉えることしかできず、この相関関係の根本的な理由を考慮することはできません。

他の多くの分野でも因果関係の研究に多くの時間と労力が費やされてきました。ここ数十年で、因果関係を探求するための数学的手法が数多く登場し、社会科学、経済学、疫学など多くの業界の研究パラダイムを完全に変えました。現在、少数の研究者が因果関係と機械学習を組み合わせる研究を始めています。

因果推論への貢献により2011年にチューリング賞を受賞したジュディア・パール氏は、因果推論を真剣に研究したわけではないが、ベンジオ氏の考え方に感銘を受けたと語った。パール氏は最近共著した『The Book of Why: The New Science of Cause and Effect』の中で、原因と結果を推論する能力がなければ、AI の開発は根本的に制限されるだろうと指摘した。

認知科学の実験では、因果関係を理解することが人間の成長、さらには知的発達に不可欠であることも示されていますが、人間がこの重要な知識をどのように獲得するかはまだわかっていません。

ベンジオ氏の因果関係に関する研究は、業界によるこの問題の探求において重要な前進を表しています。まだ小さな一歩ではありますが、ディープラーニングが現実に向かって勇敢に進んでいることがわかります。実際、この技術の応用は急速に普及していますが、「言語理解などのコア領域では依然として深刻な限界に直面している」と述べる専門家が増えています。

インタビューの中で、ベンジオ氏はAIとディープラーニングの実際の能力を誇張しすぎている企業に対しても失望を表明した。同氏は「私の意見では、ビジネス界はこの悪い傾向を逆転させるべきだ。現在の誇大宣伝の雰囲気は強すぎる」と指摘した。

他の研究者は、ディープラーニングへの過度の重点も現在の問題の原因の 1 つであると考えています。ニューヨーク大学名誉教授のゲイリー・マーカス氏は、最近出版された著書『AIの再起動：信頼できる人工知能の構築』の中で、ベンジオ氏が因果推論に重点を置いていることは、テクノロジーの考え方における歓迎すべき変化を示していると指摘している。

同氏は、「現在のディープラーニング プロジェクトの多くは、因果関係のない粗い相関関係だけに焦点を当てているため、実際の状況 (トレーニング シナリオで使用される状況とは大きく異なる状況) でテストすると、ディープラーニング システムが実際にはうまく機能しないことがよくあります」と述べています。

マーカス氏は、人間の行動が AI 技術の発展を導くための重要な基盤となるべきだと考えています。 「子どもたちが『なぜ』と尋ねるのは、その現象の背後にある原因と結果を理解したいという気持ちを意味します。機械が「なぜ」と尋ねることを学べば、その知能レベルは飛躍的に向上するだろう。 ”