ヨシュア・ベンジオ：私は国家間のAI競争を見たくないし、現在のAIの考え方を心配している。

[[250218]]

ヨシュア・ベンジオ氏は、間違いなく現代の人工知能技術分野の第一人者です。

ベンジオ氏は、ジェフ・ヒントン氏やヤン・ルカン氏とともに、いわゆるディープラーニングを推進してきた。ディープラーニングは近年、学術的な研究から世界で最も強力なテクノロジーの1つへと見事に変貌を遂げた技術である。 ディープラーニングの基本的な考え方は、人間の脳を大まかにシミュレートできる大規模なニューラルネットワークにデータを入力することです。ディープラーニング技術は強力かつ非常に効果的であり、音声認識、画像分類、自動運転車の制御、ビジネス上の意思決定の自動化など、さまざまな実用的なタスクに適用できることがわかりました。

特に称賛に値するのは、ベンジオ氏が人工知能の研究を行うためにいかなるテクノロジー大手企業にも加わることを常に拒否してきたことだ。それぞれグーグルとフェイスブックに入社したヒントン氏とルカン氏とは異なり、ベンジオ氏は現在もモントリオール大学の常勤教授である。 (ただし、彼は2016年にElement AIプロジェクトの創設に参加し、その後、大企業がAI研究の商業応用の方向性を模索するのを支援する非常に成功したビジネスシステムをサポートしました。)

ベンジオ氏は最近、MITテクノロジーレビュー誌のAI担当上級編集者ウィル・ナイト氏からインタビューを受けた。

Q: 各国間の AI 技術開発競争はどのような意味を持つとお考えですか?

私はこの傾向が本当に好きではないし、これが正しい方向だとも思いません。

私たちはもちろん一緒に競争に参加できますが、全人類の共通の利益を実現したいと願う科学者および実践者として、よりスマートなマシンを構築し、人工知能ができるだけ多くの人々の幸福を実現するために使用されるようにする方法に焦点を当てることが最善だと考えています。

Q: では、国家間の協力をさらに促進する方法はあるのでしょうか?

発展途上国が人工知能技術に参加するための参入障壁を下げる必要がありますが、これは現在最大の問題でもあります。ヨーロッパ、アメリカ、カナダでは、アフリカの研究者が入国ビザを取得するのは難しく、これは間違いなく大きな障壁となります。これらの先進国は通常、さまざまな理由をつけてアフリカの学者の訪問を拒否します。これには何も公平なところはない。開発途上国が研究に多額の資源を投入することは困難であり、関連する技術コミュニティと連携できなければ、将来的に不平等はさらに悪化するだろう。解決策として、2020年にアフリカでICLR会議（重要な人工知能技術会議）を開催する予定です。

いわゆる包括性は、単に公式の専門用語を話すことによって反映されるべきではない。人工知能は、我が国よりもはるかに高い技術普及の需要を持つ発展途上国において、より大きな発展の可能性を秘めています。これは、彼らの実情と密接に関係しています。

Q: 西側諸国に拠点を置いている場合でも、中国に目を向けている場合でも、人工知能の優位性が最終的に少数の企業の手に渡ってしまうことを懸念していますか?

はい、これを念頭に置いて、AI研究の民主化を推進する必要があります。人工知能の研究自体は、権力、資金、研究者などのリソースが集中して具体化されることが多いです。もちろん、優秀な学生はより多くの資金とデータを持つ一流企業で働きたいと望んでいますが、このサイクルは健全ではありません。民主主義においても、少数の人々の手に権力が集中しすぎるのは危険である。

Q: 人工知能の軍事利用については多くの論争がありました。この問題に直面したとき、あなたはどのような立場をとりますか?

私はこれに断固反対します。

Q: 非致死的使用にも反対ですか?

まあ、私はこれに特に反対はしません。殺人ロボットは不道徳な製品であるということを私たちは明確に認識する必要があると思います。法律や規制の調整を含め、文化的認識を変える必要がありますが、これは長い道のりとなるでしょう。

もちろん、この点での試みを完全に阻止することは困難です。結局、「あのならず者国家は独自の AI 兵器を開発するだろう」と主張する人もいるでしょう。しかし、私の答えは、彼らに罪悪感を感じてもらいたいということです。結局のところ、私たちも AI を使って防衛技術を開発できるのですから。ドローンを破壊するために使用される防御兵器と、人間を標的とするために使用される攻撃兵器との間には大きな違いがあります。どちらも人工知能技術を活用できます。

Q: あなたの意見では、AI の専門家は軍隊と協力して、この技術が適切に使用されるようにすべきではないでしょうか?

専門家が正しい道徳的価値観を持っていれば、それは確かに良いことだろう。しかし、軍隊は道徳よりも義務を優先する傾向があるため、私は軍隊を完全に信頼していません。彼らが切り替えられることを願っています。

Q: あなたが最も興味を持っている AI 研究の新たな領域は何ですか?

短期的な漸進的な進歩に満足するのではなく、AI 研究に存在する困難な課題を考慮する必要があると思います。もちろん、ディープラーニングの意義を否定するわけではありませんが、業界全体でこれを基盤として推論まで拡張し、人工知能が真に因果関係を把握し、さらには世界を探索して学習し情報を獲得できるようになることを願っています。

本当に人間に近い AI ソリューションを構築したいのであれば、開発の新たな章が開かれるでしょう。長期的な投資が必要であり、学界はこの情熱を刺激する最適な環境となるでしょう。

Q: 因果関係についておっしゃいましたが、言い換えれば、AI にはデータ内のパターンを把握するだけでなく、そのパターンが発生する理由も理解してほしいということですね。なぜこれがそれほど重要なのでしょうか? そして、なぜそれを達成するのがそれほど難しいのでしょうか?

私たちが遭遇する世界について適切な因果モデルを開発できれば、未知の状況でもそのモデルを一般化することができます。これは非常に重要です。私たち人間は、日常の経験とはまったく異なる状況に自分自身を投影することができますが、機械はそれができません。違いは、機械にはそのような因果モデルがないことです。

このようなモデルを手動で設計することもできますが、これでは明らかに不十分です。因果モデルを発見できるマシンが必要です。ある程度まで、因果モデルは決して完璧になることはできず、実際、私たちは現実の完璧な因果モデルを一度も得たことがありません。これが、私たちがあらゆる種類の間違いを犯す理由です。しかし、他の動物と比べると、私たち人間はそれをより上手にやっています。

現時点では、本当に優れたアルゴリズムは見つかっていません。しかし、十分な数の人々がこの仕事に関わり、真剣に取り組む限り、満足のいく進歩を遂げることができると思います。