ディープラーニングの父が懸念：データ漏洩、AI兵器、批判の欠如

[[254553]]

マーティン・フォードは2015年に出版した『ロボットの台頭』で大きな話題を呼びました。この本では、加速する自動化のトレンドの多くと、それがビジネス、特に雇用にどのような影響を与えているかを詳しく述べています。彼は新著『知能の設計者：AIを構築する人々から見たAIの真実』の中で、副題が実際に何を表しているかを解明しようと試みている。この本は主に人工知能分野の著名人への詳細なインタビューで構成されています。その一人が、人工ニューラルネットワークの先駆的な研究を行ったジェフリー・ヒントン氏です。ヒントン氏は現在、トロント大学のコンピューターサイエンスの教授であり、Google Brain プロジェクトにも参加しています。同氏は、この分野の多くの人々から「ディープラーニングの父」とみなされています。この新刊からの抜粋で、ヒントン氏は、自らが開拓した先進的なシステムが経済と社会に与えた多大な影響についてどう考えているかを語り、問題を解決する際には社会システムと技術システムを区別する必要性を強調しています。もちろん、学術的な面におけるいくつかの提案や懸念についても話しました。

マーティン・フォード：人工知能の潜在的なリスクについてお話ししましょう。特に課題となるのは、雇用市場と経済に及ぼす潜在的な影響です。これらすべてが新たな産業革命につながり、雇用市場を完全に変える可能性があると思いますか?もしそうなら、これは私たちが心配する必要があるものでしょうか、それとも誇張されている可能性がある別の事柄でしょうか?

ジェフリー・ヒントン：生産性を大幅に向上させ、より多くの福利厚生を提供できれば、それは良いことだと思います。しかし、それが良いことかどうかは、テクノロジーではなく社会システムに完全に依存します。人々はテクノロジーの進歩が問題であるかのようにテクノロジーを見ていますが、問題は公平に共有する社会システムを構築するのか、それとも1％だけに焦点を当てて残りの社会を無視する社会を構築するのかということです。これはテクノロジーとは何の関係もありません。

マーティン・フォード：しかし、多くの仕事が消滅する可能性があるという問題が生じます。特に、予測可能で簡単に自動化できる仕事が消滅する可能性が高いのです。ベーシックインカム制度は、この傾向に対する社会の根本的な対応です。あなたはこの制度に賛成ですか?

ジェフリー・ヒントン：そうですね、ベーシックインカムは非常に賢明なアイデアだと思います。

マーティン・フォード：では、この問題に対処するために政策を策定する必要があると思いますか？そこで止めるべきだと考える人もいるが、それは無責任だろう。

ジェフリー・ヒントン:税金が高かったことと、適正な課税は良いことだと思ったので、カナダに移住しました。政府がすべきことは、人々が自らの利益のために行動したときにそれが全員に役立つような仕組みを整備することです。高い税金は、人々が豊かになると、他のすべての人が税金によって助けられるという仕組みです。 AI がすべての人に利益をもたらすようにする必要があることには確かに同意しますが、まだやるべきことはたくさんあります。

マーティン・フォード： AI の兵器化など、AI に関連するその他のリスクについてはどうお考えですか?

ジェフリー・ヒントン:はい、私はプーチン大統領が最近言ったことのいくつかを懸念しています。化学兵器や大量破壊兵器について議論するのと同じように、今こそ国際社会に、人を殺傷する兵器について議論するよう働きかけるべきだと私は思います。

マーティン・フォード：ある種の研究開発の一時停止に賛成ですか?

ジェフリー・ヒントン:神経ガスの開発に一時停止措置がないのと同様、この種の研究にも一時停止措置はありませんが、神経ガスが広く使用されるのを防ぐ国際的な仕組みはあります。

マーティン・フォード：武器の軍事使用以外のリスクは何ですか？プライバシーや透明性など、他に懸念される問題はありますか?

ジェフリー・ヒントン：選挙や有権者を操作するためにこれを利用するのは心配だ。 Cambridge Analytica は機械学習の学者である Bob Mercer によって設立されましたが、Cambridge Analytica が多大な損害を引き起こしたことはご存知でしょう。私たちはそれを真剣に受け止めなければなりません。

マーティン・フォード：規制が必要だと思いますか？

ジェフリー・ヒントン：そうですね、多くの規制が必要です。これは非常に興味深い質問ですが、私はこの分野の専門家ではないので、これ以上提案できることはあまりありません。

マーティン・フォード：世界的な軍拡競争についてどう思いますか？国が他の国よりあまり先を行き過ぎないことは重要ですか?

ジェフリー・ヒントン:あなたは世界政治について話している。長い間、英国が優勢な国でしたが、あまりうまくいきませんでした。次にアメリカが優勢になりましたが、彼らもあまりうまくいきませんでした。そして、中国が優勢になったとしても、彼らがあまりうまくやれるとは思いません。

マーティン・フォード：何らかの産業政策が必要だと思いますか？アメリカは人工知能に重点を置き、それを国家の優先課題にすべきでしょうか?

ジェフリー・ヒントン:技術の進歩は非常に大きいので、それに追いつこうとしないのは愚かなことです。ですから、当然、多額の投資が必要です。これは私にとっては常識のように思えます。

マーティン・フォード：全体的に見て、あなたはこのすべてについて楽観的ですか？ AI の利点は欠点を上回ると思いますか?

ジェフリー・ヒントン:メリットがデメリットを上回ることを望みますが、社会構築レベルの人々がそう考えているかどうかはわかりません。これは社会システムの問題であり、技術的な問題ではありません。

マーティン・フォード：人工知能の分野では人材が深刻に不足しており、誰もが人材を募集しています。この分野に参入したい若者にアドバイスはありますか? より多くの人材を引き付け、人工知能やディープラーニングの分野の専門家になるために役立つアドバイスはありますか?

ジェフリー・ヒントン:基本的なことに批判的な人が十分にいないのではないかと心配しています。カプセルズの主張は、私たちが物事を行う基本的な方法のいくつかはおそらく良くなく、より広範囲に網を張る必要があるというものです。私たちが立てているいくつかの基本的な仮定に代わるものを探すべきです。私が人々に与えるアドバイスの一つは、人々がやっていることは間違っていて、もっと良いものがあるかもしれないという直感があるなら、その直感に従うべきだということです。

あなたは間違っているかもしれませんが、物事を根本的に変える方法を知ることに関しては、人々は自分の直感に従わないと問題に陥ります。本当に新しいアイデアの最も豊富な源泉は、大学院生が大学で受ける良いアドバイスだと私は思います。彼らは真に新しいアイデアを自由に生み出し、歴史を繰り返すのではなく、十分に学んでいます。私たちはその考えを維持する必要があります。修士号を取得してすぐに業界に入った人は、新しいアイデアを何も持っていないでしょう。数年かけてじっくり考える必要があると思います。

マーティン・フォード：カナダはディープラーニングの中心地のようです。これは偶然だったのでしょうか？それとも、カナダにはこれを促進する何か特別なものがあるのでしょうか？

ジェフリー・ヒントン：カナダ高等研究機構（CIFAR）は、リスクの高い分野における基礎研究に資金を提供しており、これは非常に重要です。また、Yann LeCun (かつて私のポスドクだった人) と Yoshua Bengio が二人ともカナダにいたことも大きな幸運でした。私たち3人の共同研究は非常に実り多いものとなり、カナダ高等研究機構から資金提供を受けました。私たちは孤立し、ある時点ではかなり悪い状況にありました。ディープラーニング環境がそれほど悪くなくなったのはつい最近のことですが、この資金援助は、私たちが未発表のアイデアを実際に共有できる小規模な会議で、お互いに交流する時間をかなり多く持つのに非常に役立ちました。