チューリング賞受賞者のヤン・ルカン氏への最新インタビュー: AI は世界を支配するだろうが、人類を征服することはない!

かつての共同研究者であるジェフリー・ヒントン氏とヨシュア・ベンジオ氏がAIの絶滅を宣言したとき、ルカン氏は関与しなかった。その代わりに、彼はオープンソース AI の採用を呼びかけ、AI は少数の企業によってコントロールされるべきではないと主張する公開書簡に署名した。

では、AIは人類に壊滅的な災害をもたらすのでしょうか、それとも人間社会の発展を加速させるのでしょうか?これらは、ChatGPT が 1 年以上前にリリースされて以来、業界にすでに存在していた 2 つの対立する声でもあります。

最近、ルカン氏はアメリカのデジタルメディアWIREDのインタビューを受け、上記の質問に答えた。中心となる考え方は次のとおりです。

• AI はある程度まで創造性を民主化し、非常に流暢で素晴らしいスタイルの文章を書くことができますが、AI が作り出す文章は完全に偽物である可能性もあるため、退屈なものでもあります。
• 長期的には、人間とデジタル世界、そしてある程度は人間同士の将来のすべてのやりとりは、AI システムによって仲介されるようになるでしょう。
• AI はオープンソースである必要があります。プラットフォームが通信構造の重要な部分になると、共通のインフラストラクチャが必要になるためです。
• ヤン・ルカンは、自分が「加速主義」や「絶滅主義」などのいかなる思想流派にも属していないと信じており、こうしたレッテルを好んでいません。
• ヤン・ルカンは、汎用知能は存在しないため、AGI を認めていません。知能は測定できる直線的なものではなく、知能を持つ存在の種類によってスキルが異なります。
• AI システムで目標を設定することが、その制御性と安全性を確保する唯一の方法であり、これは目標駆動型 AI と呼ばれ、まったく新しいアーキテクチャであり、まだ例がありません。
• ヤン・ルカン氏は、OpenAI が論文を発表せず、何に取り組んでいるか明らかにしないため、研究コミュニティはもはや OpenAI を気にかけなくなっていると考えています。私の元同僚や学生の中には OpenAI で働いている人もいますが、OpenAI に不安定さがあるため、私たちは彼らに同情しています。

ヤン・ルカンに悲観的な講義をしないでください。現代 AI の先駆者であり、Meta の主任 AI 科学者である LeCun 氏は、この技術の最も声高な擁護者の 1 人です。彼は、誤った情報が人類の絶滅につながるという同業者が描くユートピア的なシナリオを嘲笑する。彼は恐怖を広める人々を非難するために、X で頻繁にツイートしています。かつての共同研究者であるジェフリー・ヒントン氏とヨシュア・ベンジオ氏が、AIを「社会レベルのリスク」と呼ぶ声明の冒頭に名前を挙げたとき、ルカン氏は関与しなかった。その代わりに、彼はジョー・バイデン米大統領に宛てた公開書簡に署名し、オープンソースAIの採用を求め、AIは少数の企業によってコントロールされるべきではないと述べた。

LeCun 氏の指摘は重要です。彼はヒントン氏、ベンジオ氏とともに、AIのレベル向上に欠かせないディープラーニング手法の開発に貢献し、3人でコンピューター分野最高の栄誉であるチューリング賞を受賞した。 2013年、Meta（当時はFacebook）は彼をFAIRの創設ディレクターとして採用した。さらに、彼はニューヨーク大学の教授でもあります。最近では、CEO のマーク・ザッカーバーグ氏を説得して、Meta の AI テクノロジーの一部を世界に公開するよう働きかけました。この夏、Meta は OpenAI、Microsoft、Google に対抗するため、「Llama 2」と呼ばれるオープンソースの大規模言語モデル (LLM) をリリースしました。一部の批評家は、このオープンソース戦略により、悪意のある人物がコードを変更することで、LLM の出力に含まれる有害コンテンツに対する保護を回避できるようになる可能性があると警告しています。 AI分野の最も著名な人物の一人であるルカン氏は、人間がこの課題を解決できると信じている。

この秋、ルカン氏と私は、ニューヨークのミッドタウンにあるメタのオフィスの会議室で講演しました。私たちはオープンソースについて、AI の危険性が誇張されていると考える理由、そしてコンピューターがチャーリー・パーカーのサックスソロのように人々を感動させることができるかどうかについて話しました。 （ルカンはパリ郊外で育ち、ニューヨークのジャズクラブによく通っていた）。 12月にLeCun氏がNeurIPSカンファレンスに参加した際に、私たちはもう一度会話をしました。このインタビューは長さと明瞭さを考慮して編集されています。

Steven Levy: 最近の講演で、「機械学習はダメだ」と言っていましたね。あなたのような AI の先駆者がなぜそんなことを言うのでしょうか?

Yann LeCun: 機械学習は素晴らしいですね。しかし、既存の技術を拡大するだけで人間レベルの AI を実現できるという考えについてはどうでしょうか?機械が人間や動物と同じくらい効率的に学習するためには、何か重要なものが欠けているが、それが何であるかはまだわかっていない。

私はこれらのシステムを批判したり、役に立たないと言ったりするつもりはありませんが、これらは私がキャリアを通じて注力してきたことです。しかし、規模を拡大するだけですぐに人間レベルの知能が達成されると考える人々の興奮を抑えなければなりません。それは絶対に違います。

あなたはこれらのことを暴露することが自分の責任だと感じています。

それは正しい。 AIは世界に多くの利益をもたらしますが、テクノロジーに対する恐怖心からAIを誤用する人もいます。人々を遠ざけないように注意しなければなりません。これは、世界を変える他のテクノロジーでも私たちが犯してきたのと同じ間違いです。 15 世紀に印刷術が発明されたとき、カトリック教会はそれを嫌っていましたよね?人々は司祭に指導を求めなくても自分で聖書を読むことができます。権力者のほぼ全員が、権力構造を変えることになるとして、印刷の普及に反対した。彼らは正しかった。そして、これが200年にわたる宗教紛争につながった。しかし、それは啓蒙主義ももたらしました。 [注: 歴史家は、教会が実際に印刷術を独自の目的に使用していたと指摘するかもしれないが、とにかく、ルカンはそう考えている。 ］

なぜテクノロジー業界の大物たちがこれほど多く AI に関して警鐘を鳴らしているのでしょうか?

注目を集めようとしている人もいれば、現代の現実を見ていない人もいます。彼らは、AI が実際にヘイトスピーチや誤報を減らすことができることに気づいていません。 Meta では、AI を使用してこの分野で大きな進歩を遂げました。 5年前、私たちがプラットフォームから削除したヘイトスピーチのうち、約20%から25%は、誰にも見られずにAIシステムによって削除されました。昨年、その割合は95％に達しました。

チャットボットについてどう思いますか?彼らは人間の仕事を置き換えるほどの力を持っているのでしょうか?

彼らは素晴らしいですし、人々はこの分野で大きな進歩を遂げてきました。彼らはある程度まで創造性を民主化し、本当に素晴らしいスタイルを持つ非常に流暢なテキストを書くことができますが、彼らが思いついたものが完全に偽物である可能性があるため、退屈でもあります。

Meta はこれらの技術を開発し、製品に実装することに熱心であるようです。

長期的には、デジタル世界との、そしてある程度は私たち同士のやりとりのすべてが、AI システムによって仲介されるようになるでしょう。私たちは、現時点ではそれを実現するには十分強力ではないが、それを実現しようとしているもの、あるいは、テキストやリアルタイム翻訳など、あるいはメタバースなど、日常生活の中で人間が何かを作り出すのを支援するものを試す必要があります。

Meta では、マークは AI 分野でどのように仕事を進めているのでしょうか?

マークは非常に熱心です。私は今年初めに彼と話し合い、今あなたに話したように、将来私たちのやりとりはすべて AI によって仲介されるようになるだろうと彼にも話しました。 ChatGPT は、私たちが考えていたよりも早く、AI が新製品に何をもたらすかを示してくれました。私たちの想像をはるかに超える AI の能力に、一般の人々が魅了されていることがわかります。そこで、マークは生成 AI に重点を置いた製品部門を設立することを決定しました。

Meta が Llama コードをオープンソースとして他の人と共有することにしたのはなぜですか?

多くの人が貢献できるオープンプラットフォームがあれば、進歩ははるかに速くなります。結果として得られるシステムはより安全になり、パフォーマンスも向上します。デジタル世界とのすべてのやり取りが AI システムによって仲介される未来を想像してみてください。 AI システムが米国西海岸の数社の企業によって制御されることは望ましくありません。アメリカ人は気にしていないのかもしれないし、米国政府も気にしていないのかもしれない。しかし、ヨーロッパでは、彼らはそれを好まないだろうと今言っています。彼らはこう言うでしょう。「わかりました。この子は正しい英語を話します。でもフランス語はどうですか？ドイツ語はどうですか？ハンガリー語はどうですか？オランダ語はどうですか？どうやって訓練したのですか？これは私たちの文化をどのように反映しているのですか？」

これは、スタートアップ企業に自社製品を使ってもらい、競合他社に勝つための素晴らしい方法のように思えます。

誰とも妥協する必要はありません。これが世界の進む道です。 AI はオープンソースである必要があります。プラットフォームが通信構造の重要な部分になると、共通のインフラストラクチャが必要になるためです。

この意見に同意しない企業の一つが OpenAI ですが、あなたはそれを気に入らないようですね。

彼らが事業を始めたとき、業界の研究を独占していた Google や Meta などの企業に対抗するために、AI 研究を行う非営利団体を設立することを構想していました。私はこれが間違った考えだと思っていましたが、結局それが正しかったのです。 OpenAIはもうオープンではありません。 Meta は常にオープンであり、それは今も変わりません。 2 番目に言いたいのは、資金を調達する方法がなければ、実質的な AI 研究を行うのは難しいということです。結局、彼らは営利団体を設立し、マイクロソフトからの投資を得る必要がありました。したがって、OpenAI はある程度の独立性を持っていますが、現在は基本的に Microsoft の共同研究機関となっています。 3 つ目のポイントは、彼らは汎用人工知能 (AGI) が間近に迫っており、誰よりも先に開発できると信じているが、それができないということです。

サム・アルトマンが CEO の座から追放され、その後別の役員会に復帰するという OpenAI のドラマについてどう思いますか?これは研究コミュニティや業界に何らかの影響を与えると思いますか?

OpenAI は論文を発表せず、何に取り組んでいるのか明らかにしないので、研究コミュニティはもはや OpenAI をあまり気にしていないと思います。私の元同僚や学生の中には OpenAI で働いている人もいますが、OpenAI に不安定さがあるため、私たちは彼らに同情しています。研究活動の発展は安定した環境と切り離すことはできず、このような劇的な出来事が起こると、人々は躊躇してしまいます。また、研究を行う人々にとってもう一つの重要な側面はオープン性ですが、OpenAI はもはや実際にはオープンではありません。そういう意味では、OpenAI は変化しており、もはや研究コミュニティへの貢献者としては見られていません。すべてはオープン プラットフォームにかかっています。

この出来事は、「絶滅主義」とは正反対のAI「加速主義」の勝利と呼ばれている。あなたは絶滅論者ではないことは知っていますが、加速論者ですか？

いいえ、これらのラベルは好きではありません。私は特定の思想流派に属していません。私は、この種の考え方を極端に行かないように細心の注意を払っています。なぜなら、一周回って愚かなことをしてしまう可能性が非常に高いからです。

欧州連合は最近、一連の AI 規制を発表しましたが、そのうちの 1 つはオープンソース モデルを大幅に免除しています。これはMetaや他の企業にどのような影響を与えるでしょうか?

これは Meta にある程度影響を及ぼしましたが、当社はいかなる規制にも従えるだけの力を持っています。これは、AI システムをゼロから構築するための独自のリソースを持たない国にとって、はるかに重要です。オープンソース プラットフォームに依存して、文化、言語、興味に合った AI システムを利用できます。それほど遠くない将来、デジタル世界とのやり取りの大部分は AI システムによって仲介されるようになるでしょう。こうしたものがカリフォルニアの数社の企業によってコントロールされることは望ましくありません。

規制当局がこの結論に達するのを支援することに関与しましたか?

私は規制当局と話し合っていますが、直接話しているわけではありません。私は様々な政府、特にフランス政府と連絡を取り合ってきましたが、間接的に他の国の政府とも連絡を取り合ってきました。基本的に彼らは、国民のデジタル消費が少数の人々によってコントロールされることを望んでおらず、これはフランス政府が早い段階で受け入れた考えである。残念ながら、私はEUレベルで誰とも話をしたことがない。彼らは終末予測にもっと影響され、起こりうると考える災害を防ぐためにあらゆるものを規制したいと考えている。しかし、フランス、ドイツ、イタリアの政府はこれに反対し、EUはオープンソースプラットフォームに対して特別な規制を制定する必要があると主張した。

しかし、オープンソース AI の制御や規制は本当に難しいのでしょうか?

安全性が非常に重要な製品については、すでに規制が設けられています。たとえば、AI を使用して新しい薬を設計する場合、製品の安全性を確保するための規制がすでに存在しているでしょう。それは理にかなっていると思います。議論されている問題は、AIの研究開発を規制することが適切かどうかです。それは意味がないと思う。

大企業がリリースした複雑なオープンソースシステムを使って、世界を征服することはできないでしょうか?ソースコードや重みにアクセスできれば、テロリストや詐欺師が AI システムに破壊的な能力を与える可能性があります。

彼らには、どこか人里離れた場所に 2,000 台の GPU と、その仕事をこなすのに十分な資金と人材が必要です。

彼らは最終的には独自の AI チップを作成する方法を見つけ出すと思います。

はい、しかし、先進技術より数年遅れることになります。世界の歴史では、テクノロジーが進歩するたびに悪者がそれを手に入れるのを阻止できず、善なる AI と悪なる AI が対立することになります。先頭に立つには進歩を加速させることであり、より速い進歩を達成するには研究を公開し、より多くの人々が参加できるようにすることです。

AGI をどのように定義しますか?

汎用知能というものは存在しないので、私は AGI という用語が好きではありません。知能は測定できる直線的なものではなく、知能を持つ存在の種類によってスキルが異なります。

コンピューターが人間レベルの知能を達成したとしても、そこで止まることはありません。より多くの知識、機械レベルの数学、より優れたアルゴリズムがあれば、超知能が生まれるのではないでしょうか?

はい、機械が最終的には人間よりも賢くなることは間違いありません。これにどれくらいの時間がかかるかは分かりません。数年かかるかもしれませんし、数世紀かかるかもしれません。

その時、我々は降伏しなければならないのでしょうか？

いいえ。私たち全員が AI アシスタントを持つようになるでしょう。それは、人間ではないことを除けば、非常に賢い従業員のグループと一緒に働くようなものです。人類はこれによって脅かされるだろうが、私たちは興奮するべきだと思う。私にとって最も刺激的なのは、自分よりも賢い人たちと一緒に働くことです。そうすることで、自分自身の能力が広がるからです。

しかし、コンピューターが超知能を達成したとしても、なぜ人間が必要なのでしょうか?

AI システムが知能化すれば、人間に取って代わろうとすると考える理由はない。 AI システムが人間と同じ動機を持つと想定しているのなら、それは大きな間違いです。設計で設定するので、そうはなりません。

人間がこれらの目標を設定せず、超知能システムが最終的に人間に害を及ぼす目標を追求した場合はどうなるでしょうか?哲学者ニック・ボストロムはこう言います。「何があろうともペーパークリップを作るように設計されたシステムは、より多くのペーパークリップを作るために世界を征服するのです。」

システムを構築するだけで安全対策を無視するのは愚かなことです。それは、1,000馬力のエンジンを搭載しながらブレーキのない車を製造するようなものです。 AI システムで目標を設定することが、その制御性と安全性を確保する唯一の方法であり、私はこれを目標駆動型 AI と呼んでいます。これは完全に新しいアーキテクチャであり、まだその例は見たことがありません。

これがあなたの今の仕事ですか？

はい、機械には達成すべき目標があり、その目標を満たさないものは生産できないという考えです。これらの目標には、危険の発生を防ぐための安全策やその他のものが含まれる可能性があり、これが AI システムを安全にするものです。

自分が貢献した AI の結果を後悔すると思いますか?

もしそう思うなら、私は二度とそんなことはしないでしょう。

あなたはジャズファンですね。 AI が生み出すものは、これまで人間だけが生み出してきた驚異的な創造性に匹敵するでしょうか?魂のこもった作品を創れるか？

答えは複雑です。はい、AI システムは最終的には、人間と同等かそれ以上の技術的品質を持つ音楽、視覚芸術、その他の作品を作成できるようになります。しかし、AI システムには、人間の感情や感情的なコミュニケーションに依存する即興音楽を作成する能力がありません。 AI には、少なくとも現時点ではその能力がありません。だからこそ、ジャズは生で聴く必要があるのです。

この種の音楽に魂があるかどうか、あなたは私に答えていません。

まったく魂のない音楽だよ。この音楽はレストランのBGMとしてよく聞かれますが、主に機械によって作られており、それが市場です。

しかし、私が話しているのは芸術の頂点についてです。チャーリー・パーカーの最高の録音の 1 つを再生し、それが AI によって生成されたものだと言ったら、騙されたと感じるでしょうか?

はい、そしていいえ。はい、音楽は単なる聴覚体験以上のものです。その多くは文化的な体験であり、演奏者に対する賞賛なのです。あなたの例はミリ・ヴァニリのようで、そこでは本物であることが芸術体験の重要な部分となっています。

もし AI システムが一流の芸術的業績に匹敵するほど優れていて、その背後にあるストーリーを知らなければ、市場にはチャーリー・パーカーレベルの音楽が溢れ、私たちはその違いを区別することができなくなるだろう。

それは何も悪いことではないと思います。私は、5 ドルで似たようなものを購入できたとしても、300 ドルもする手作りのボウルを依然として購入します。それは、何百年もの文化を持つ場所から来たものだからです。真似はできるものの、私たちは今でも大好きなジャズミュージシャンのライブを聴きに行きます。 AI システムの経験は異なります。

あなたは最近、マクロン大統領から栄誉を授けられましたが、私はフランス語が読めません…

フランス・レジオンドヌール勲章の騎士（Chevalier de la Légion d'honneur）。ナポレオンによって設立されました。これは英国の騎士の称号に少し似ていますが、革命が起こったので、人を「サー」とは呼びません。

武器や装備はありますか？

いいえ、剣とかそういうものは持っていません。ただし、そのような武器を所持する者は、襟に小さな赤いストライプを付けることができます。

AI モデルはこの賞を獲得できるでしょうか?

すぐには無理だし、いずれにしてもそれは良い考えではないと思う。