AIは意識を発達させ始めているのでしょうか? OpenAI主任科学者の発言が論争を巻き起こし、大物の間で論争を巻き起こした

この記事はAI新メディアQuantum Bit（公開アカウントID：QbitAI）より許可を得て転載しています。転載の際は出典元にご連絡ください。

「今日の大規模なニューラルネットワークは、すでに意識のようなものを持っているかもしれない。」

OpenAIの主任科学者であるイリヤ・スツケヴァー氏はツイッターでこのような発言をしたが、これは実に衝撃的だ。

これはAIコミュニティで騒動を引き起こし、人工知能や神経科学の分野の専門家からの反応が殺到しました。

最も激しい反撃は、チューリング賞受賞者であり、Meta AI の主任科学者である Yann LeCun 氏からのものだった。

ルカンは即座に反撃し、学術界のリーダーたちも辞任した。

これに対するルカンの最初の反応は次のようなものでした。

同意しません! （現在のAIは）「わずかに意識を持つ」という下限にも達しておらず、「大規模なニューラルネットワーク」という上限にも達していません。

彼はまた、現段階で AI を定義しなければならないとすれば、次のように述べました。

現在のネットワークには存在しない、特定のタイプのマクロ アーキテクチャが必要だと思います。

OpenAIの共同創設者サム・アルトマン氏も、自身の従業員や当初の起業家パートナーが批判されているのを見て、個人的に次のようにコメントした。

OpenAIの主任科学者は、「たぶん」という言葉を前提として、謎めいたアイデアに対する好奇心とオープンな姿勢を示した。

しかし、Meta社の主任AI科学者は断固として「ノー」と答えた。

次の文章は、OpenAI がそのオープンな姿勢によってより多くの成果を達成したことを暗示しているかのような、やや皮肉な口調になっています。

これはおそらく、過去 5 年間に起こったことの多くを説明するでしょう。

ツイートの最後で、サム・アルトマンは競合他社を引き抜くことを忘れていなかった。

親愛なる Meta AI 研究者の皆様: 私のメール アドレスは sama@op enai.com です。採用中です！

その後、ルカン氏はオープンAIのもう一人の共同創設者であるマスク氏も招き、同社の航空技術と航空宇宙技術の違いを比較した。

より速い飛行機を製造し、高度記録を破ることもできるでしょう。

しかし、軌道に到達することが目標であれば、極低温タンクやターボポンプなどを研究する必要があります。

そんなに派手にならないで。マスクに聞いてみてください。

LeCun氏だけでなく、AIコミュニティの他の人々もOpenAIの発言を批判した。

著名なAI専門家であり、ニューサウスウェールズ大学の教授であるトビー・ウォルシュ氏は次のようにコメントした。

こうした憶測に基づく話が出るたびに、私たちは人々を安心させるのに何ヶ月もかかります。

DeepMind の上級研究科学者はこう言った。

この見解が正しいとすれば、広大な小麦畑の中に小さなスパゲッティがあるかもしれない。

Twitterでは批判が主流だったが、OpenAIを支持するコメントもいくつかあった。

MIT CSAILの研究者であるタマイ・ベシログル氏は次のように述べた。

多くの著名な機械学習の専門家がこのアイデアを嘲笑しているのを見るのは残念だ。

このため、今後数十年間に起こる重要な問題のいくつかを彼らが解決できるかどうかについて、私はあまり期待できなくなっています。

彼は、Meta ではなく OpenAI のような研究室の方が、近い将来この分野で生じる深刻で奇妙で重要な問題を解決する可能性が高いと考えています。

さらに、この口論から予想外の利益がありました。それは、サム・アルトマンがGPT-4に関する最新のニュースを明らかにしたことです。

彼の発言から判断すると、GPT-4 は GPT-3 の継続となる可能性が高い。

昨年、OpenAIに超大型AIチップWSE-2を提供した企業Cerebrasは、GPT-4には約100兆個のパラメータがあり、準備には数年かかると明らかにした。

この論争の「核心」に戻ると、一体何がイリヤ・スツケヴェルにそのような感情を表明させたのでしょうか?

おそらく私たちは彼の経験からこれを垣間見ることができるでしょう。

彼は、初期のAlexNetからその後のAlphaGo、そしてGPT-3やCodexなどのモデルの出現を目の当たりにするまで、AI分野におけるほぼすべての「画期的な」技術に関わってきました。

AGIへの道をどんどん進む

イリヤ・スツケヴァーはトロント大学で学士号、修士号、博士号を取得し、かつてはジェフリー・ヒントンの教え子でもありました。

実際、Sutskever 氏はAlexNetの作者の一人です。

2012年、ヒントン氏の指導の下、彼とアレックス・クリジェフスキー氏はこのアーキテクチャを共同で設計し、その年のImageNetチャレンジで、2位より10.8%低いエラー率で優勝しました。

ヒントン氏が設立したDNNResearchがGoogleに買収された後、サツケヴァー氏は研究科学者としてGoogle Brainに加わった。

彼は有名なAlphaGoの開発に携わり、多くの論文の著者の一人となった。後者は2016年に囲碁でイ・セドルを4対1で破った。

Google 在籍中、彼は Google Brain の他の 2 人の科学者と協力して、古典的な NLP フレームワークの 1 つであるseq2seqアルゴリズムを提案しました。

2015年末、スツケバー氏はグーグルを退社し、マスク氏、サム・アルトマン氏らとともにOpenAIを共同設立した。

2年以上研究ディレクターを務めた後、2018年にOpenAIの主任科学者に就任した。

彼は、 GPT-2からGPT-3 、DOTA2のチャンピオンチームを破ったRerunからゲームを作るコードを書けるCodexまで、OpenAIの開発に自ら参加した証人の一人であると言えるでしょう。

彼のリーダーシップの下、OpenAI は徐々に AGI (人工汎用知能) へと進んでいます。

2021年の初めには、テキストと画像のつながりを実現するマルチモーダルモデル「DALL・E」と「CLIP」が登場しました。

当時、OpenAIはCLIPが人間の思考方法と非常に似ていることを示す研究を発表し、ネットユーザーの間ではAGIの到来は予想よりもはるかに早くなるだろうと語られた。

また昨年は、GitHubとOpenAIが協力して自動コード補完ツール「GitHub Copilot」をリリースし、AIが一部プログラマーのスキルを獲得し始めました。

今年初め、OpenAI の数学 AI モデル Lean はさらに一歩進み、ニューラル定理証明器を追加することで国際数学オリンピックの問題2 つを解くことに成功しました。

現在、OpenAI は数百兆個のパラメータを持つ GPT-4 モデルに取り組んでいます。おそらくこれも Sutskever のコメントと関係があるのでしょう。

「200億のパラメータを持つAIは足し算や引き算すらできない」

しかし、実際には、AGI への道はそれほど明確ではないようです。

最近では、ニューヨーク大学の助教授であるブレンダン・ドラン・ガビット氏は、200億パラメータのGPT-NeoXモデルでは最も基本的な整数演算の問題さえ解けないことを発見した。

GPT-NeoXはOpenAIの公式モデルではなく、EleutherAIという機械学習チームによって開発された大規模なオープンソースモデルです（GPT-3はオープンソースではないため） 。

△部分結果表示

ブレンダンが出した100問の整数の加算、減算、乗算の問題のうち、AIが正解したのは10問だけだった。その他の答えは正解に「ほぼ」近かったものの、結局は間違っていた。 AIは四則演算を実際には理解していないことがわかります。

「ニューラルネットワークは自己認識を持っているか？」という議論に関しては、ネットユーザーも意見を述べた。

一部のネットユーザーは、これらの大物たちは AI に意識があるかどうかを議論しているのではなく、その定義が何であるかを議論しているのだと考えている。

ディープ ニューラル ネットワークは「形而上学」の深淵に踏み込んだと冗談を言う人もいました。

別のネットユーザーは、この議論のコメント欄にロボットの魔法の絵文字を投稿した。「AIは眉をひそめ、物事が単純ではないことに気づいた」

ニューラルネットワークが意識を発達させ始めているという考えについてどう思いますか?