張北院士：人工知能の一般理論が形成されつつあり、AI革命の発展は止められない

7月6日に開催されたAscend人工知能産業サミットフォーラム2023において、中国科学院院士、清華大学コンピュータサイエンス学部教授、清華大学人工知能研究所名誉学部長の張北氏がAscendの名誉顧問に就任しました。その場で、ファーウェイの輪番会長胡厚坤氏が張北院士にアセンド名誉顧問任命証書とトロフィーを授与した。張北院士は中国の人工知能分野の創始者ともいえる人物で、人工知能の発展に対する深い思いを語った。彼は、Chat GPTの出現により、人工知能の一般理論の形成が可能になったと考えています。理論のサポートがあって初めて、AIは革命的な発展を遂げることができます。同時に、彼は、一般的な人工知能の3つの要素であるデータ、コンピューティングパワー、アルゴリズムを、知識、データ、アルゴリズム、コンピューティングパワーの4つの要素にアップグレードする必要があると考えています。

張北院士：人工知能の一般理論が形成されつつあり、AI革命の発展は止められない

スピーチの内容は次のとおりです。

張北：専門家の皆さん、ゲストの皆さん、こんにちは。Ascend AI の名誉顧問に採用されてとても嬉しく思います。これは人工知能従事者にとって励みになるかもしれません。人工知能は未開の地にあり、非常に難しいため、人工知能従事者は励みを必要としていると思います。人工知能における進歩はすべて簡単だと思わないでください。すべて非常に難しいのです。

まず、質問についてお話ししたいと思います。Chat GPT の推定方法については 2 つの意見があります。まず、Chat GPT は汎用人工知能であるという意見と、汎用人工知能ではないという意見です。どちらが正しいのでしょうか。私の意見は、どちらも正しくないということです。 Chat GPT の成果をどのように評価すればよいでしょうか? 最も適切な評価は、それが汎用人工知能への一歩であるということだと思います。マイクロソフトによれば、これは汎用人工知能の火花であり、私もこの見解に同意します。

なぜでしょうか？まずはChat GPTが持つ汎用人工知能の2つの特徴を見ていきましょう。1つ目の特徴は、対話やチャットの分野において、人工知能のゴール、つまり行動主義が提唱する人工知能のゴールを達成している点です。行動型人工知能は人工知能の主流であり、その背後にある哲学は唯物論と実用主義です。人工知能が追求する目標は何でしょうか? 機械の行動を人間に近づけることです。では、なぜ Chat GPT がこの指標を達成したと言えるのでしょうか? Chat GPT と話すと、人間の会話と非常に似ているため、最初の汎用人工知能の特性を実現したからです。

2 つ目の特徴は、Chat GPT がオープンドメインかつマルチタスクであることです。会話に関してはドメインに依存しないため、大きな進歩です。周知のとおり、人工知能は知識駆動型の第 1 世代とデータ駆動型の第 2 世代を経てきましたが、どちらも限られた分野で単一のタスクしか完了できません。したがって、Chat GPT はオープンフィールドとなり、普遍的なアプリケーションへと進んでいきます。これら 2 つの特性に加えて、汎用人工知能の 2 つの最も重要な特性は、1 つは人間のレベルに達し、もう 1 つは分野に依存しないことです。つまり、これは汎用人工知能であると言えます。しかし、この目標は会話の分野、もっと広義に言えば言語処理の分野でのみ達成されるため、まだ汎用人工知能と呼ぶことはできません。他の知能分野で使用できるかどうかは現時点ではまだ不明なので、この見積もりは非常に適切だと思います。このような推定に基づいてのみ、以下の問題について議論することができます。

最初の疑問は、なぜ Chat GPT が現在のレベルに達したのかということです。多くの側面が皆を驚かせます。主な理由は、人工知能における 60 年から 70 年にわたる努力の結果、3 つの問題でブレークスルーが達成され、あるいは 3 つの主要技術でブレークスルーが達成されたからです。

最初の技術は、単語の埋め込みに基づくテキストの意味表現です。

2 番目の技術は、皆さんもよくご存知のコンバーターです。これは、注意メカニズムに基づくコンバーターです。これは、高院士が先ほどお話しした大きなモデルです。私たちが今話している大きなモデルは、大きなコンバーターです。

3 番目の技術、最後の技術は、次の単語を予測することに基づく自己教師学習です。Chat GPT は、人工知能やその他の分野の多数の科学者やエンジニアによる 60 ～ 70 年にわたる共同作業の結果であると言えます。これら 3 つの問題でブレークスルーを達成するには、60 ～ 70 年かかりました。これら 3 つの問題におけるブレークスルーは、機械がテキストを処理する方法に根本的な変化をもたらしました。以前は、テキストを処理することをデータ処理と呼ぶことが多かったです。今でも誰もがこの用語を使用していますが、この用語は Chat GPT には当てはまりません。

Chat GPT はテキストの意味的表現を見つけた後にテキストを処理するため、テキストの形式を処理したり、テキストをデータとして処理したりすることはありません。代わりに、テキストを知識として処理します。 したがって、Chat GPT の成功は、データ、計算能力、アルゴリズムという 3 つの要素だけに起因するものではありません。知識、データ、アルゴリズム、計算能力という 4 つの要素を重視する必要があると思います。言い換えれば、私たちは 3 つの主要な技術でブレークスルーを達成し、大量のテキスト (いわゆるデータ) から知識を獲得できるようになりました。この変革があってこそ、現在の Chat GPT が実現できたのです。そうでなければ、私たちがそのレベルの理解にとどまるのは間違いです。

この画期的な進歩は、3つの止められないものをもたらす可能性があります。1つ目は、必然的に技術革命をもたらすことであり、まず第一に、人工知能自体に革命をもたらすでしょう。ご存知のとおり、人工知能がChat GPTに発展する前は、それが科学であるとは言えませんでした。なぜでしょうか。理論がなかったのです。なぜ人工知能の理論を確立できなかったのでしょうか。非常に重要な理由は、第一世代の人工知能が知識主導型であったか、第二世代の人工知能がデータ主導型であったかにかかわらず、限られた分野で単一のタスクを完了していたことです。単一の分野または単一のタスクで一般理論を確立することはできません。 Chat GPT はドメインに依存しないため、少なくとも自然言語処理においてはこの障害を取り除きます。 それがフィールドから切り離されて初めて、そのフィールドに関する一般理論を確立できるようになります。

そのため、Chat GPTが登場する前には存在しなかった人工知能理論を今では確立することが可能です。ですから、この質問は私たちにとって刺激になります。ブレークスルーとは何でしょうか? ブレークスルーとは Chat GPT です。Chat GPT の内部動作原理を理解しなければ、人工知能の理論に入る鍵を見つけることはできません。 考えてみてください。Chat GPT には、明確に説明できない現象がたくさんありますが、一方では、非常に予想外で非常に良い結果を生み出すことができる一方で、幻覚も生み出すことができます。幻覚とは何でしょうか? それはナンセンスです。では、なぜこのような現象が起こるのでしょうか。これは全く明らかではありませんが、今後必ず起こる最初の技術革命は AI 自体から始まるでしょう。

皆がよく議論した2番目のことは、産業変革です。まず、人工知能産業自体の産業転換があります。ご存知のように、人工知能産業の発展は情報技術の産業発展とは大きく異なります。情報技術の発展は「高速かつ継続的」という4つの言葉で表現できますが、人工知能産業の発展は「緩慢かつ屈曲的」です。その理由は何でしょうか。最も重要な理由の1つは、情報技術の理論が最初から確立されていたことです。コンピュータの理論は1936年に確立され、通信の理論は1948年に確立されました。そのため、理論の指導の下で、その技術と産業の発展は非常に順調でした。

人工知能にはアルゴリズムとモデルしかなく、これらのアルゴリズムとモデルはドメインとタスクに特化しています。そのため、開発する人工知能のハードウェアやソフトウェアはすべて専用であり、情報産業とはまったく異なります。情報産業のハードウェアとソフトウェアはすべて汎用的で、市場も非常に大きいのに対し、情報産業のハードウェアやソフトウェアは通常専用で、分野と密接に統合されています。情報産業が分野と統合されていなければ、そのような産業はまったく存在しません。しかし、コンピューターを例に挙げてみましょう。コンピューターはアプリケーションとまったく統合されておらず、コンピューターが製造するコンピューターはどこでも使用できます。

しかし、Chat GPT によって、人工知能には分野に依存しないモデルとアルゴリズムを構築する可能性があるということを皆さんに伝えることができます。このアルゴリズムとモデルが分野の制限から解放されて初めて、将来的に生み出すハードウェアとソフトウェアは普遍的なもの、つまり一定の範囲内で普遍的なものとなり、大きな市場を持つことになります。これが将来の情報産業革命の一つの方向性です。

3つ目は人工知能ガバナンスです。 Chat GPT は肯定的な側面から見られることが多いですが、私たちが使用する方法は次の単語を予測するというものであるため、否定的な側面も問題があります。このモデルを学習すると、必然的に 2 つの大きな問題が生じます。まず、その結果は不確実であり、プロンプト ワードに大きく影響されます。これは Chat GPT の出力に影響し、3 つの避けられない欠点があります。

最初の欠点は、間違いが避けられないことです。したがって、私たちが話しているナンセンスは避けられないのです。

2 つ目の欠点は、出力が入力とプロンプトの単語に大きく影響されるため、出力が主観的ではないことです。同じ質問をして入力を変更すると、まったく異なる結果になります。

3 つ目の欠点は、間違っているかどうかがわからず、間違っていても修正できないことです。高院士が先ほど述べたように、AI による調整に頼らざるを得ません。私はまだChat GPTに「清華大学の校歌の歌詞は何ですか？」と尋ねています。それは自分でセットを作りました。私は1年以上前にこの質問をしましたが、まだ同じです。私は「それは正しくありません。清華大学の校歌はこれではありません。「西の山は広大で、東の海は果てしなく」であるべきだと言いました。私はこの歌詞を歌いましたが、すぐに「申し訳ありません、私が間違っていました、清華大学の歌詞はこれであるべきです」と返答しました。私は出て行き、もう一度入り、「清華大学の校歌は何ですか？」と尋ねました。それは自分で別のセットを作りました。つまり、それが間違っていることを知らず、私が伝えた後でも間違いを訂正できないということです。

考えてみてください。これらの状況は、Chat GPT の出力が私たちの要件、つまり道徳的、倫理的、政治的要件を満たしていないことが多いことを示しています。したがって、Chat GPTの出現後、人工知能のガバナンスは避けられません。この3つのトレンドは次のようになるはずだと私は考えています。

私たちは何をすべきでしょうか？第三世代の人工知能の開発を提唱すべきだと思います。この第三世代の人工知能には3つの内容が含まれています。その1つは、説明可能で堅牢な人工知能理論を確立することです。この理論が確立できたのはChat GPTの登場以降ですが、実は過去には確立することは不可能でした。 2つ目の内容は、安全で、信頼でき、制御可能で、信頼性が高く、拡張可能な人工知能技術を開発することです。この理論を確立して初めて、安全な人工知能技術が得られます。言い換えれば、現在の人工知能技術は安全ではなく、信頼性が低く、信用できないということです。特にビッグデータを活用した機械学習となると、必ずこのような結果になります。最後に、産業の革新と応用、産業の発展を促進することができます。 国家的な計画と産学研究の統合により、この目標は必ず達成できると信じています。 皆さんありがとう