ライトスピードコンピューティングが画期的な進歩を達成、AIトレーニングコストの問題が解決される可能性

画像出典: Visual China

1956年、アメリカの経済学者によって「人工知能」の概念が提唱されました。それ以来、60年以上の浮き沈みを経て、人工知能は2つの波を経験しました。

最初の波は「if-then」構造に基づいており、人工的に設定された形式論理に基づいて構築されていました。2 番目の波は、現在ではより馴染みのあるもので、ビッグ データによって駆動され、統計的手法、シミュレートされたニューラル ネットワークなどを使用して、コンピューターの自律学習を実現します。

これら 2 つの波の変遷から、AI の本質はコンピューティングであり、アルゴリズムがデータの流れを制御し、いわゆる「インテリジェンス」を実現することがわかります。コンピューティングは間違いなく人工知能の開発において最も重要な部分です。さて、AI コンピューティングはどこまで進んでいるのでしょうか?

ライトスピードコンピューティングがAIトレーニングのコスト問題を解決

最近、OpenAI はさまざまな期間における最先端の AI 実験で消費されたコンピューティング量に関する調査と分析を実施しました。結果によると、AI トレーニングに必要なコンピューティング量は 6 年前と比べて 30 倍に増加しており、これは 3.5 か月ごとに 2 倍に増加していることに相当します。

コンピューティング量の増加は、AI の機能も日々向上していることを意味するため、実際には悪いことではありません。ただし、コンピューティング能力の向上により、AI トレーニングのコストも増加し続けます。有名な AlphaGo Zero を例に挙げてみましょう。これは現在最大の AI 実験であり、そのコストは 1,000 万ドルに上るかもしれません。実験的なコンピューティングの量が増え続けると、そのコストは 1.1 ～ 1.4 年ごとに 1 桁ずつ増加します。このままでは、この実験の費用は5～6年以内に2,000万ドルに達することになる。

大規模な経済的利益をもたらす非常に強力な AI 技術が存在しない限り、AI コンピューティングのトレンドを維持し、次の「AlphaGo」に「餌」を与えることができるようにするためには、経済生産高が毎年 1 桁の割合で成長する必要があるでしょう。これはあくまでも現状であり、AIコンピューティングのトレンドが今後さらに加速しないとは誰も保証できません。

したがって、現在企業や政府が直面している課題は、人工知能研究におけるコンピューティング需要の増大に対応するために、AI コンピューティングをどのように高速化するかということです。

速度といえば、宇宙で最も速いのは光の速度で、秒速30万キロメートルです。AIのディープニューラルネットワークの信号が光速で伝播できれば、計算速度もそれに応じて向上できるのでしょうか？

最近、カリフォルニア大学ロサンゼルス校（UCLA）の研究者らは、3Dプリント技術を使用して固体ニューラルネットワークを印刷し、階層的な光回折を利用して計算を実行し、手書きの数字を画像認識する効果を実現しました。

光を使って計算を行うことは、実は機械学習の古典的なアルゴリズムの1つである線形回帰アルゴリズムと自然に一致します。線形回帰は一般的に連続変数に基づいて実際の値を推定し、光の振幅と位相は調整可能な変数です。これは、AIの光速度計算と従来のコンピュータ回路における電界伝播の違いでもあります。この技術の開発は、AI コンピューティングのコストを削減し、量産目標の達成に役立つと考えられています。

光でコンピューティングを行うとはどういう意味ですか?

この技術が実装され、光速コンピューティング技術が実際に応用されると、人工知能にどのような変化をもたらすのでしょうか。アナリストの Yan Xuan 氏は、次の 2 つの側面で大きな進歩があると考えています。

1. 「ブラックボックス」は太陽の下で「ガラスの箱」になった

もし人間がAIの「神」であるならば、人間がAIに与えるのは「生命」の組み合わせのルールだけであり、本当の進化はAI自身によって成し遂げられることになる。

初期段階では、AI の認識能力は非常に限られています。AI は継続的な試行錯誤を通じて最良の結果を求め、ある程度の知能を獲得します。人間の視点から見ると、私たちはAIの認知プロセスに関与していません。ディープラーニングの枠組みでは、「それが何であるかは分かっているが、なぜそうなるのかは分からない」のです。これが有名な「ブラックボックス」問題です。

AI はあなたが 50 年後に死ぬと予測しますが、それがどのように機能するかはわかりません。自動運転車が道路脇のガードレールに衝突しますが、何が問題なのかがわからないため、工場に送り返してアルゴリズム全体を修正することしかできません。

AIに光を与えることができれば、「ブラックボックス」問題は解決されるかもしれません。ご存知のとおり、AI の計算は目に見えず、実体のない数値ですが、光の回折は実際の物理現象です。モデルの予測プロセスを物理的な表現に固めれば、人工知能の計算プロセスをはっきりと観察できます。

光を使って計算を行う実験で、UCLAの研究者らは3DプリントされたAI分析システムを開発した。このシステムは光の回折を通じて人工知能を分析することができます。研究者らはまた、位相と振幅を変えることで、人工知能内の各「ニューロン」を調整できるようになると述べた。

2. AIの「育成」ゲーム：強い人工知能の始まり

強力な人工知能（知覚と自己認識を持ち、推論して問題を解決する能力を持つインテリジェントな機械）は実現可能でしょうか？

21 世紀には人間に匹敵する知能を持つ AI が登場すると予測する人もいます。この予測的な姿勢は、還元主義に基づく計算理論から来ており、その基本的な考え方は、物理世界、生命のプロセス、さらには人間の心さえもすべてアルゴリズム的に計算可能であるというものです。

人間の脳はコンピューターのように機能します。人間の脳の計算ルールをシミュレートできれば、少なくとも人間に匹敵するインテリジェントなマシンを構築できるようになります。もちろん、ここには暗黙の前提があります。つまり、人間の意識はすべて脳の計算の産物であるということです。

強力な人工知能を作成するには、まず人間の脳の計算能力を活用することから始める必要があるかもしれません。ここで当然想定されるのは、0 歳から 18 年間の人間の脳をシミュレートするのに十分な計算能力を持ち、脳の知的パフォーマンスを十分に細かい粒度で捉える AI を作成した場合、この AI は 18 歳の成人のように問題を解決できるかどうかです。

これにはどのくらいの計算能力が必要でしょうか? 脳を 1 秒間シミュレートするために必要な 1 秒あたりのピーク速度 (FLOPS、または「1 秒あたりの浮動小数点演算」とも呼ばれる) については、さまざまな推定値があります。たとえば、AI Impact によって収集されたデータの中央値は 1018 FLOPS で、3×10^13 FLOPS から 1×10^25 FLOPS の範囲です。このようなシミュレーションを 18 年間実行すると、700 万ペタフロップスに相当します。

AI 技術が発展するにつれて、その粒度はさらに細かくなり、計算量も増大します。光を使って計算を行うことができれば、間違いなくこのビジョンを実現できる技術となるでしょう。

光速コンピューティングの「欠陥」

光を使って計算を行うことは、ニューラル ネットワークの計算方法に確かに革命をもたらしましたが、この方法自体にはまだいくつかの問題があります。

まず、前述の実験では、光学計算は固化したニューラルネットワークに基づいています。そのため、ディープラーニングのトレーニングが完了し、すべてのパラメータの値が決定され、その後3Dプリント技術を使用して固められると、印刷されたニューラルネットワークはもはやプログラムできなくなります。

第二に、オンデマンド処理タスクを実行できる超高精度回折板を作成することは非常に困難です。トレーニングコストの計算問題を解決した後、この新しいテクノロジーがハードウェアの研究開発にコストの問題を引き起こさないとは言い難いです。製造プロセスに加えて、ハードウェアのインストールや環境の安定性に関する課題もあります。

確かに、新しいテクノロジーの応用にはまだ時間がかかり、光を使用して計算を行うことで急速に成長する AI コンピューティングのトレンドに対応できるかどうかについては、引き続き積極的に検討する必要があります。

コンピューティングの問題が解決されるにつれて、人工知能も大きく進歩するでしょう。