AI がグラフィック カードを作成し、グラフィック カードが AI を実行します。 Nvidia はチップ設計において自己循環を実現したか?

NVIDIA の研究開発について学ぶことは、NVIDIA の毎年春に開催される GTC カンファレンスの定期的なイベントとなっています。

たとえば、主任科学者兼研究担当上級副社長のビル・ダリー氏は、Nvidia の研究開発組織の概要と現在の優先事項について毎年詳細を説明しています。

2022年、ダリー氏はNvidiaが自社製品の改善に開発・使用しているAIツールに注力するとしている。

受け入れる気があるなら、これは実はリバース マーケティングの巧妙な例です。Nvidia は、AI ツールを実行するグ​​ラフィック カードを製造する会社から、AI ツールを使用してグラフィック カードを製造する会社へと変化しました。

はい、Nvidia は AI インテリジェンスを使用して、グラフィック カードの設計を効果的に改善し、高速化させ始めました。

「私たちのデザインチームは、NVIDIA の製品デザインにおいて、より前向きな主導的立場を模索している約 300 人のグループです」と、ダリー氏は 2022 年の GTC でのスピーチで説明しました。「私たちは、遠くにあるものを照らそうとするハイビームのようなものです。チームは緩やかに 2 つの部分に分かれています。

供給部門は、グラフィック カード テクノロジの提供を担当します。これにより、回路から VLSI 設計手法、アーキテクチャ ネットワーク、プログラミング システム、グラフィック カードに読み込まれるストレージ システム、グラフィック カード上で実行されるソフトウェアに至るまで、グラフィック カード自体が改善されます。 「

「需要側は、グラフィック カードとうまく連携するソフトウェア システムとテクノロジを開発することで、Nvidia 製品の需要を促進しようとしています。

たとえば、私たちはコンピュータ グラフィックス技術の限界を常に押し広げているため、3 つの異なるグラフィックス研究グループを擁しています。また、当社には 5 つの異なる AI グループがあります。これは、GPU を使用して AI を実行することが現在非常にホットな話題であり、今後さらにホットになるからです。ロボット工学や自動運転車に取り組んでいるグループもあります。 「

「当社にはトロントやテルアビブの AI ラボのような地域に特化したラボもいくつかあります。」

時折、Nvidia はこれらのグループから才能ある人材を引き抜き、Nvidia のリアルタイム レイ トレーシング テクノロジを生み出したプロジェクトのような、壮大なプロジェクトに再編成します。

レイトレーシングプロジェクトの組織構造

いつものように、2022 年の調査は前年のダリー氏の講演と一部重複していますが、新しい情報もあります。たとえば、部門の規模は 2019 年の約 175 人から大幅に拡大しました。 NVIDIA の自動運転システムやロボットの開発への取り組みも間違いなく強化されている。ダリー氏はCPUの設計作業についてはあまり語らなかったが、CPUも間違いなく強化されている。

以下は、Nvidia がチップの設計に AI をますます活用していることに関する Dally 氏の講演からの抜粋です。

電圧降下のグラフ化

「人工知能の専門家として、私たちは当然、AIを活用してより優れたチップを設計したいと考えています」とダリー氏は語った。

Nvidia のグラフィック カード設計部門は、これをいくつかの異なる方法で実行します。最初の、そして最も明白なアプローチは、既存のコンピュータ支援設計ツールを活用し、そこに AI モデルを組み込むことです。

たとえば、グラフィック カードの設計部門には、Nvidia の GPU グラフィック カード製品の電力使用量の変化箇所を AI がリアルタイムでマッピングし、電圧グリッドがどの程度低下するかをリアルタイムで予測する設計支援ソフトウェア ツールがあります。

通常、電圧降下は電流と抵抗降下を掛けて計算されます。従来の CAD ツールを使用してこの値を計算するには 3 時間かかります。これは反復的なプロセスであるため、従来のツールを常に使用すると、設計部門の作業負荷が非常に大きくなります。

コンセプトディスプレイ

Nvidia のグラフィック カード設計部門がやりたいのは、同じデータを取得できるように AI モデルをトレーニングすることです。開発者はこれを多数のデザインで試した後、AI に電力グラフを入力しました。結果として、AI の推論時間はわずか 3 秒になります。

もちろん、パワーマップ上の固有値抽出の時間も含めると、18分になります。いずれにせよ、これは従来の効果と比較すると非常に速い結果です。

同様の状況下で、グラフィックカード設計部門も、畳み込みニューラルネットワーク AI の代わりにグラフニューラルネットワーク AI の使用を試みました。このプロセスの目的は、前の例で実際に電力特性値の入力効率を駆動するグラフィック カード回路内のさまざまなノードのスイッチング周波数を推定することです。

副次的な効果として、Nvidia 開発者は、従来のツールよりもはるかに高速かつ短時間で、非常に正確なグラフィック カード回路の電力推定値を取得できます。

寄生コンポーネントの予測

数年前に回路設計者としてかなりの時間を費やした Dally 氏のお気に入りの設計プロジェクトの 1 つは、グラフ ニューラル ネットワーク AI を使用して、寄生要素 (設計時に意図または予測されていなかった電子部品) が最終製品にどのように追加されるかを予測することでした。

かつての回路設計は、設計者が多数のトランジスタアイコンを含む回路図を描くという非常に反復的なプロセスでした。しかし、彼はボードがどのように機能するかを知りません。

レイアウト設計者は、この回路図を取得してレイアウト サンプルを作成し、寄生要素を取り付けて初めて、回路シミュレーションを実行し、どの部分が期待される設計仕様を満たしていないかを調べることができます。

その後、設計者は戻って回路図を修正し、レイアウト設計者に再度プロセスの実行を依頼することになります。これは非常に長く、反復的で、非人道的で、労働集約的なプロセスです。

Nvidia のグラフィック カード設計部門が現在できることは、レイアウト設計者がレイアウト サンプルを作成して欠陥を発見することなく、寄生コンポーネントを予測するようにニューラル ネットワークをトレーニングすることです。

その結果、回路設計者は、設計、レイアウト、再設計の手順を手動で繰り返す必要がなくなり、非常に迅速に反復処理を行うことができます。

ダリー氏によると、Nvidia の設計 AI は、実際の状況と比較して、これらの寄生要素を非常に正確に予測できるようになったとのことです。

配置/ルーティングの混雑

同時に、チップレイアウトにとって重要な、チップの配置/配線によって発生する混雑問題も予測できます。

通常のプロセスでは、チップ設計者はグリッド テーブルを作成し、レイアウトと配線のプロセスを実行します。このプロセスは通常非常に時間がかかり、数日かかることもあります。

この方法でのみ、設計者はグラフィック カード サンプルの実際の混雑状況を把握することができ、設計図の初期レイアウトだけでは不十分です。

デザイナーはリファクタリングし、赤い領域を避けるためにマクロを別の場所に配置する必要があります (下の画像を参照)。赤いエリアには、ビットコインの交通渋滞のように、特定のエリアを横切る交差ルートが多すぎます。

このような場合、支援設計 AI を使用した後は、レイアウトと配線を実行する必要はありません。これらのグリッド リストを取得し、画像ニューラル ネットワーク AI を使用して、混雑が発生する場所に関する基本的な予測を行うと、結果はかなり正確になります。

まだ完璧ではありませんが、問題のある領域が示されています。設計チームは、グローバルな配置と配線を何度も繰り返すことなく、特定の領域でアクションを実行し、迅速に反復することができます。

チップ標準セル設計自動化

既存の方法はすべて AI を使用して人間のデザインを評価しますが、将来的には、AI を使用してデザインを完成させることができるようになることがさらに楽しみです。

ダリー氏は、AI をチップの設計にどのように活用できるかを説明するために 2 つの例を挙げました。

最初のシステムは NVCell と呼ばれ、シミュレートされた低温アニーリングと強化学習を組み合わせたもので、基本的にデジタル集積回路用の標準セル ライブラリを設計できます。

設計者は、チップ技術のアップグレード（たとえば、7 ナノメートルから 5 ナノメートルへのアップグレード）を達成するたびに、セル ライブラリを作成します。

ユニットは AND ゲートや OR ゲートのような完全なアクセラレータです。

現在、Nvidia の設計部門には、こうしたセルのライブラリが何千個も存在します。これらのユニットは、一連の複雑な設計基準に従って、新しいテクノロジーの枠組み内で再設計する必要があります。

2 つ目は、強化学習モデルを使用してトランジスタのレイアウトを設計することです。

設計者は主に強化学習を使用してトランジスタを配置します。しかし、もっと重要なのは、トランジスタを配置した後、設計ルール エラーが多すぎるため、それらを見つけるのはビデオ ゲームのようなものだということです。

実際、強化学習はこれに優れています。良い例としては、Atari ビデオゲームへの強化学習の応用が挙げられます。

つまり、これは Atari のビデオ ゲームのようなものですが、今回は標準セルの設計エラーを修正することが目的です。

強化学習を使用することで、Nvidia の設計者は設計ルールのエラーを検出し、修正することができます。このようにして、設計者は基本的に標準ユニットの設計作業を完了することができます。

下の図に示すように、このツールを使用すると、設計ルールや回路にエラーが発生することなく、セル ライブラリの 92% を作成できます。

さらに、セルの 12% は手動で設計されたセルよりも小さくなります。全体的に、AI 設計のユニットは、ユニットの複雑さの点では手動で設計されたユニットと同等に優れています。

これにより、デザイナーは 2 つのことを実現できます。

まず、AIの応用により労力を大幅に節約できます。 AIがなければ、新しいテクノロジーライブラリを構築するには10人のチームで約1年かかります。現在、デザイナーはいくつかの GPU を使用して数日間実行することができます。

そうすると、AI が完了できなかった残りの 8% のユニットにのみ人間が介入する必要があります。

ほとんどの場合、デザイナーは AI の助けを借りて、より良いデザインを思いつくことができます。

つまり、時間と労力を節約できるだけでなく、作ったものもより良いものになります。