シングルテナント AI ファクトリーは最新のデータセンタートレンドでしょうか?

コロケーション データ センターの標準的な構造は、数十または数百の顧客が同時に異なるアプリケーションを実行することです。しかし、Nvidia は、アプリケーションを実行し、それを使用する顧客が 1 社のみという新しいタイプのデータ センターについての洞察を提供しています。

「AI工場」の出現

これは新しいタイプのデータセンターであり、多くのアプリケーションが実行され、多くの異なるテナントが同じインフラストラクチャを使用していた過去のデータセンターとは異なります。」

これらの新しいデータ センターは、少数のアプリケーションをホストし、基本的に単一のテナントによって使用されます。テナントは、データを処理し、モデルをトレーニングし、トークンを生成して AI を生成します。私たちはこれらの新しいデータセンターを「AI ファクトリー」と呼んでいます。

AI 工場があらゆるところに出現しています。私の推測では、ほぼすべての主要地域に AI クラウドが存在し、すべての主要国に独自の AI クラウドが存在することは間違いありません。つまり、私たちは今、コンピューティングにおけるこの転換点、変革の始まりにいるのです。

この傾向は現在、インド、スウェーデン、日本、フランスで起こっています。 AI が真に効果的であるためには、言語および文化の標準に準拠する必要があります。日本のAIニーズはスウェーデンのそれとは異なります。 AI データセンターやシングルテナント AI ファクトリーが各国に限定されるのはそのためです。

AI導入規模の評価

Amazon や Google などの大手クラウド サービス プロバイダーや、Equinix などの大手コロケーション プロバイダーのデータ センターは、サッカー場ほどの大きさの巨大なものが多いです。 Nvidia の Hopper プロセッサの膨大な電力消費を考えると、これらの AI 工場はマクドナルドとほぼ同じ大きさになります。

一般的なデータ センターのラック電力予算は 6kW ～ 8kW の範囲ですが、LLM の実行に最適化されたサーバーを導入する場合、1 台のサーバーで約 11kW の電力が消費され、これは汎用サーバー約 14 台の平均電力消費量に相当します。

この場合、一般的なデータセンターでは、DGXH100 などの GPU サーバーを限られた数しか実行できません。1MW のデータセンターの場合は、約 50 台の DGXH100 サーバーを導入できます。多数の同時ユーザーに AI を大規模に展開するには、このようなサーバーの大規模なクラスターが必要になります。つまり、一般的なデータ センターでは、限られた数の顧客、おそらく 1 人の顧客のみに対応できます。

AIを活用した工場の未来

AI ファクトリーのような単一目的の GPU 環境の場合、最もコスト効率の高い設計は、高密度と液体冷却向けに設計された専用のデータセンターを、AI エンタープライズに最適な場所に設置することです。

AI クラスターの電力消費は、多数のサーバーを備えたデータセンターの制限要因となり、これらのデータセンターの一部は AI 専用となる可能性があります。 AI を取り巻く安全性と規制の枠組みもこの傾向を推進する可能性があります。生成 AI と汎用 AI の開発により、セキュリティとコンプライアンスの問題が発生するため、企業はそのようなワークロードを高度に安全な専用施設から実行することを決定する場合があります。

AI工場とデータセンター

AI の電力密度は従来のデータ センターの 5 ～ 10 倍であるため、AI ファクトリーは、100 万平方フィートを超える従来のデータ センターほど大きくはなりません。

従来のデータセンターと AI ファクトリーのもう 1 つの違いは、その場所です。巨大なデータセンターは再生可能エネルギー源に隣接する遠隔地に建設されることが多いですが、AI 工場は市内中心部や大都市圏、十分な電力が利用可能な既存の施設内に建設できます。

現在、十分に活用されていないオフィスや小売スペースが大量に存在しています。そこで非常に魅力的なのは、廃墟となった建物や十分に活用されていない都市空間、あるいは人里離れた場所にある古い倉庫の一部で、すでに電源が通っていて、AI 機器や液体冷却装置を設置して電源を入れるだけで使える場所になります。

データセンター業界の将来を予測することは不可能ですが、AI の急速な成長は、デジタル インフラストラクチャ オペレーターが増大する需要に応えようと躍起になるにつれて、AI ファクトリーがすぐに必要になる可能性があることを示唆しています。