データセンター管理者は AI と ML の爆発的な増加にどのように備えればよいのでしょうか?

データセンター管理者は AI と ML の爆発的な増加にどのように備えればよいのでしょうか?

生成 AI と機械学習 (ML) は急速に一般の人々の意識に入り込み、これらの有望なテクノロジーの能力に新たな注目を集めています。 大規模言語モデルの開発の進歩により、ChatGPT のようなチャットボットや DALL-E 3 のような画像ジェネレーターを通じて、AI テクノロジーが一般の人々にとってより身近なものになりました。しかし、消費者向けテクノロジーは AI の可能性の表面をかすめたに過ぎません。これらのテクノロジーは、サプライ チェーン管理、財務分析、マーケティング、検索、画像生成などをサポートするために企業で使用されています。

AI業界は今後10年間で大幅に成長し、2030年までに2兆ドル近くに達すると予想されています。テクノロジーが進歩し続け、政府がその導入に慣れてくると、ヘルスケア、モビリティ、エネルギー生成、電力会社などの業界では AI テクノロジーの利用が拡大し、より合理化されたビジネス慣行と顧客にとってより良い成果が促進されるでしょう。

新しいテクノロジーとデータセンターの要件

顧客は AI および ML アプリケーションの合理化されたインターフェースに慣れているかもしれませんが、データ センター管理者は、これらのエクスペリエンスを可能にするには、舞台裏で大量のデータを処理する必要があることを認識しています。これには、IT 開発の最先端にある高性能チップが必要です。

人工知能を可能にする強力なチップには、正確な電力管理と、さらに重要な冷却が必要です。高度なアプリケーションによって放出される熱により、データ センター管理者は、需要に応じて運用を拡張する能力を維持しながら、高い熱負荷に対応する必要があります。 さらに問題を複雑にしているのは、物理的な設置面積を増やすことが常に選択肢になるわけではないことです。データ センターの管理者やエンジニアは、同じスペースにさらに多くのコンピューティング能力を収めるという技術的な課題を解決する必要があることがよくあります。 さらに、さまざまな業種の顧客は常に 24 時間 365 日の稼働を要求しており、データ センター アーキテクチャを完全に作り直したり再構築したりすることなく、AI アプリケーションの要求を満たす必要がある場合が多くあります。

冷却方法を変える必要がある

人工知能インフラストラクチャや次世代の高性能チップのサポートを期待するデバイスの場合、従来の冷却方法では不十分です。 増大する熱負荷を高速空冷で管理しようとするデータ センターは、すぐに風洞のような環境になり、作業が困難で運用コストも高くなります。 さらに、必要な動作温度を維持するために空冷システムが長時間稼働すると、施設では機器の故障、計画外のダウンタイム、高エネルギーコストが発生するリスクがあります。 液体冷却は、多くのデータセンターにとってより優れたソリューションを提供します。

完全な液体冷却ソリューションでもハイブリッド ソリューションでも、データ センター アーキテクチャに液体冷却を導入すると、エネルギーを節約しながらパフォーマンスを向上させることができます。 ただし、最先端のアプリケーションに対応するように設計または変更されているデータ センターの場合、液体冷却とチップへの直接冷却が唯一の選択肢となることがよくあります。

液体冷却システムは、スペースとエネルギーを効率的に使用しながら、データセンターの容量を増やすのに役立ちます。 また、データセンター施設の総所有コストを削減することもできます。 液体は空気よりもはるかに優れた熱伝達能力を持っているため、液体冷却システムは次世代テクノロジーに必要な温度パラメータを実現するための効果的なソリューションを提供します。 これにより、電力使用効率(データセンターが補助システムではなくコンピューティングに施設の電力をどれだけ効率的に使用しているかを示す指標)が向上します。

大規模ソリューション

完全な液体冷却アーキテクチャを実装できないデータセンターには、いくつかのオプションがあります。 データ センターは、AI および機械学習アプリケーションを収容する個々のラックまたはラックの小グループを冷却できます。 つまり、本格的な液冷データホールを導入する必要はありません。

これらのオンサイト ソリューションを実装する場合、データ センター管理者は将来のビジネス計画を理解する必要があります。 専用の冷却ソリューションを使用して固有の問題を解決することは実行可能なアプローチですが、コスト、エネルギー効率、その他の要因により、1 つの問題に対するソリューションが別の問題を解決できない場合があります。 すべてのデータ センター管理者は、さまざまな課題にはさまざまなソリューションが必要であり、万能のアプローチが成功することはほとんどないことを理解しています。 これは、完全な液体冷却を採用する次世代データセンターを計画すること、または空冷インフラストラクチャ内で実行しながらラックおよびチップ レベルに液体冷却をもたらすハイブリッド液体空気ソリューションを検討することを意味する可能性があります。

さらに、多くのデータ センターでは、マニホールドを備えたサーバー ラックを設置し、液体冷却に必要な追加の配管を考慮することで、次世代の冷却に備えています。 これにより、データセンターのラックレベルのインフラストラクチャはすでに施設の液体と互換性があるため、液体冷却が導入されたときにデータセンターは簡単に液体冷却に移行できます。

将来を計画し、IT ワークロードを理解することで得られる最大の利点は、ほぼすべての潜在的な冷却ソリューションを組み合わせて構築できることがわかり、データ センター管理者が変化するニーズに合わせて電力と冷却の能力を調整できるようになることです。 持続的な成長の鍵となるのは、次世代デバイスをサポートするための複数の柔軟なオプションです。 液体冷却技術により柔軟性が向上します。

その他のインフラストラクチャの考慮事項

冷却以外にも、データセンター インフラストラクチャの他の部分も AI および機械学習テクノロジーの導入に重要です。 たとえば、スマート電力分配ユニット (PDU) のリモート監視および制御機能により、ダウンタイムのリスクを軽減しながらエネルギー効率を向上させることができます。

漏れ検出も重要です。 施設レベルでは、さまざまな方法で液体がデータセンターに侵入する可能性があります。 施設の水道管は適切に保護されていないと凍結して破裂する可能性があります。 バックアップ発電機から燃料が漏れる場合があります。 場合によっては、液体冷却ラインが損傷する可能性があります。 漏れ検出テクノロジーは、データ センター管理者が漏れの正確な発生源をリモートで特定し、機器をシャットダウンして損傷を防ぐのに役立ちます。 このような緊急事態には、この機器のリモート監視と制御が不可欠であり、データセンターの日常的な効率性と円滑な運用を監視することも重要です。

人工知能、機械学習、高性能コンピューティングの普及により、データセンター管理者にとって多くの新たな課題が生じていますが、適切なサポートソリューションとシステムを導入すれば、刺激的な機会も生まれます。 慎重に設計された冷却および電源技術により、データ センターの管理者と消費者は同様にこの魅力的なテクノロジーの恩恵を受けることができます。

<<:  297 件の論文すべてを 1 つの記事で読むことができます。中国科学院が「拡散モデルに基づく画像編集」に関する初のレビューの出版を主導

>>:  ロボット工学と自動化が建築の未来を形作る

ブログ    

推薦する

ヘルスケアにおける IoT と AI

IoT 対応デバイスの登場により、医療における遠隔モニタリングが可能になりました。ほぼすべての大手...

...

数人のアメリカ人作家が共同で書簡を書き、AIが著作権のあるコンテンツを使って作品を生み出す場合、著者に補償を与えるよう求めた。

アクションネットワークによると、7月19日、約8,000人の作家がニューヨーク作家組合宛ての公開書簡...

Java で一般的に使用されているいくつかの暗号化アルゴリズムは、最も強力なハッカーでも解読できません。

シンプルな Java 暗号化アルゴリズムは次のとおりです。厳密に言えば、BASE は暗号化アルゴリズ...

わずか1行のコードでモデルを数秒でAPIに変換でき、TensorFlowなどのフレームワークをサポートしています。

[[283641]]機械学習モデルを API にパッケージ化することにまだ不安がありますか?このツ...

ロボット工学アプリケーションは、Metaverse テクノロジーを通じてどのように普及するのでしょうか?

[[436311]]最近、Meta CEO マーク・ザッカーバーグ氏によるメタバースの推進が大きな...

機械学習を独学で学んだら、どうやって仕事を見つければいいのでしょうか?少なくともトップ10の地雷原は避ける

この記事はAI新メディアQuantum Bit(公開アカウントID:QbitAI)より許可を得て転載...

TabR: 検索拡張により、深層学習は表形式データで勾配ブースティング モデルを上回るパフォーマンスを発揮できるようになりますか?

これは7月に発表された新しい論文で、深層学習が表形式データにおける勾配強化モデルを上回ることを可能に...

「自由に眠る」にはヘッドバンドを着けるだけ | Nature サブ出版物

この記事はAI新メディアQuantum Bit(公開アカウントID:QbitAI)より許可を得て転載...

創造性がデジタル変革を推進する

人工知能はビジネス環境を一新し、競争環境を変え、仕事の本質を変革しています。しかし、人間の創造性も ...

...

多くの機械学習戦略が失敗する理由

クラウド コンピューティング サービス プロバイダーの Rackspace Technology が...

ChatGPT を使用すると、開発と学習の効率が向上するだけでなく、奥さんとの関係にも役立ちますか?

2024年初頭にChatGPTが人気を博して以来、コーディングを支援するさまざまなAIGCツールに...

需要が高まる最高AI責任者

出版社ファウンドリーの新しい調査によると、企業は生産性とイノベーションを高めるために人工知能に注目し...