マイクロソフトはソフトからハードへの変革に向けてカスタム AI チップを開発中。その計画とは?

噂は本当で、Microsoft は大規模な言語モデルのトレーニングに使用できるカスタム AI チップを開発しており、これにより Microsoft の独立性が高まり、Nvidia への過度の依存が回避されます。それだけでなく、Microsoft は主にクラウド コンピューティング ネットワークでの使用を目的とした Arm CPU も開発しています。どちらのチップも Azure データセンターを対象としており、Microsoft の企業顧客はこれらを使用して AI プラットフォームを構築できます。

最新のニュースによると、Microsoft の Azure Maia AI チップと Azure Cobalt CPU の Arm バージョンが 2024 年に発売される予定です。現在市場で最も人気のある AI チップは、企業が生成グラフィック ツールや大規模言語モデルのトレーニングに使用している Nvidia の H100 GPU です。 Nvidia GPU は需要が高く供給が不足しており、1 ユニットのオンライン価格は 40,000 ドルを超えています。

高度にカスタマイズされたチップ

Microsoft Azureハードウェアシステムおよびインフラストラクチャ担当ディレクターのラニ・ボルカー氏は、「実は、Microsoftにはチップ開発の長い歴史がある」と説明した。20年以上前、Microsoftは他の企業と協力してXboxチップを開発し、Surfaceチップも開発した。 「こうした取り組みはすべて経験に基づいています。2017年に、私たちはクラウド コンピューティング ハードウェアの研究を開始し、独自のカスタム プロセッサの開発を始めました。」

ラニ・ボルカー氏は、Azure Maia AIチップとCobalt CPUはどちらもマイクロソフト自身によって開発され、パフォーマンス、エネルギー消費、コストを考慮してクラウドサーバースタックも開発されたと述べた。 「AI時代の到来に伴い、当社はクラウド インフラストラクチャを再考し、インフラストラクチャのあらゆるレイヤーを再最適化しました。」

Azure Cobalt CPU は、ArmNeoverse CSS に基づいて設計された 128 コア チップであり、Microsoft のカスタム製品です。このチップは Azure クラウド サービスに使用されます。 「私たちはパフォーマンスだけでなく、電力管理についても深く考えました」と Rani Borkar 氏は語ります。「各コアのパフォーマンスと電力消費、仮想マシン内での動作を制御できるようにするなど、設計において意識的な選択を行いました。」

Microsoft は現在、Teams と SQL サーバー上で Cobalt CPU をテストしており、来年には顧客に仮想マシンを提供する予定です。

全体的なパフォーマンスの向上

Amazon も Graviton 3 サーバーを開発しました。Microsoft のサーバーと比べてどちらが優れているのでしょうか? Microsoft は明確には述べていませんが、Microsoft Azure Cobalt CPU は Arm アーキテクチャに基づいて開発されていることを考えると、パフォーマンス上の利点があるはずです。 「初期テストでは、マイクロソフトの新製品は、マイクロソフトが現在データセンターで商用Armサーバーを使用しているものよりも40％高いパフォーマンスを発揮することがわかった」とラニ・ボルカー氏は述べた。

Maia 100 AIに関しては、AI向けに開発されました。一部の企業は Azure プラットフォーム上で AI タスクを実行したいと考えていますが、Maia 100 AI が役立ちます。 Microsoft は OpenAI と提携して Maia の設計とテストを行っています。

OpenAIのCEO、サム・アルトマン氏は次のように語った。「マイクロソフトが最初にMaiaチップの設計を私たちと共有してくれたことを嬉しく思います。私たちはモデルの改善とテストに懸命に取り組んでいます。Azureが提供するエンドツーエンドのAIアーキテクチャはMaia向けに最適化されており、顧客がより強力なモデルをトレーニングし、将来的にモデルを安価に作成するのに役立ちます。」

Maia チップは TSMC の 5nm プロセスを使用して製造されており、トランジスタ数は 1,050 億個で、AMD の MI300X AI GPU の 1,530 億個より 30% 少ない。 Microsoft、AMD、Intel、Meta、Nvidia、Qualcomm はすべて、次世代 AI モデルのデータ モデルの標準化に取り組んでいます。

「Maia は、Microsoft が開発した初の真の液体冷却サーバー プロセッサです」と Rani Borkar 氏は語ります。「当社の目標は、より高密度で効率的なサーバーを構築することです。」Microsoft の新しいシステムは、既存のデータ センターと互換性があるため、より迅速に導入できます。

Microsoftは現在、GPT 3.5 Turbo、Bing AI、GitHub Copilotを使用してMaia 100をテストしていますが、展開はまだ初期段階であるため、Microsoftは具体的なパフォーマンステストデータを提供していません。

多様なサプライチェーンの構築

具体的なデータのサポートがないため、Maia が NVIDIA H100 や AMD MI300X よりも強力かどうかはわかりません。ラニ・ボルカー氏は、競合他社との比較には消極的だった。同氏は、マイクロソフトはAMDやNvidiaと協力関係にあるとだけ述べた。マイクロソフトは主に多様化したサプライチェーンを構築したいと考えており、Nvidia に過度に依存することを望んでいません。

ChatGPTを商用化するために、OpenAIは3万個のA100 GPUチップを購入したと推定されています。Microsoftが独自のチップを持つことができれば、OpenAIのコスト削減に貢献できます。 Microsoft が Azure 向けに開発しているチップについては、一般には販売されません。ボルカー氏は次のように説明した。「これは、ライバルと競争するのではなく、補完的なもののようなものです。当社のクラウド コンピューティング プラットフォームには、AMD と Intel のチップが搭載されています。AI に関しては、Nvidia チップに加えて、AMD チップも使用します。これらのパートナーは当社のインフラストラクチャにとって非常に重要であり、お客様にも選択肢を増やしたいと考えています。」

Maia 100 と Cobalt 100 の命名から判断すると、Microsoft はすでに第 2 世代の製品を設計しているに違いありません。ボルカー氏は「これは100種類だけではなく、一連の製品であり、今後も増える予定だ。しかし、当面はロードマップを公表しない」と述べた。

今のところ、マイクロソフトはMaiaの価格を明らかにしていないが、マイクロソフトはひっそりとMicrosoft 365 Copilotサービスを開始しており、料金は1ユーザーあたり月額30ドル。安くはないので、Maiaも安くはないはずだと推測されている。

Microsoft の計画によれば、Maia 100 人工知能チップの直接の競合相手は Nvidia GPU であり、Cobalt 100 チップは主に Intel プロセッサを対象としています。 10月末時点でマイクロソフトは1440億ドルの現金を保有しており、2022年には世界のクラウドコンピューティング市場の21.5%を占めることになる。 2024年までに、Cobalt 100チップを実行する仮想マシンサービスが正式に商用化される予定です。

大手企業によるカスタマイズされたチップが一般的なトレンド

マイクロソフトのライバルたちも怠けてはいない。 Googleは2016年にTensorプロセッサをリリースし、Amazonは2018年にGraviton ArmプロセッサとInferentia AIプロセッサをリリースし、2020年にはTrainium（AIモデルのトレーニングが可能）をリリースしました。

競合他社の行動から判断すると、マイクロソフトは独自のプロセッサを発売することでトレンドに追随しているだけだ。過去1年ほど、チップ価格が上昇し、米国が金利を引き上げたため、企業は資本効率を改善する方法を見つけざるを得なくなり、AWS Gravitonプロセッサを好むようになりました。 AWS の上位 100 社の顧客のうち、ほぼすべてが ARM プロセッサを使用しており、コスト効率が 40% 向上しています。

カスタマイズされた AI チップは大手企業が参加しなければならないゲームになっており、競争はますます激しくなることは否定できません。 （ナイフ）