DAMOアカデミーは、ストレージとコンピューティングを統合したAIチップの開発に成功し、パフォーマンスが10倍以上向上しました。

この記事はAI新メディアQuantum Bit（公開アカウントID：QbitAI）より許可を得て転載しています。転載の際は出典元にご連絡ください。

DAMOアカデミーは新しいアーキテクチャチップの開発に成功しました。このチップは、世界初のDRAMベースの3D結合スタックストレージとコンピューティング統合AIチップであり、フォン・ノイマン・アーキテクチャのパフォーマンスボトルネックを打破し、高帯域幅、大容量メモリ、極限のコンピューティングパワーに対する人工知能などのシナリオのニーズを満たすことができます。特定の AI シナリオでは、チップのパフォーマンスが 10 倍以上向上し、エネルギー効率が最大 300 倍向上します。

DAMOアカデミーの統合ストレージおよびコンピューティングチップ

過去 70 年間、コンピューターはフォン ノイマン アーキテクチャに基づいて設計されてきました。フォン ノイマン アーキテクチャでは、動作中にプロセッサとメモリ間でデータを転送する必要があります。時代の発展とともに、この動作モードは大きな課題に直面しています。人工知能などの高並行コンピューティングのシナリオでは、データの送受信によって膨大な電力消費が発生します。現在のメモリ システムの性能向上率はプロセッサの性能向上率に大きく遅れをとっており、メモリ帯域幅が限られているため、高速データ転送を保証できません。

[[438458]]

フォン・ノイマンとフォン・ノイマン・コンピュータ

ムーアの法則が徐々に減速するにつれて、統合ストレージとコンピューティングは、コンピューターのパフォーマンスのボトルネックを解決するための重要なテクノロジーになりました。統合ストレージおよびコンピューティング チップは人間の脳に似ています。データ ストレージ ユニットとコンピューティング ユニットを統合することで、データの移動を大幅に削減し、コンピューティングの並列処理とエネルギー効率を大幅に向上させることができます。この技術は 1990 年代に提案されましたが、技術の複雑さ、設計コストの高さ、アプリケーション シナリオの欠如により、ストレージとコンピューティングの統合チップに関する業界の研究は、過去数十年間にわたってゆっくりとしか進んでいません。

DAMOアカデミーが開発したストレージとコンピューティングの統合チップは、複数の革新的な技術を統合し、ハイブリッドボンディング3Dスタッキング技術を使用してストレージとコンピューティングの統合を実現した世界初のチップです。チップのメモリユニットには、超広帯域幅と超大容量という特徴を持つ異種統合型組み込みDRAM（SeDRAM）が採用されています。コンピューティングユニットの面では、DAMOアカデミーは、マッチング、粗いソート、ニューラルネットワーク計算、細かいソートなどのタスクを含む推奨システムを「エンドツーエンド」で加速するためのストリーミングカスタマイズアクセラレータアーキテクチャを開発および設計しました。

全体的なアーキテクチャの革新により、チップは高いパフォーマンスと低いシステム電力消費の両方を実現します。実際の推奨システムアプリケーションでは、従来の CPU コンピューティング システムと比較して、ストレージとコンピューティングの統合チップのパフォーマンスが 10 倍以上向上し、エネルギー効率が 300 倍以上向上します。この技術の研究成果は、チップ分野のトップカンファレンスであるISSCC 2022に採択されており、将来的にはVR/AR、無人運転、天文データ計算、リモートセンシング画像データ解析などのシーンに応用できるとしている。

DAMO アカデミーのコンピューティング技術研究所の科学者である Zheng Hongzhong 氏は、次のように述べています。「ストレージとコンピューティングの統合は、破壊的なチップ技術です。当然、高性能、高帯域幅、高エネルギー効率という利点があります。ムーアの法則以降の時代のチップ性能とエネルギー消費の問題を、基礎となるアーキテクチャから解決できます。DAMO アカデミーが開発したチップは、この技術とシナリオを密接に組み合わせ、メモリ、コンピューティング、アルゴリズム アプリケーションの完璧な統合を実現しています。」

DAMOアカデミーのコンピューティング技術研究所は、チップ設計方法論と新しいコンピュータアーキテクチャ技術の研究に重点を置いていると報告されています。同研究所は多くの先駆的な成果を達成し、ISSCC、ISCA、MICRO、HPCAなどのトップカンファレンスで多数の論文を発表しました。