コンパニオン チップ: AI にとって賢い選択でしょうか?

半導体業界では長年にわたり、より多くのコンポーネントを単一のシステムオンチップ (SoC) に緊密に統合する取り組みを行ってきました。結局のところ、これは大規模なアプリケーションにとって非常に実用的なソリューションです。プロセッサ、メモリ、周辺チップの配置を最適化することで、メーカーはデータパスを最小限に抑えることができ、電力効率を向上させてより高いパフォーマンスを実現できるほか、コストを大幅に削減できます。これらのアプローチを通じて、業界は大きな成功を収め、SoC はほぼすべての民生用電子機器の標準コンポーネントとなっています。

AIを標準として

ニューラルネットワークを使用してさまざまなタスク（自然言語処理、画像認識および分類など）を処理することの大きな可能性を認識する企業が増えるにつれて、人工知能の要素を導入する製品の数も着実に増加しています。同時に、これらのタスクの処理はクラウドベースのアーキテクチャからローカル端末デバイスに移行しており、専用のハードウェアニューラルネットワークアクセラレータが SoC デバイスに組み込まれるようになりました。

AIはより多くのSoCデバイスに統合されている

音声起動型家電製品（仮想アシスタントなど）から先進運転支援システム（ADAS）まで、統合ニューラルネットワーク人工知能（AI）の機会は複数の市場セグメントにわたって展開しており、人工知能（AI）が多くのソリューションの不可欠な要素であると考えられていることは否定できません。

一つのサイズがすべての人に合うわけではない

しかし、AI アプリケーションの数が増えているからといって、AI アクセラレーション機能を統合した SoC がすべてのシナリオに適しているわけではありません。実際、AI がほとんどの市場セグメントをカバーできると考えると、そのテクノロジーを使用する製品にはさまざまな処理要件がある可能性があるため、当然、細分化された違いが生じます。セグメント化された市場は専用 SoC デバイスにとって課題であり、「万能」なソリューションはもはや適用できません。

一部の市場（スマートフォン、ADAS など）は SoC ベンダーに多くの機会を提供していますが、AI ユースケースをターゲットとする多くの市場はまだ比較的低迷しています。たとえば、一部の製品では音声処理または画像認識に AI が必要になる場合がありますが、必ずしも両方が必要になるわけではありません。同様に、スマートホームベンダーは、従来のスマートフォン SoC に AI 機能を組み込んで自社製品に組み込むことは、コスト効率が悪いため良いソリューションではないと考えています。

AIコラボレーションチップを理解する

デスクトップ CPU とモバイル SoC は現在、主にマルチコア チップを使用しています。これは、その柔軟でスケーラブルなアーキテクチャにより、オンデマンドでさまざまなパフォーマンスを提供できるためです。AI「コチップ」も同様のアプローチを採用しています。コチップは、1 つだけではなく複数のコンピューティング GPU とニューラル ネットワーク アクセラレータ (NNA) を使用して設計されており、特定のアプリケーションに十分なパフォーマンスを提供しながら、シリコン ウェーハ サイズを最適化してチップのコストを最小限に抑えます。これらのプロセッサは、メインアプリケーションプロセッサ (SoC) の隣に「コチップ」として配置され、メインアプリケーションプロセッサ上の NNA コアが処理する必要がある AI 推論タスクを実行します。

SoC ベンダーは、AI 機能に対する特定のアプリケーションやニッチなアプリケーションのニーズを満たす AI コンパニオン チップをサポートしながら、複数の市場にコスト効率よく適用できる従来の汎用アプリケーション プロセッサを作成する機会を得ています。

OEM の観点から見ると、全体的なアプリケーション シナリオで AI 処理操作に発生すると予想されるオーバーヘッドに応じて、製品ソリューションを適切に拡張することを選択できるようになりました。

AIプロセッサの例：アプリケーションに応じてNNAの数を柔軟に増減できる

一般的な協調型 AI SoC チップには、内部処理を担当する汎用制御 CPU、高性能コンピューティング用の GPU コア (グラフィックスや 3D 変換操作の処理専用ではない)、複数の NNA (ニューラル ネットワーク アクセラレータ) が含まれており、さまざまなニューラル ネットワークや推論エンジンに応じて柔軟に組み合わせることができ、さまざまなタスクにさまざまな精度を使用できます。たとえば、デュアル NNA システムでは、1 つの NNA を使用して画像認識タスクを実行し、シーンの顔の部分を識別してから、その結果をもう 1 つの NNA に渡します。もう 1 つの NNA は、顔の部分を個別の特徴に分割して、顔の表情を認識します。

もう 1 つの例は自動車で、6 コアの AI コラボレーション チップが分割されており、3 つの NNA (それぞれ異なる側面を担当) が道路上の標識の認識に使用され、残りの 3 つは歩行者の検出専用になります。 NNA の数とタスクの割り当ては、アプリケーションの要件に基づいて決定されます。このコンセプトは、さまざまな専用 AI プロセッサに拡張することができ、各プロセッサには異なる数の NNA が統合され、さまざまなタスクのパフォーマンス要件を満たすことができます。

クラウドからオンプレミスへ

Google が立ち上げた TPU や、Microsoft と Intel が共同で立ち上げた Stratix FPGA をソリューションとして利用する Brainwave プロジェクトなど、専用の AI チップがクラウドに導入されている例はすでにあります。これらは現在、主に AI 機械学習やアルゴリズムのトレーニングに使用されています。

[[240922]]

典型的なクラウド AI ソリューション - 大きすぎる!

ただし、すべてのデバイスがクラウド サービスに接続されるわけではありません。さまざまな市場アプリケーションに直面して、業界では少なくとも一部の AI タスクはローカル デバイス自体で完了できると考えています。そのため、市場の要求は非常に複雑です。以前に説明したように、完全に普遍的なソリューションは存在しません。業界のすべてのベンダーはすでに特定のニーズに合わせてニューラル ネットワークを活用し始めており、協調型 AI チップへの移行は AI 処理ソリューションにおける新たな前進となることが期待されます。

サイモン・フォレスト、イマジネーション、コネクテッド＆ホームコネクト、マーケティングディレクター

オリジナルリンク: https://www.imgtec.com/blog/companion-chips-the-intelligent-choice-for-ai/