エッジインテリジェンス: リアルタイムのデータ処理とインテリジェントな意思決定を実現する新世代のテクノロジー

ラボガイド

エッジインテリジェンスは、人工知能 (AI) とエッジコンピューティングを組み合わせた新しいテクノロジーです。従来の人工知能アプリケーションは、通常、データ処理と意思決定にクラウドコンピューティングセンターに依存していますが、このアプローチでは、遅延とネットワーク帯域幅に問題があります。

パート01、エッジインテリジェンスとは

エッジインテリジェンスは、データソースとその近くのネットワークノードに近い IoT デバイスに人工知能 (AI) アルゴリズムとモデルを展開し、リアルタイムのデータ処理と分析を行う機能を指す新しいテクノロジコンセプトです。過去数年間、AI の急速な発展により、多くの革新的なアプリケーションやソリューションが生まれました。しかし、AI モデルの規模と複雑さが増すにつれ、従来のクラウドコンピューティングアーキテクチャは、高レイテンシ、ネットワーク輻輳、データプライバシーなどの一連の課題に直面しています。これらの課題を克服するために、エッジコンピューティングと人工知能の組み合わせが生まれ、エッジインテリジェンスの概念が形成されました。エッジインテリジェンスは、AI モデルのトレーニングと推論を、スマートフォン、センサー、ルーター、監視カメラなど、ユーザーに近いエッジデバイスに移行するだけではありません。これらのエッジデバイスでリアルタイムのデータ処理を実行し、データに迅速に応答して分析し、ローカルで意思決定を行うことで、すべてのデータをクラウドに送信して処理する場合の遅延やセキュリティリスクが回避され、AI アプリケーションに多くの新しい機会がもたらされます。

エッジインテリジェンスの範囲と評価に関して、既存の研究では、エッジインテリジェンスは、端末デバイス、エッジノード、クラウドデータセンターの階層で利用可能なデータとリソースを最大限に活用して、ディープニューラルネットワークモデル (DNN) の全体的なトレーニングと推論パフォーマンスを最適化するパラダイムであるべきだと考えられています。これは、エッジインテリジェンスとは、DNN モデルをエッジでトレーニングまたは推論する必要があることを意味するのではなく、データのオフロードを通じてクラウド、エッジ、エンド間で連携して動作できることを意味します。同時に、エッジインテリジェンスは、データオフロードの量とパスの長さに応じて 6 つのレベルに分割されます。

エッジインテリジェンスのレベルが上がるにつれて、コンピューティングのレイテンシとエネルギー消費が増加するという代償はあるものの、データオフロードの量とパスの長さが減少し、それによってデータオフロードの伝送レイテンシが短縮され、データのプライバシーが向上し、ネットワーク帯域幅のコストが削減されます。

パート 02: エッジインテリジェンスモデルのトレーニング

エッジ分散型ディープニューラルネットワークトレーニングアーキテクチャは、集中型、分散型、ハイブリッド (クラウドエッジエンドのコラボレーション) の 3 つのモードに分けられます。

➪ 集中型: DNN モデルはクラウドデータセンターでトレーニングされます。トレーニングに使用するデータは、分散された端末デバイス (携帯電話、車、監視カメラなど) から生成および収集されます。データが到着すると、クラウドデータセンターはそのデータを DNN トレーニングに使用します。集中型アーキテクチャに基づくシステムは、システムで使用される特定の推論に応じて、エッジインテリジェンスのレベル 1、レベル 2、またはレベル 3 として識別できます。

➪ 分散型:各コンピューティングノードは、ローカルデータを使用して独自の DNN モデルをローカルでトレーニングし、プライベート情報をローカルに保存します。ローカルトレーニングの更新を共有することで、グローバル DNN モデルが取得されます。このモードでは、クラウドデータセンターの介入なしにグローバル DNN モデルをトレーニングすることができ、これはエッジインテリジェンスの第 5 レベルに相当します。

➪ ハイブリッド（クラウドとエッジのコラボレーション）：集中型と分散型のアプローチを組み合わせることで、エッジサーバーは分散更新を通じて DNN モデルをトレーニングしたり、集中型トレーニングにクラウドデータセンターを使用したりできます。エッジインテリジェンスのレベル 4 および 5 に対応します。

現在、エッジインテリジェントモデルのトレーニング方法は、主に、トレーニング損失、収束、プライバシー、通信コスト、レイテンシ、エネルギー効率という 6 つの主要パフォーマンス指標によって評価されます。

エッジインテリジェンスモデルトレーニングでサポートされるテクノロジは次のとおりです。

パート 03:エッジインテリジェントモデル推論

高品質のエッジインテリジェントサービスの展開には、ディープラーニングモデルの分散トレーニングの実装に加えて、エッジでの効率的なモデル推論も必要です。エッジインテリジェンスの推論モデルは、エッジベース、デバイスベース、エッジデバイス、エッジクラウドの 4 つのモードに分かれています。

➪ エッジベースの推論モデル:デバイスはエッジモードであり、入力データを受信してエッジサーバーに送信します。エッジサーバーは DNN モデルの推論を完了し、予測結果をデバイスに返します。推論のパフォーマンスは、デバイスとエッジサーバー間のネットワーク帯域幅に依存します。

➪ デバイスベースの推論モデル:デバイスがデバイスモードの場合、モバイルデバイスはエッジサーバーから DNN モデルを取得し、ローカルでモデル推論を完了します。推論プロセス中、モバイルデバイスはエッジサーバーと継続的に通信するため、モバイルデバイスには CPU、GPU、RAM などのリソースが必要です。

➪ エッジデバイスベースの推論モデル:デバイスがエッジデバイスモードの場合、デバイスはまずネットワーク帯域幅、デバイスリソース、エッジサーバーの負荷などの要素に基づいて DNN モデルを複数の部分に分割し、次に DNN モデルを特定のレイヤーに実行して、中間データをエッジサーバーに送信します。エッジサーバーは残りのレイヤーを実行し、予測結果をデバイスに送信します。

➪ エッジクラウドベースの推論モデル:デバイスはエッジクラウドモードであり、デバイスは入力データを収集し、クラウドとエッジのコラボレーションを通じて DNN モデルを実行する役割を担います。

エッジインテリジェントモデル推論のパフォーマンスは、主に、レイテンシ、精度、エネルギー効率、プライバシー、通信コスト、メモリ使用量の 6 つの指標によって評価されます。

エッジインテリジェンスモデルトレーニングでサポートされるテクノロジは次のとおりです。

パート04、エッジインテリジェンスの研究方向

エッジインテリジェンスは新興技術分野として、幅広い研究方向と開発の可能性を秘めています。エッジインテリジェンスの技術的特徴と応用シナリオに基づいて、将来的には次のような側面で研究を行うことができます。

プログラミングとソフトウェアプラットフォーム。 AI を活用した計算集約型のモバイルアプリケーションや IoT アプリケーションがますます増えるにつれ、Edge Intelligence as a Service (EIaaS) がユビキタスなパラダイムとなり、強力なエッジ AI 機能を備えた EI プラットフォームが開発され、導入されるようになります。
エッジインテリジェンスアルゴリズムとモデル設計。エッジデバイス上で効率的なインテリジェントアルゴリズムとモデルを開発し、よりスマートなデータ処理と意思決定機能を実現します。エッジデバイス上での機械学習、ディープラーニング、強化学習などのアルゴリズムの最適化と展開を含みます。
セキュリティとプライバシーの問題。データ転送の暗号化と認証、エッジデバイスのセキュリティ保護、ユーザーのプライバシーの保護など、エッジインテリジェンス環境におけるデータのセキュリティとプライバシーを確保します。
計算を考慮したネットワークテクノロジー。 AI ベースの計算集約型アプリケーションは、通常、分散エッジコンピューティング環境で実行されます。したがって、高度なネットワークソリューションはコンピューティングを認識し、異なるエッジノード間でコンピューティングの結果とデータを効果的に共有する必要があります。ネットワークトポロジ、データ転送プロトコル、通信セキュリティなどを含む、効率的で信頼性の高いエッジインテリジェントネットワークアーキテクチャを構築します。同時に、エッジコンピューティングリソースは、高速かつ低遅延の通信サービスを提供するために使用されます。
アプリケーションシナリオとシステム設計。エッジインテリジェンス技術をスマート交通、スマート製造、スマートシティ、ヘルスケアなどのさまざまな分野に適用し、適応性、効率性、信頼性の高いエッジインテリジェンスシステムの設計を模索して、実際の問題を解決し、業界の発展を促進します。
エッジコンピューティングとデータ処理。エッジデバイスのコンピューティング能力とストレージ容量を最大限に活用して、データのリアルタイム処理と分析を実現します。同時に、リソースが限られたエッジデバイス上のコンピューティングリソースとストレージリソースの管理とスケジュールが最適化され、コンピューティング効率とリソース使用率が向上し、システムの効率とパフォーマンスが向上します。
エッジインテリジェンスのための適応型学習と最適化。エッジインテリジェントシステムが環境やニーズの変化に応じて自律的に学習および最適化し、よりインテリジェントなサービスと意思決定を提供できるようにします。
エッジインテリジェンスとその他の関連分野の組み合わせ。エッジインテリジェンスは、モノのインターネット、5G 通信、クラウドコンピューティングなどのテクノロジと組み合わせることで、より包括的で効率的なインテリジェントソリューションを実現します。