エッジAIデバイスの選び方

エッジAIデバイスの選び方

エッジ コンピューティングは、最も話題になっているテクノロジ トレンドの 1 つになりました。こうした話題を聞くと、IoT ネットワーク用のインテリジェント エッジ テクノロジに投資する時期が来たと思われるかもしれません。ただし、新しいエッジ デバイスの購入を開始する前に、エッジ コンピューティングとは実際に何なのか、エッジ コンピューティングは何をするのか、アプリケーションはエッジ テクノロジーからメリットを得られるのかどうかについて説明しましょう。

エッジ コンピューティングは、IoT ネットワークに多大な柔軟性、速度、インテリジェンスを追加できますが、エッジ AI デバイスがスマート ネットワーク アプリケーションが直面するすべての課題を解決するわけではないことを理解することが重要です。この記事の最後では、エッジ テクノロジーがアプリケーションに適しているかどうかを判断した後、エッジ AI デバイスを評価する際に購入者が考慮すべき重要な機能と考慮事項について説明します。

エッジコンピューティングとは

エッジ コンピューティングは、クラウドのエッジでモノのインターネットをより高いレベルに引き上げ、生データをリアルタイムで価値に変換できるようにします。データ処理作業をネットワーク全体に再分散することで、接続されたノード、エンドポイント、その他のスマート デバイスの重要性とガバナンスが向上します。

エッジ コンピューティングは、クラウド コンピューティングとほぼ正反対です。クラウド コンピューティングでは、データが分散ネットワークから流入し、集中型データ センターで処理され、その結果が元の分散ネットワークに送り返されてアクションがトリガーされたり、変更が生じたりします。ただし、長距離にわたって大量のデータを送信するにはコストがかかります。これらのコストは金銭で測定できますが、電力や時間など他の重要な方法で測定することもできます。

ここでエッジ コンピューティングが役立ちます。電力、帯域幅、レイテンシが本当に重要である場合、エッジ コンピューティングが答えとなる可能性があります。集中型クラウド コンピューティングでは、データを処理するために数百マイルも移動する必要がある場合がありますが、エッジ コンピューティングでは、データが感知、作成、または保存されるのと同じネットワーク エッジの場所でデータを処理できます。つまり、処理の遅延はほぼ無視でき、電力と帯域幅の要件は通常大幅に削減されます。

今日のエッジ コンピューティングの主な推進力の 1 つは、半導体メーカーが消費電力を大幅に増やすことなく処理能力を高めている点です。つまり、エッジのプロセッサは、電力を消費することなく、取得したデータでより多くの処理を実行できるということです。これにより、より多くのデータがコアに転送されるのではなく、エッジに留まるようになります。これにより、システム全体の電力が削減されるだけでなく、応答時間が長くなり、データのプライバシーが向上します。

この開発の恩恵を受ける技術には人工知能や機械学習などがありますが、これらはデータ取得コストを削減しながらデータプライバシーのレベルを高めることにも依存しています。コストとプライバシーの問題は、エッジ処理によって解決できます。 AI や ML などの新たなトレンドに関して言えば、どちらのテクノロジーも従来、エンドポイントやスマート デバイスで通常利用できるリソースをはるかに超える膨大なリソースを必要としてきました。現在では、ハードウェア レベルとソフトウェア レベルの進歩により、ネットワークのエッジにある、より小型でリソースが制限されたデバイスにこれらのサポート テクノロジーを組み込むことも可能になっています。

エッジAIの評価

AI アルゴリズムや ML 推論エンジンの実行を含むエッジ処理を実行できるプラットフォームを選択するには、慎重な評価が必要です。シンプルなセンサーやアクチュエーターは、IoT の一部であっても、比較的小型の統合デバイスとして実装できます。エッジ処理の量を増やすには、おそらく高度な並列アーキテクチャを使用する、より強力なプラットフォームが必要になります。通常、これは GPU を意味しますが、プラットフォームが強力すぎると、ネットワーク エッジの限られたリソースに負担がかかります。

また、エッジ デバイスは基本的に現実世界へのインターフェイスであるため、イーサネット、GPIO、CAN、シリアル、USB などの一般的なインターフェイス テクノロジをいくつかサポートする必要がある場合があることも覚えておくことが重要です。カメラ、キーボード、ディスプレイなどの周辺機器のサポートも必要になる場合があります。

エッジは、快適な温度管理されたデータセンターとはまったく異なる環境になることもあります。エッジ デバイスは、極端な温度、湿度、振動、さらには高度にさらされる可能性があります。これは、機器の選択、およびそのパッケージ化またはカプセル化の方法に影響を与えます。

考慮すべきもう一つの重要な側面は規制要件です。通信に無線周波数を使用するデバイスはすべて規制の対象となり、操作にはライセンスが必要になる場合があります。一部のプラットフォームでは「すぐに」準拠しますが、他のプラットフォームではより多くの労力が必要になる場合があります。一度運用を開始すると、ハードウェアのアップグレードが行われる可能性は低いため、将来のパフォーマンス向上に備え、設計サイクル中に処理能力、メモリ、ストレージを慎重に決定する必要があります。

これにはソフトウェアのアップグレードも含まれます。ハードウェアとは異なり、ソフトウェアの更新はデバイスが現場にある間に展開できます。これらの無線アップデートは現在非常に一般的になっているため、あらゆるエッジ デバイスを OTA アップデートをサポートするように設計する必要があると考えられます。

適切なソリューションを選択するには、これらすべての一般的なポイントを慎重に評価するとともに、アプリケーションの特定のニーズを詳しく検討する必要があります。たとえば、デバイスがビデオ データやオーディオ データを処理する必要があるのか​​、温度のみを処理する必要があるのか​​、あるいは他の環境面も監視する必要があるのか​​などです。これらの問題の多くは、最先端で導入されているすべてのテクノロジーに当てはまりますが、処理レベルが上がり、出力に対する期待が高まるにつれて、要件のリストを拡張する必要が出てきます。

エッジコンピューティングのメリット

現在では、AI と ML をエッジ デバイスやスマート ノードに組み込むことが技術的に可能になっており、大きなチャンスがもたらされます。これは、処理エンジンがデータ ソースに近づくだけでなく、収集したデータを使用してより多くの処理を実行できることを意味します。

これを行うと実際のメリットがあります。まず、生産性、つまりデータの使用効率を向上させることができます。 2 番目に、移動するデータが少なくなるため、ネットワーク アーキテクチャが簡素化されます。 3 番目に、データ センターへの近さがそれほど重要ではなくなります。この最後の点は、データ センターが都市部にある場合には大した問題ではないように思えるかもしれませんが、ネットワークのエッジが農場や水処理場などの遠隔地にある場合には大きな違いを生む可能性があります。

インターネット上でデータが高速で移動することは否定できない。検索クエリが画面に表示されるまでに世界を 2 度巡回することがあるという事実を知ると、多くの人が驚くかもしれません。経過時間の合計はほんの一瞬かもしれませんが、私たちにとってはほぼ瞬間です。しかし、接続され、インテリジェントで、多くの場合は自律的なセンサーとアクチュエーターのインターネットを構成するマシンやその他のスマートデバイスにとっては、1 秒が 1 時間のように感じられることがあります。

この往復遅延は、リアルタイム システムの製造元や開発者にとって大きな懸念事項です。データがデータセンターとの間で移動するのにかかる時間は小さくなく、瞬時に完了するわけでもありません。この遅延を減らすことがエッジ コンピューティングの重要な目標です。これはより高速なネットワークと連携して動作し、ここで 5G が役立ちます。ただし、より高速なネットワークを展開しても、オンラインになるデバイスが増えるにつれて予想される累積的なネットワーク遅延を補うことはできません。

アナリストは、2030年までに接続されたデバイスの数は500億に達する可能性があると予測しています。これらのデバイスのそれぞれにデータセンターに相当する帯域幅が必要であれば、ネットワークは永続的に混雑することになります。パイプライン内で多数の処理が実行され、前のステージからデータが到着するのを待機している場合、全体のレイテンシがすぐに顕著になる可能性があります。エッジ コンピューティングは、混雑したネットワークを緩和する唯一の実行可能なソリューションです。

ただし、エッジ コンピューティング全般に対する一定の需要がある一方で、エッジ コンピューティングの具体的な利点は依然としてアプリケーションに大きく依存しており、エッジ コンピューティングの法則が適用される領域でもあります。これらの法則は、エンジニアリング チームがエッジ コンピューティングが特定のアプリケーションに適しているかどうかを判断するのに役立ちます。

エッジコンピューティングの4つの法則

物理法則

第一法則は不変の物理法則です。 RF エネルギーは、光ファイバー ネットワーク内の光子と同じように、光速で伝わります。これは良いニュースです。残念なことに、それ以上速くなることは不可能です。したがって、ラウンドトリップ時間がまだ十分に速くない場合は、エッジ コンピューティングが適切な選択肢となる可能性があります。

Ping テストは、ネットワーク接続の 2 つのエンドポイント間でデータ パケットが移動するのにかかる時間を測定する簡単な方法を提供します。オンライン ゲームは複数のサーバーでホストされることが多く、プレイヤーは最もレイテンシが低いサーバー (つまり、データが最も速く移動できるサーバー) を見つけるまでサーバーに ping を実行します。たとえほんの一瞬であっても、時間に敏感なデータの場合、これが鍵となります。

レイテンシもトランスポート メカニズムに完全には依存しません。両端にはエンコーダーとデコーダーがあり、電子を使用されているエネルギー形式に変換し、その後再び変換するために必要な物理層です。これらすべてには時間がかかり、プロセッサがギガヘルツの速度で動作している場合でも、その時間は有限であり、移動するデータの量によって異なります。

経済法則

このアプローチはより柔軟かもしれませんが、処理およびストレージ リソースに対する需要が急増すると予測可能性が低くなります。利益率は常にわずかですが、クラウドでのデータ処理コストが突然上昇すると、利益と損失の違いが生じる可能性があります。

クラウド サービスのコストは、サーバー、ラック、ブレードの購入またはレンタルのコストから始まります。これは、CPU コアの数、必要な RAM または永続ストレージの量、およびサービス レベルによって異なります。保証された稼働時間は、保証されていないサービス レベルよりもコストがかかります。ネットワーク帯域幅は基本的に無料ですが、最低限の帯域幅が必要な場合は料金を支払う必要があり、コストを評価する際にはこれを考慮する必要があります。

ただし、エッジでのデータ処理にはこのような変動コストは発生しません。機器の初期コストが発生すると、エッジで任意の量のデータを処理するための追加コストはほぼゼロになります。

データ保護法

データは何かを意味したり表したりするので価値があります。情報を収集した人は誰でも、そのデータが収集された地域のデータプライバシー法の対象となる可能性があります。つまり、データをキャプチャしたデバイスの正当な所有者であっても、地理的境界を越えてデータを移動することが許可されない可能性があります。

これには、たとえば、EU データ保護指令、一般データ保護規則、アジア太平洋経済協力プライバシー フレームワークなどが含まれます。カナダの個人情報保護および電子文書法は EU データ保護法に準拠しており、米国のセーフ ハーバー協定も EU データ保護法に準拠しています。

エッジ処理によりこれを克服できます。エッジでデータを処理することで、デバイスからデータを出す必要がなくなります。データのプライバシーは、ポータブルな消費者向けデバイスにおいてますます重要になってきており、携帯電話の顔認識では、データがデバイス外に漏れないように、ローカル AI を使用してカメラ画像を処理しします。 CCTV やその他のセキュリティ監視システムについても同様です。公共スペースを監視するためにカメラを使用する場合、通常、画像はクラウドベースのデータ サーバーによって送信および処理されるため、データのプライバシーの問題が生じます。カメラ内でのデータ処理は高速かつ安全であるため、データ プライバシー対策の必要性がなくなるか、簡素化される可能性があります。

マーフィーの法則

最後に、何かがうまくいかない可能性がある場合は、必ずうまくいかないというマーフィーの法則を考慮する必要があります。もちろん、世界で最も注意深く設計されたシステムであっても、問題は常に発生します。エッジ処理により、ネットワーク経由でデータを移動したり、クラウドに保存したり、処理能力をデータセンターに依存したりする際に発生する可能性のある障害点の多くを排除できます。

アプリケーションがエッジ処理から技術的にメリットを得られるかどうかについては、まだいくつか疑問が残ります。最も関連性の高い提案をいくつか紹介します。

(1)アプリケーションはどのプロセッサアーキテクチャ上で実行されますか?

ソフトウェアを異なる命令セットに移植するとコストがかかり、遅延が生じる可能性があるため、アップグレードは移行を意味するものではありません。

(2)どのようなI/Oが必要か

これには、任意の数の有線および/または無線インターフェースを使用できます。そうしないと非効率につながるため、この問題はできるだけ早く対処する必要があります。

(3)動作環境はどのようなものですか?

動作環境は寒かったり暑かったりします。例えば火星探査ミッションはエッジ処理の良い例です。極端な場合、動作環境は劇的に変化します。

(4)ハードウェアが規制に準拠する必要があるか、認証が必要か

答えはほぼ間違いなく「はい」です。そのため、事前認定されたプラットフォームを選択すると、時間とコストを節約できます。

(5)どれくらいの電力が必要か

システム電源は、単位コストと設置コストの両方の点で高価なので、電力を理解することは非常に有益です。

(6)エッジデバイスは形状やサイズによって制限されますか?

これは、他の多くの展開よりもエッジ処理において重要であるため、設計サイクルの早い段階で考慮する必要があります。

(7)勤務時間は何時ですか?

何年も稼働する必要がある産業用アプリケーションに参入する場合でも、ライフサイクルを数か月単位で測定する場合でも、これらはすべて明確に検討する必要があることです。

(8)システム性能要件は何ですか?

1 秒あたりのフレーム数、メモリ要件、アプリケーション言語などの処理能力に関して。

(9)コスト面での考慮はありますか?

これは難しい質問です。答えは常に「はい」ですが、コストの制約が何であるかを知っておくと、選択プロセスに役立ちます。

結論は

エッジ処理はモノのインターネットによって可能になりますが、それだけではありません。これは、接続されたデバイスに対するこれまでの例よりも高い期待によって推進されています。低レベルでは共通性があります。デバイスは低電力である必要があり、低コストである必要があるかもしれませんが、電力消費とコストと矛盾することなく、より高度なインテリジェント操作を提供する必要もあるかもしれません。

適切なテクノロジー パートナーを選択すると、適切なプラットフォームの選択が容易になります。エッジ コンピューティングを中心に発展しているエコシステムに参加し、AI アプリケーションに適したエッジ コンピューティング プラットフォームを選択してください。​

<<:  インテリジェント運転認識システムのテスト技術を説明する記事

>>:  GPT-3 がマーベル ユニバースに登場! 2Dの男がスパイダーマンの続編を作るためにそれを使用しました

ブログ    

推薦する

ChatGPTは、すべての過去のチャットの学習、記憶のリセット、および「読んだ後の書き込み」という新機能をテストするために公開されました。

ChatGPT は、大きな新機能をリリースしようとしている可能性があります。つまり、過去のチャット...

rsyncのコアアルゴリズム

Rsync は、Unix/Linux でファイルを同期するための効率的なアルゴリズムです。2 台のコ...

強化学習の父がAGIスタートアップ業界に参入!伝説のプログラマー、カーマックと力を合わせ、彼らは大規模なモデルに頼らないことを誓った

伝説のプログラマー、ジョン・カーマックと強化学習の父、リチャード・サットンが力を合わせ、 All i...

DiDiのグローバルDi-Techアルゴリズムコンテストが終了し、中国のプレイヤーが10万ドルの優勝賞金を獲得した。

7月20日、滴滴出行の第一回グローバルDi-Techアルゴリズムコンテストが本日正式に終了しました...

AI が企業のランサムウェア対策やクラウド セキュリティ侵害防止にどのように役立つか

サイバーセキュリティの状況は毎年、組織が対処する必要のある新たな課題や障害をもたらしており、たとえば...

AIが人間社会に与える影響

今後 25 年間は、既存の制御可能かつプログラム可能ないわゆる「人工知能」を活用して、人類が生物学の...

ディープラーニングの基本的な概念と手法についての簡単な説明

この記事は、数学的および理論的な詳細にはあまり触れずに、ディープラーニングの基本的な概念を取り上げ、...

デジタル産業を支援し、インテリジェントな未来をつなぐ――西安航空基地企業「ファーウェイ参入」デジタル変革社長クラス

[51CTO.comからのオリジナル記事]現在、疫病と政治環境の影響により、多くの不確定要素が重なり...

ブロックチェーン科学: 非対称暗号化、楕円曲線暗号

ブロックチェーン暗号化入門ブロックチェーン暗号化技術ブロックチェーン技術の応用と発展において、デジタ...

AES暗号化アルゴリズムの強度が弱まった

この脆弱性は、広範囲にわたる暗号分析を行った3つの大学とマイクロソフトの研究者によって発見されたが、...

...

海雲捷迅2018ビッグデータ博覧会ツアー——2018ビッグデータ博覧会人工知能世界大会決勝戦が終了

5月25日、2018年中国国際ビッグデータ博覧会人工知能世界大会決勝戦が予定通り貴陽で開催され、世界...

...

中国科学院は、プログラマーがバグを見つけるのを助けるために大きなモデルを使用し、102の論文を分析し、これらの解決策をまとめた。

中国科学院は「バグ発見」に着手し、一気に N 個の解決策をまとめました。魔法の武器は大きなモデルです...

チューリング賞受賞者のヨシュア・ベンジオ氏:ディープラーニングの最優先事項は因果関係を理解すること

ディープラーニングは大量のデータからパターンを見つけるのが得意だが、それらの間のつながりを説明するこ...