AIプロジェクトでKubernetesを使用する方法

AI プロジェクトで Kubernetes を使用する利点は何でしょうか? Kubernetes が AI プロジェクトのパフォーマンスとコストの最適化にどのように役立つか、実際の使用例をご覧ください。

テクノロジー企業とソフトウェア開発者を対象にしたクラウドネイティブ調査レポートによると、本番環境でのコンテナの使用は前年比84%増の92%にまで増加しました。 Kubernetes の使用量は前年比 78% 増加して 83% になりました。

ここでは、Kubernetes が AI プロジェクトのパフォーマンスとコストの最適化にどのように役立つかを示す実際の使用例を 2 つ紹介します。

[[418997]]

Kubernetes ユースケース #1: AI ベースの需要予測システムのデータ エンジニアリング

1. プロジェクトの説明

多くのバーやレストランでは、POS レジソフトウェアや会場管理システムを使用しており、時間の経過とともに大量の過去の販売データが蓄積されています。 MobiDev の技術専門家は、このデータの分析に人工知能アルゴリズムを適用し、過去の売上のパターンを見つけ、各期間の次の期間の予測を行うことを期待しています。同社はこの目的のためにAIベースの需要予測システムを開発し、それを別モジュールとしてシステムに統合した。

2. 解決すべき問題

AIコンピューティングには多くのリソースが必要となるため、当初はAWS EMRクラウドサービスの仮想マシンが使用されていました。そして、このシステムを導入するバーやレストランが増えれば増えるほど、インフラの運用コストは高くなります。機械学習アルゴリズムが毎日の売上データを処理しているとき、他の時間はアイドル状態であるにもかかわらず、AI モジュールの CPU 負荷が突然高くなることがあります。インフラストラクチャ コストを削減するために、MobiDev は Docker Swarm を使用してコンピューティング リソースを手動で管理します。

実行最小限 (MVP) 開発フェーズでは、多くの調査と導入時間が必要になるため、Kubernetes を使用する意味がありません。しかし、バーやレストランの数が増えるにつれて、自動化とスケーラビリティ、そしてコストの最適化を実現するための新しいデータ エンジニアリング アプローチが必要になります。

3. Kubernetesを使用して解決された技術的タスク

（１）履歴データスクリプトを定期的に収集する。

（２）Kubernetes内で動作するデータベースへのデータ保存。

（３）履歴データが正常に更新された後の人工知能スクリプト。

（４）AIダッシュボードと対話するためのAPI。

（５）AIスクリプトの結果を表示するAIダッシュボード。

4. Kubernetesを使用して解決されるビジネスタスク

Kubernetes は自動スケーリングを可能にし、コンピューティング リソースのリアルタイムの最適化を提供します。

（１）パフォーマンスとコストの最適化

特に、Kubernetes 上で同じ量のデータに対して同じロジックを計算する AI スクリプトは、EMR よりも少ないコンピューティング リソースを消費しながら、AWS EMR よりもはるかに速く結果を返します。 Kubernetes では、同じ数のサイトに対して AI モジュール スクリプトを実行するのに必要な平均時間が、以前の EMR 本番環境と比較して 90% 短縮されました。

（２）信頼性の向上

システムの安定性は、AWS EMR から Kubernetes に切り替える主な理由です。 EMR では、スクリプトの起動が不明な理由で失敗することがあり、ログには有用な情報が提供されません。

（３）スケーラビリティの向上

AWS EMR では、プロジェクト開発は将来追加される新しいサイトの最大数によって制約されます。 Kubernetes は制限と自動スケーリングを排除します。これは、急速に成長するプロジェクトにとって重要です。

5. プロジェクト概要

Kubernetes 上のシステムは、より速い結果を提供し、消費するコンピューティング リソースが少なくなり、顧客は AWS の請求コストを削減し、安定した予測可能な製品配信を保証できます。

Kubernetes ユースケース #2: AI ビデオ監視システムのデータ エンジニアリング

MobiDev が関与している Kubernetes の実際のビジネス使用例のもう 1 つは、ビデオ監視システムの顔ぼかし機能のためのコンピューティング リソースのインテリジェントな自動スケーリングです。このシステムは、フロントエンド、バックエンド、バックエンド キュー、AI ベースの顔ぼかし機能の各アプリケーションで構成されています。 Kubernetes はこれらすべてのアプリケーションのオーケストレーターとして使用されます。

新しいビデオ処理リクエストが届くと、バックエンドは Kubernetes API の助けを借りて自動的にスケーリングし、リクエストを処理するワーカーを自動的に追加します。

Kubernetesの未来

Kubernetes の分散アーキテクチャとスケーラビリティは、機械学習と人工知能を補完します。これらのテクノロジーが成熟し続けるにつれて、2021 年は Kubernetes 分野における急速な成長の年になるでしょう。

覚えておく必要があるのは、ツールの導入はそれ自体が目的ではなく、むしろビジネス目標をサポートするものであるということです。 2020年、ほぼすべての企業が予期せぬ変化に直面しました。 Kubernetes は、クラウドネイティブ エコシステムで構築されたソリューションを使用してアプリケーション開発サービスを加速するとともに、柔軟なアプリケーションとデータの使用を可能にし、企業がプラットフォームとアプリケーションの最新化を通じて成功できるようにします。