Xiaomi、自社開発のモバイルディープラーニングフレームワークMACEのソースを公開

Xiaomi、自社開発のモバイルディープラーニングフレームワークMACEのソースを公開

6月28日、Xiaomiの人工知能およびクラウドプラットフォーム担当副社長である崔宝秋博士は、オープンソースチャイナおよびオープンソースワールドサミットフォーラムで「Xiaomi AI時代のオープンソース」と題する講演を行い、同会議で、Xiaomiが自社開発したモバイルディープラーニングフレームワークMobile AI Compute Engine(MACE)がオープンソースになることを発表しました。

アドレス: https://github.com/XiaoMi/mace

近年、モバイルインターネットの急速な発展と IoT スマートデバイスの普及、そしてインテリジェンス、低遅延、プライバシー保護に対するユーザーの要求の高まりにより、モバイルデバイス上のオフラインディープラーニングアプリケーションがますます一般的になっています。

Leifeng.com によると、MACE はモバイル デバイス向けに最適化されたディープラーニング モデル予測フレームワークです。設計当初から、MACE はモバイル デバイスの特性に合わせて特別に最適化されています。

  • 速度: モバイル デバイスで計算されるモデルの場合、全体的な予測遅延に対する要件は通常非常に高くなります。フレームワークの最下層では、ARM CPU に対して NEON 命令レベルの最適化が実行され、モバイル GPU に対して効率的な OpenCL カーネル コードが実装されます。 Qualcomm DSP の場合、HVX アクセラレーションのために nnlib コンピューティング ライブラリが統合されています。同時に、アルゴリズム レベルでは、畳み込みを高速化するために Winograd アルゴリズムが使用されます。

  • 消費電力: モバイル端末は消費電力に非常に敏感です。このフレームワークは、ARM プロセッサの big.LITTLE アーキテクチャに、高性能と低消費電力のさまざまな組み合わせを提供します。 Adreno GPU にはさまざまな電力消費パフォーマンス オプションが用意されており、開発者はパフォーマンスと電力消費を柔軟に調整できます。

  • システム応答: GPU コンピューティング モードの場合、基盤となるフレームワークは OpenCL カーネルを適応的に分割してスケジュールし、GPU レンダリング タスクをより適切にプリエンプトしてスケジュールできるようにすることで、システムのスムーズさを確保します。

  • 初期化の遅延: 実際のプロジェクトでは、初期化時間はユーザー エクスペリエンスにとって非常に重要であり、フレームワークではこれに焦点を当てた最適化が行われています。

  • メモリ使用量: モデルの演算子の依存関係分析を実行し、メモリ再利用テクノロジを導入することで、メモリ使用量が大幅に削減されます。

  • モデル保護: モバイル モデルの場合、知的財産の保護が非常に重要です。MACE はモデルを C++ コードに変換することをサポートしており、リバース エンジニアリングの難易度が大幅に高まります。

さらに、MACE は TensorFlow および Caffe モデルをサポートし、トレーニング済みのモデルを独自のモデル データ ファイルに変換できる変換ツールを提供していることがわかっています。また、モデルを C++ コードに変換することも選択でき、動的ライブラリまたは静的ライブラリの生成をサポートし、モデルの機密性を向上させることもできます。

現在、MACE は、カメラのポートレート モード、シーン認識、画像の超解像度、オフライン翻訳 (近日実現予定) など、Xiaomi 携帯電話の複数のアプリケーション シナリオに適用されています。

さらに、MACE とともに、MACE Model Zoo プロジェクトもオープンソースであり、現在、オブジェクト認識、シーンのセマンティック セグメンテーション、画像の様式化などの複数のパブリック モデルが含まれています。今後さらにモデルが追加される予定です。

上記は、MACE Model Zoo の高速スタイル転送モデルを使用して携帯電話で生成された様式化された画像です。

Leiphone.comによると、XiaomiはこれまでHadoop、HBase、Spark、TensorFlowなど、多くの主要な国際オープンソースプロジェクトに参加してきた。同時に、Xiaomiは自社開発の汎用ソフトウェアシステムにも積極的に関わっている。過去数年間、Xiaomi は Linden (分散型リアルタイム検索システム)、Open-Falcon (インターネット企業レベルの監視システム)、Pegasus (分散型 KV ストレージ システム) など、一連のオープン ソース プロジェクトを立ち上げてきました。

AIに関しては、Xiaomiはモバイルデバイス向けに最適化された自社開発のディープラーニングフレームワークMACEをオープンソース化しており、現在複数の社内業務をサポートしています。

また、Leiphone.comは6月29日から7月2日まで深センでCCF-GAIRカンファレンスを開催します。Xiaomiのチーフアーキテクトであり、Xiaomi人工知能およびクラウドプラットフォームの副社長であるCui Baoqiu氏がゲストとして出席し、講演を行います。

世界人工知能・ロボットサミット(CCF-GAIR)は、中国コンピューター連盟(CCF)が主催し、Leiphone.comと香港中文大学深圳校が共催し、深圳市政府の強力な指導を受けています。これは、中国の人工知能とロボットの3大分野、すなわち学術、産業、投資のトップ交流イベントであり、中国の人工知能分野で最強の実力を持つ国境を越えた交流協力プラットフォームの構築を目指しています。

CCF-GAIR 2018は、過去2回のセッションの「***」ラインナップを継続し、1つのメイン会場と11の特別セッション(バイオニックロボットセッション、ロボット産業アプリケーションセッション、コンピュータービジョンセッション、インテリジェントセキュリティセッション、金融技術セッション、インテリジェントドライビングセッション、NLPセッション、AI+セッション、AIチップセッション、IoTセッション、投資家セッション)を備えた充実したプラットフォームを提供し、業界、学界、研究のさまざまな側面から3つのセクターの参加者に、より将来を見据えた実用的な会議コンテンツと現場体験を提供することを目指しています。

<<:  企業のアウトバウンドコールをインテリジェンスで再構築するXunzhong CommunicationsがYunxun Skylarkインテリジェント音声ロボットを発売

>>:  2018 年の 5 つの主要な AI トレンドとそのメリット

ブログ    
ブログ    

推薦する

2022年の人工知能ロボットの5つのトレンド

ロボット工学は近年驚異的な進歩を遂げました。ロボティックプロセスオートメーションなどの分野は、ますま...

Python+AIで静止画像を動かす

こんにちは、みんな。短い動画を見ているときに、こんな動画を見たことはありませんか?動画の中で、人物の...

...

ドローン配送の価値は強調されていますが、完全に普及するには何が欠けているのでしょうか?

現在、飛行制御、ナビゲーション、通信などのさまざまな技術が継続的に進歩しており、ドローンの開発はます...

2日間で星の数が1,000を突破:OpenAIのWhisperの蒸留後、音声認識が数倍高速化

少し前に、「テイラー・スウィフトが中国語を披露」する動画がさまざまなソーシャルメディアプラットフォー...

...

...

...

...

...

顔認識技術の応用の安全管理に関する規定(試行)コメント:1万人以上の顔情報の保管は中国サイバースペース管理局に登録する必要がある

8月8日、IT Homeは中国サイバースペース事務局から、顔認識技術の応用を標準化するため、「中華人...

AIの急速な発展によってもたらされるエネルギー需要をどう解決するか?

生成 AI テクノロジーは、単純なフレーズを驚くほどリアルな画像に変換し、世界中の人々の想像力をかき...

人工知能は伝染病の予防と制御に役立ちます。正確にスクリーニングし、伝染病を推測し、ウイルスの発生源を追跡することができます。

感染予防・抑制の過程では、高リスクグループとスーパースプレッダーを迅速に特定し、感染の進行状況を正確...

...

...