Xiaomi、自社開発のモバイルディープラーニングフレームワークMACEのソースを公開

Xiaomi、自社開発のモバイルディープラーニングフレームワークMACEのソースを公開

6月28日、Xiaomiの人工知能およびクラウドプラットフォーム担当副社長である崔宝秋博士は、オープンソースチャイナおよびオープンソースワールドサミットフォーラムで「Xiaomi AI時代のオープンソース」と題する講演を行い、同会議で、Xiaomiが自社開発したモバイルディープラーニングフレームワークMobile AI Compute Engine(MACE)がオープンソースになることを発表しました。

アドレス: https://github.com/XiaoMi/mace

近年、モバイルインターネットの急速な発展と IoT スマートデバイスの普及、そしてインテリジェンス、低遅延、プライバシー保護に対するユーザーの要求の高まりにより、モバイルデバイス上のオフラインディープラーニングアプリケーションがますます一般的になっています。

Leifeng.com によると、MACE はモバイル デバイス向けに最適化されたディープラーニング モデル予測フレームワークです。設計当初から、MACE はモバイル デバイスの特性に合わせて特別に最適化されています。

  • 速度: モバイル デバイスで計算されるモデルの場合、全体的な予測遅延に対する要件は通常非常に高くなります。フレームワークの最下層では、ARM CPU に対して NEON 命令レベルの最適化が実行され、モバイル GPU に対して効率的な OpenCL カーネル コードが実装されます。 Qualcomm DSP の場合、HVX アクセラレーションのために nnlib コンピューティング ライブラリが統合されています。同時に、アルゴリズム レベルでは、畳み込みを高速化するために Winograd アルゴリズムが使用されます。

  • 消費電力: モバイル端末は消費電力に非常に敏感です。このフレームワークは、ARM プロセッサの big.LITTLE アーキテクチャに、高性能と低消費電力のさまざまな組み合わせを提供します。 Adreno GPU にはさまざまな電力消費パフォーマンス オプションが用意されており、開発者はパフォーマンスと電力消費を柔軟に調整できます。

  • システム応答: GPU コンピューティング モードの場合、基盤となるフレームワークは OpenCL カーネルを適応的に分割してスケジュールし、GPU レンダリング タスクをより適切にプリエンプトしてスケジュールできるようにすることで、システムのスムーズさを確保します。

  • 初期化の遅延: 実際のプロジェクトでは、初期化時間はユーザー エクスペリエンスにとって非常に重要であり、フレームワークではこれに焦点を当てた最適化が行われています。

  • メモリ使用量: モデルの演算子の依存関係分析を実行し、メモリ再利用テクノロジを導入することで、メモリ使用量が大幅に削減されます。

  • モデル保護: モバイル モデルの場合、知的財産の保護が非常に重要です。MACE はモデルを C++ コードに変換することをサポートしており、リバース エンジニアリングの難易度が大幅に高まります。

さらに、MACE は TensorFlow および Caffe モデルをサポートし、トレーニング済みのモデルを独自のモデル データ ファイルに変換できる変換ツールを提供していることがわかっています。また、モデルを C++ コードに変換することも選択でき、動的ライブラリまたは静的ライブラリの生成をサポートし、モデルの機密性を向上させることもできます。

現在、MACE は、カメラのポートレート モード、シーン認識、画像の超解像度、オフライン翻訳 (近日実現予定) など、Xiaomi 携帯電話の複数のアプリケーション シナリオに適用されています。

さらに、MACE とともに、MACE Model Zoo プロジェクトもオープンソースであり、現在、オブジェクト認識、シーンのセマンティック セグメンテーション、画像の様式化などの複数のパブリック モデルが含まれています。今後さらにモデルが追加される予定です。

上記は、MACE Model Zoo の高速スタイル転送モデルを使用して携帯電話で生成された様式化された画像です。

Leiphone.comによると、XiaomiはこれまでHadoop、HBase、Spark、TensorFlowなど、多くの主要な国際オープンソースプロジェクトに参加してきた。同時に、Xiaomiは自社開発の汎用ソフトウェアシステムにも積極的に関わっている。過去数年間、Xiaomi は Linden (分散型リアルタイム検索システム)、Open-Falcon (インターネット企業レベルの監視システム)、Pegasus (分散型 KV ストレージ システム) など、一連のオープン ソース プロジェクトを立ち上げてきました。

AIに関しては、Xiaomiはモバイルデバイス向けに最適化された自社開発のディープラーニングフレームワークMACEをオープンソース化しており、現在複数の社内業務をサポートしています。

また、Leiphone.comは6月29日から7月2日まで深センでCCF-GAIRカンファレンスを開催します。Xiaomiのチーフアーキテクトであり、Xiaomi人工知能およびクラウドプラットフォームの副社長であるCui Baoqiu氏がゲストとして出席し、講演を行います。

世界人工知能・ロボットサミット(CCF-GAIR)は、中国コンピューター連盟(CCF)が主催し、Leiphone.comと香港中文大学深圳校が共催し、深圳市政府の強力な指導を受けています。これは、中国の人工知能とロボットの3大分野、すなわち学術、産業、投資のトップ交流イベントであり、中国の人工知能分野で最強の実力を持つ国境を越えた交流協力プラットフォームの構築を目指しています。

CCF-GAIR 2018は、過去2回のセッションの「***」ラインナップを継続し、1つのメイン会場と11の特別セッション(バイオニックロボットセッション、ロボット産業アプリケーションセッション、コンピュータービジョンセッション、インテリジェントセキュリティセッション、金融技術セッション、インテリジェントドライビングセッション、NLPセッション、AI+セッション、AIチップセッション、IoTセッション、投資家セッション)を備えた充実したプラットフォームを提供し、業界、学界、研究のさまざまな側面から3つのセクターの参加者に、より将来を見据えた実用的な会議コンテンツと現場体験を提供することを目指しています。

<<:  企業のアウトバウンドコールをインテリジェンスで再構築するXunzhong CommunicationsがYunxun Skylarkインテリジェント音声ロボットを発売

>>:  2018 年の 5 つの主要な AI トレンドとそのメリット

ブログ    
ブログ    
ブログ    

推薦する

概要: インターネット時代です!人工知能に関する4つの大きな誤解

インターネットは現在、非常に急速に発展しており、特に過去2年間で、人工知能はインターネットのトレンド...

ロボットは拡大し続ける分野で反復的な労働に取って代わり、人間と機械の協働の時代が到来した。

海外メディアの報道によると、テキサス州ダラスの大規模病院「メディカル・シティ・ヘルスケア」に最近、全...

...

テスト効率が2倍になりました!第2回NCTS中国クラウドテストサミットがAIテストの新たなパラダイムを切り開く

テスト効率が2倍になりました!第2回NCTS中国クラウドテストサミットがAIテストの新たなパラダイム...

...

...

GANは音声を使って画像を生成できるようになった

[[432735]]この記事はAI新メディアQuantum Bit(公開アカウントID:QbitAI...

マイクロソフトは小売業界で新たなスキルを解き放つために人工知能を推進

NRF 2024: Retail’s Big Show に先立ち、マイクロソフト社は、ショッピング体...

「中国版GPT-3」が登場。算術演算が可能で、紅楼夢を書き続けることができる。64枚のV100画像で3週間トレーニングされた。

この記事はAI新メディアQuantum Bit(公開アカウントID:QbitAI)より許可を得て転載...

5G、自動運転、AIがどの段階に到達したかを示す曲線

最近、世界で最も権威のあるIT市場調査およびコンサルティング会社であるガートナーは、新しいテクノロジ...

...

人工知能のトレンドは将来的に急速な変化をもたらす

私たちはよく、「未来はどうなるのだろう?」と考えます。もっと正確に言えば、人類の未来はどのように発展...

...

...

ビッグデータと人工知能のために生まれた新しい職業:アルゴリズム専門家

[[69076]]映画「マトリックス」でレオが銃弾の雨をかわす難しい動きを誰もが覚えているはずだ。こ...