Xiaomi、自社開発のモバイルディープラーニングフレームワークMACEのソースを公開

Xiaomi、自社開発のモバイルディープラーニングフレームワークMACEのソースを公開

6月28日、Xiaomiの人工知能およびクラウドプラットフォーム担当副社長である崔宝秋博士は、オープンソースチャイナおよびオープンソースワールドサミットフォーラムで「Xiaomi AI時代のオープンソース」と題する講演を行い、同会議で、Xiaomiが自社開発したモバイルディープラーニングフレームワークMobile AI Compute Engine(MACE)がオープンソースになることを発表しました。

アドレス: https://github.com/XiaoMi/mace

近年、モバイルインターネットの急速な発展と IoT スマートデバイスの普及、そしてインテリジェンス、低遅延、プライバシー保護に対するユーザーの要求の高まりにより、モバイルデバイス上のオフラインディープラーニングアプリケーションがますます一般的になっています。

Leifeng.com によると、MACE はモバイル デバイス向けに最適化されたディープラーニング モデル予測フレームワークです。設計当初から、MACE はモバイル デバイスの特性に合わせて特別に最適化されています。

  • 速度: モバイル デバイスで計算されるモデルの場合、全体的な予測遅延に対する要件は通常非常に高くなります。フレームワークの最下層では、ARM CPU に対して NEON 命令レベルの最適化が実行され、モバイル GPU に対して効率的な OpenCL カーネル コードが実装されます。 Qualcomm DSP の場合、HVX アクセラレーションのために nnlib コンピューティング ライブラリが統合されています。同時に、アルゴリズム レベルでは、畳み込みを高速化するために Winograd アルゴリズムが使用されます。

  • 消費電力: モバイル端末は消費電力に非常に敏感です。このフレームワークは、ARM プロセッサの big.LITTLE アーキテクチャに、高性能と低消費電力のさまざまな組み合わせを提供します。 Adreno GPU にはさまざまな電力消費パフォーマンス オプションが用意されており、開発者はパフォーマンスと電力消費を柔軟に調整できます。

  • システム応答: GPU コンピューティング モードの場合、基盤となるフレームワークは OpenCL カーネルを適応的に分割してスケジュールし、GPU レンダリング タスクをより適切にプリエンプトしてスケジュールできるようにすることで、システムのスムーズさを確保します。

  • 初期化の遅延: 実際のプロジェクトでは、初期化時間はユーザー エクスペリエンスにとって非常に重要であり、フレームワークではこれに焦点を当てた最適化が行われています。

  • メモリ使用量: モデルの演算子の依存関係分析を実行し、メモリ再利用テクノロジを導入することで、メモリ使用量が大幅に削減されます。

  • モデル保護: モバイル モデルの場合、知的財産の保護が非常に重要です。MACE はモデルを C++ コードに変換することをサポートしており、リバース エンジニアリングの難易度が大幅に高まります。

さらに、MACE は TensorFlow および Caffe モデルをサポートし、トレーニング済みのモデルを独自のモデル データ ファイルに変換できる変換ツールを提供していることがわかっています。また、モデルを C++ コードに変換することも選択でき、動的ライブラリまたは静的ライブラリの生成をサポートし、モデルの機密性を向上させることもできます。

現在、MACE は、カメラのポートレート モード、シーン認識、画像の超解像度、オフライン翻訳 (近日実現予定) など、Xiaomi 携帯電話の複数のアプリケーション シナリオに適用されています。

さらに、MACE とともに、MACE Model Zoo プロジェクトもオープンソースであり、現在、オブジェクト認識、シーンのセマンティック セグメンテーション、画像の様式化などの複数のパブリック モデルが含まれています。今後さらにモデルが追加される予定です。

上記は、MACE Model Zoo の高速スタイル転送モデルを使用して携帯電話で生成された様式化された画像です。

Leiphone.comによると、XiaomiはこれまでHadoop、HBase、Spark、TensorFlowなど、多くの主要な国際オープンソースプロジェクトに参加してきた。同時に、Xiaomiは自社開発の汎用ソフトウェアシステムにも積極的に関わっている。過去数年間、Xiaomi は Linden (分散型リアルタイム検索システム)、Open-Falcon (インターネット企業レベルの監視システム)、Pegasus (分散型 KV ストレージ システム) など、一連のオープン ソース プロジェクトを立ち上げてきました。

AIに関しては、Xiaomiはモバイルデバイス向けに最適化された自社開発のディープラーニングフレームワークMACEをオープンソース化しており、現在複数の社内業務をサポートしています。

また、Leiphone.comは6月29日から7月2日まで深センでCCF-GAIRカンファレンスを開催します。Xiaomiのチーフアーキテクトであり、Xiaomi人工知能およびクラウドプラットフォームの副社長であるCui Baoqiu氏がゲストとして出席し、講演を行います。

世界人工知能・ロボットサミット(CCF-GAIR)は、中国コンピューター連盟(CCF)が主催し、Leiphone.comと香港中文大学深圳校が共催し、深圳市政府の強力な指導を受けています。これは、中国の人工知能とロボットの3大分野、すなわち学術、産業、投資のトップ交流イベントであり、中国の人工知能分野で最強の実力を持つ国境を越えた交流協力プラットフォームの構築を目指しています。

CCF-GAIR 2018は、過去2回のセッションの「***」ラインナップを継続し、1つのメイン会場と11の特別セッション(バイオニックロボットセッション、ロボット産業アプリケーションセッション、コンピュータービジョンセッション、インテリジェントセキュリティセッション、金融技術セッション、インテリジェントドライビングセッション、NLPセッション、AI+セッション、AIチップセッション、IoTセッション、投資家セッション)を備えた充実したプラットフォームを提供し、業界、学界、研究のさまざまな側面から3つのセクターの参加者に、より将来を見据えた実用的な会議コンテンツと現場体験を提供することを目指しています。

<<:  企業のアウトバウンドコールをインテリジェンスで再構築するXunzhong CommunicationsがYunxun Skylarkインテリジェント音声ロボットを発売

>>:  2018 年の 5 つの主要な AI トレンドとそのメリット

ブログ    
ブログ    
ブログ    

推薦する

小度が「画期的な」新製品を百度世界2020で初公開、CCTVと提携してスマートライフの全貌を披露

「小都小都」、「私はここにいます」 - 数百万の家族と小都の間の日常会話のシーンがCCTVニュースス...

...

...

公安部経済調査局長:経済犯罪を研究するにはビッグデータアルゴリズムを使う必要がある

10月26日に開催された第2回全国経済捜査フォーラムで、公安部経済犯罪捜査局局長のガオ・フェン氏は、...

金融保険業界における人工知能の3つの重要なトレンド

[51CTO.com クイック翻訳] 変化は常に起こっており、将来の変化は予測可能です。保険市場は大...

AI画像合成技術の新たな波:Stable Diffusion 3とSoraアーキテクチャのブレークスルー

人工知能の黄金時代を迎え、画像合成技術はかつてない速さで発展しています。単純な画像編集から複雑なシー...

6 つの大きな障害に直面していますが、AI イノベーションはそれらをうまく克服できるでしょうか?

現状では、人工知能業界は消費者からの需要が大きく、投資家からの関心も高く、非常に活況を呈しているよう...

Facebookは視覚障害者向けに写真の説明を改善するためにAIを活用

[[377490]]海外メディアの報道によると、フェイスブックは1月21日、視覚障害のあるユーザー向...

機械学習を使うべきタイミング

著者 | 杜家平なぜこのトピックを議論するのですか?このトピックを議論する本質的な理由は、顧客にデー...

2020 年の AI と分析の 5 つの災害

今日の新しいテクノロジーの進歩により、私たちは皆、データの重要性を認識しています。データは新たな石油...

アンドリュー・ングのパレートの法則: データの 80% + モデルの 20% = より優れた機械学習

機械学習の進歩がモデルによってもたらされるのか、それともデータによってもたらされるのかは、今世紀の論...

データサイエンティストにとって最も重要なアルゴリズムと統計モデル

数年間この業界に携わってきたデータ サイエンティストとして、私は LinkedIn や QuoLa ...

清華大学の学生が強化学習プラットフォーム「TianShou」を開発:数千行のコードが完成、オープンソース化

この記事はAI新メディアQuantum Bit(公開アカウントID:QbitAI)より許可を得て転載...

電子商取引検索における人工知能技術の応用

常に注目度の高い人工知能分野に関連するアプリケーションは、常に大きな注目を集めています。人工知能は電...