1990年代生まれの中国人教授が、1年間でネイチャー誌に3本の論文を発表した。最初の量子ニューラルネットワークQuantumFlowはオープンソースです

[[432543]]

ニューラル ネットワークは、現在のコンピューティング アプリケーションで最も急速に成長し、最も広く使用されている機械学習アルゴリズムです。しかし、アプリケーションがますます複雑になり、ネットワーク構造が拡大し続けるにつれて、ストレージ パフォーマンスのボトルネックが徐々に顕著になってきました。

従来のコンピューティング プラットフォームでは、N 個のデジタル ビットで表現できるのは 1N ビットのデータのみです。ただし、量子コンピューティングでは、M 個の量子ビットで同時に 2^M 個のデータを表現でき、同時にこれらのデータに対して操作を行うことができます。

量子コンピュータの強力なストレージとコンピューティング機能により、従来のコンピューティング プラットフォーム上のニューラル ネットワークのパフォーマンスのボトルネックを打破し、量子的な利点を獲得できる大きな可能性が生まれます。

量子ニューラルネットワークは、量子コンピュータの特性に基づいて設計されたニューラルネットワークです。具体的には、研究者らは、量子コンピュータが提供する基本的な計算ユニット（量子論理ゲート）に基づいて量子回路を設計し、ニューラルネットワークの計算を実現しました。

今年1月、米国ジョージ・メイソン大学の江維文教授は、ネイチャー・コミュニケーションズ誌上で、初のニューラルネットワーク/量子コンピューティング共同設計フレームワーク「QuantumFlow」を提案した。これは、Nature Electronics 誌に掲載された 2 つの論文に続き、1 年以内に Nature 誌に掲載された 3 番目の論文でもあります。

https://www.nature.com/articles/s41467-020-20729-5

このフレームワークは、ニューラル ネットワーク構造と量子回路設計を共同で最適化することで、従来のコンピューターに比べて指数関数的な高速化を実現できることを初めて実証しています。

図1. QuatnumFlowに基づく量子ニューラルネットワーク設計スタック

江教授率いるJQubチームは、QuantumFlowをベースに、今年10月に開催されたQuantumWeek'21とESWEEK'21でQuantumFlowの量子ニューラルネットワークプログラミングフレームワークであるQFNNをオープンソース化しました。

そして、今度の ICCAD'21 では、2 人の新しいメンバーが追加されました。

（１）最初のノイズを考慮した量子ニューラルネットワークトレーナーであるQF-RobustNN

（２）QF-Mixer、異なる量子ニューロン設計に基づく量子ニューラルネットワーク構造設計者。

この時点で、最初のオープンソースの量子ニューラル ネットワーク設計スタックが登場し、量子ニューラル ネットワークのアプリケーションのための強固な基盤が提供されました。

クォリティフ

先日終了したQuantumWeekカンファレンスで、JQubチームは主に研究者のHu Zhirui氏が設計した量子ニューラルネットワークプログラミングフレームワークQFNNをオープンソース化しました。

https://github.com/JQub/qfnn

QFNN は Pytorch と IBM Qiskit に基づいており、量子回路上のニューラル ネットワークのトレーニングと推論のための基本機能を提供します。いくつかの関数を呼び出すだけで、研究者は IBM 量子コンピューターに導入できるニューラル ネットワーク推論用の量子回路を簡単に構築できます。

QFNN は、QuantumFlow のすべての機能をサポートするだけでなく、変分量子回路 (VQC) を含む他の量子ニューラル ネットワーク設計もサポートします。

さらに、QFNN は量子ニューラル ネットワーク回路に対応する古典的なコンピューティング シミュレーションも提供しており、これを使用して量子ニューラル ネットワークの正確性を検証したり、量子コンピューターのモデル トレーニングを支援したりすることができます。

図2 QuantumFlow共同設計フレームワーク

QuantumFlow をサポートする点では、QFNN は QuantumFlow と同じ構造を採用しています。図 2 に示すように、フレームワークは qf_circ、qf_net、qf_fb、qf_map の 4 つのモジュールに分かれています。

現在、QFNN は QuantumFlow のすべてのモジュールをサポートしており、QF-Net では VQC などの量子回路のサポートが追加されています。

QFNN を使用すると、研究者は量子機械学習回路を迅速に構築し、従来のコンピューター上でネットワークをトレーニングし、量子プラットフォーム上で推論を実行できます。

同時に、QFNN は量子ネットワーク構造、つまり QF-Mixer の探索もサポートします。 QFNN は github 上でオープンソース化されており、より基本的な量子ニューロン実装と量子ニューラル ネットワーク実装を共同で開発し、追加することに関心のある関係者を歓迎します。

QF-ルボスNN

11 月 1 日に開催される ICCAD カンファレンスで、JQub チームは、トレーニングを通じて量子ネットワークの量子ビット エラーを学習する初の研究成果、つまり QF-RubostNN を発表します。

出典: http://arxiv.org/pdf/2109.03430.pdf

博士課程の学生である梁志定氏が率いるこの研究では、エラー認識学習のための一般的なトレーニング フレームワークを提案しました。これは、近い将来のノイズの多い中規模量子 (NISQ) 時代にニューラル ネットワークを展開する際の核心的な問題、つまりニューラル ネットワークの推論に対するノイズの影響にどのように抵抗するかという問題を解決するものです。

量子コンピューティングは急速に発展していますが、量子マシン上の量子ビットのエラー率は現在 10^-2 に達します。これは、従来の CMOS マシン上の従来のビットのエラー率 (約 10^-15) と比較すると、間違いなく大きな差です。

これに対応して、JQub チームは QF-RubostNN を設計し、量子ニューラル ネットワークにノイズを学習させる初の試みを行い、量子ニューラル ネットワークのフォールト トレランスを実証しました。QF-RubostNN は、それぞれ量子シミュレータと IBM 量子マシンで実行され、量子ニューラル ネットワークの推論精度が大幅に向上しました。

図3. QF-RubostNNの全体的なフレームワーク

QF-RobustNN の最上位層のトレーニング重みは、QuantumFlow などの量子ニューラル ネットワークによって生成されます。各サイクルのトレーニング重みによって、対応する量子回路が生成されます。これは、論理量子ビット上の論理量子回路です。特定のアプリケーション用に設計された量子マッピングの後、論理量子ビットが物理量子ビットにマッピングされ、対応する物理量子回路が作成されます。

次に、物理量子回路を量子マシンまたは量子シミュレータで実行して、モデル精度の出力を取得します。この時点でノイズの下で最もパフォーマンスの高いトレーニング重みがトレーニングフレームワークを通じて検出され、最終的に検索されたトレーニング重みがトップレベルのトレーニング重みに更新されます。

この方法では、論理物理量子マッピングのルールを最初から最後まで固定するため、エラーを予測でき、追加ゲートの数を効果的に削減できるため、消費を削減できます。

図4. 異なるノイズモデルにおけるQF-RobustNNの精度測定結果

QF-RobustNN は、ノイズのない環境 (完璧なモデル) での最適なトレーニング重みを実験ベースラインとして使用し、モデルのエラー率 (ノイズ条件) を変更することで QF-RobustNN の実装を観察します。

実験結果から、QF-RobustNN の精度はベースラインと比較して向上していることがわかります。エラー率が増加するにつれて、QF-RobustNN の精度への影響がより顕著になり、最大 28% に達することは注目に値します。

この実験は、量子ニューラル ネットワークが量子ビット エラーを学習する可能性を示しています。NISQ 時代の量子マシンでは、ノイズが大きな問題であり、課題となっています。実験結果は、QF-RobustNN の有効性を実証しています。

QFミキサー

QF-Mixer は主に博士課程の学生である Wang Zhepeng が参加しており、量子ニューラル ネットワークの設計を検討した最初の論文です。

出典: http://arxiv.org/pdf/2109.03806.pdf

近年の量子ニューラルネットワークの活発な発展に伴い、量子ニューロンの設計に関する一連の研究が登場し始めています。

これらの研究は、各チームが提案した量子ニューロンを積み重ねることで量子ニューラルネットワークを構築し、単純な機械学習タスク（MNIST 2分類問題など）において高い精度を達成することができます。ただし、より複雑な機械学習タスク (MNIST 10 分類問題など) に適用すると、このタイプの量子ニューラル ネットワークの精度は大幅に低下します。

このような状況を踏まえ、QF-Mixer は、既存の異なるタイプの量子ニューロンを混合して、より高性能な異種量子ニューラル ネットワークを構築することを提案しています。

図5 ハイブリッド量子ニューロンとQFミキサー設計コンセプトの課題

しかし、このような異種量子ニューラル ネットワークを構築するのは簡単ではありません。

まず、異なる量子ニューロンには入力量子状態と出力量子状態に対する要件が異なり、2 種類のニューロンを任意に接続しても、これらの事前設定された要件を満たせないことがよくあります。

第二に、異なるニューロンはそれぞれ異なる計算特性とロジックを持っているため、異なるニューロンを混合しても必ずしも高い精度が達成されるとは限りません。ニューロンの適切な組み合わせを見つけることによってのみ、1+1>2 の効果を達成できます。

最初の質問に関して、QF-Mixer は、異なるニューロンを混合するときに従うべき一連のガイドラインを提供し、異種量子ニューラル ネットワークの設計に対する理論的サポートを提供します。

2 番目の質問に関して、JQub チームは、Quantumflow の量子ニューロンと変分量子回路が非常に相補的な特性を持っていることを発見しました。

一方、Quantumflow の量子ニューロン (QF 量子ニューロン) の学習可能なパラメータはバイナリであり、表現力に大きな制限があります。変分量子回路の学習可能なパラメータは任意の実数です。したがって、変分量子回路は、QF 量子ニューロンに対してより強力な表現機能を提供できます。

一方、変分量子回路は単なる線形分類器ですが、QF 量子ニューロンは複数の非線形層を持つ量子ニューラル ネットワークを簡単に構築できます。 QF 量子ニューロンは、変分量子回路のより複雑なモデルの構築に役立ちます。

上記の観察に基づいて、QF-Mixer は、QF 量子ニューロンと変分量子回路を混合する異種ニューラル ネットワーク フレームワークである QF-MixNN を提案しました。 QF-MixNN は QF-Mixer によって提案された混合基準に従いますが、さまざまなデータセットでより高い精度を示します。

図6. QF-Mixerは10カテゴリ分類問題で高い精度を達成

これは図 6 の表にも反映されています。 MNIST データセットでは、QF 量子ニューロンで構成されたニューラル ネットワークと変分量子回路のパフォーマンスは低く、それぞれ 52.77% と 69.92% の精度しか得られなかったことがわかります。

同時に、QF-MixNN は非常に印象的なパフォーマンスを発揮します。 MNIST で 90% 以上の精度を達成します。 QF量子ニューロンと変分量子回路で構成されたニューラルネットワークと比較すると、精度はそれぞれ20.7%と37.85%向上します。

JQub チーム紹介

ウェイウェン・ジャン助教授は2021年にジョージ・メイソン大学に着任し、量子古典コンピュータ支援設計研究所（JQub）を設立しました。

この研究室は、ニューラル ネットワークとハードウェア アクセラレータ (量子コンピュータを含む) の共同設計の研究に特化しています。量子ニューラル ネットワークの分野では、JQub はノートルダム大学の Yi-Yu Shi 教授、バッファロー大学の Jin-Jun Xiong 教授、ニューメキシコ大学の Lei Yang 助教授と共同研究を行っています。

彼は、Nature Communications、Quantum Week、ESWEEK、ICCAD に多数の論文を発表し、オンラインチュートリアル講義も行っています。

著者について

[[432544]]

プロジェクトリーダーのJiang Weiwen氏は現在、ジョージ・メイソン大学の助教授です。 2019年に重慶大学で博士号を取得。2017年から2019年までピッツバーグ大学電気・コンピュータ工学部で研究に参加。2019年から2021年までノートルダム大学で博士研究員として勤務。

博士課程在学中、江衛文は国際会議や主要ジャーナルに50本以上の研究論文を発表し、その中にはIEEE/ACMジャーナル論文10本以上も含まれています。ハードウェアアクセラレーションとニューラルネットワークアーキテクチャに関する共同研究は、IEEE TCAD 2021 Best Paper Awardを受賞し、DAC'19、CODES+ ISSS'19、ASP-DAC'20のBest Paperにノミネートされました。

ニューラルネットワークと並列システムに関する研究は産業界から広く注目されており、米国国立科学財団の国際自然科学連合から研究資金を受けています。また、IBM、Facebook、Edgecortix Inc.（日本/シンガポール）などの企業と共同研究を行っています。