機械学習とHPCの火花は少し異なる

従来、高性能コンピューティング (HPC) は、数値解析を利用して物理方程式を解き、素粒子から銀河に至るまでのシステムの動作をシミュレートしてきました。最近、科学者たちは全く異なるアプローチを試み始めました。機械学習 (ML) モデルは、既存の数値計算シミュレーションよりも効率的で正確であることが証明されています。従来の分析と直接観察から得たほぼ無制限のデータ セットを使用してディープ ニューラル ネットワーク (DNN) をトレーニングすると、シミュレーションを実際に実行しなくても、シミュレーションの結果を予測または推定できるようになります。初期の結果では、ML と従来のシミュレーションを組み合わせることで、これらの「統合モデル」の精度が向上し、解決までの時間が短縮され、コストが大幅に削減されることが示されています。このアプローチが広く採用されれば、NVIDIA に代表されるアクセラレータ サプライヤーのビジネスがさらに拡大するでしょう。

[[210430]]

機械学習とHPCの交差点

機械学習モデルを使用すると、非常に複雑な問題を解決できます。さらに言えば、従来の方法に比べて使用するリソースははるかに少なくなります。 ML がより効率的になる理由は 2 つあります。まず、数値解析では高価な 64 ビット浮動小数点計算が必要になることが多いのに対し、トレーニング済みのニューラル ネットワークでは 8 ビット整数計算のみが必要になることが多いです。 DNN のトレーニングには間違いなく計算負荷がかかり、多数の GPU と数兆回の計算が必要になります。ただし、一度トレーニングすると、DNN は単純な整数で動作できるようになります。第二に、このアプローチ全体は、数値方程式を計算するのではなく、既存のデータ内のパターンを見つけることによって機能します。その結果、初期の研究では、ML は多くの場合、はるかに少ないリソースを消費し、従来のシミュレーションでは解決できない問題を解決できることが示されています。

HPC 機械学習の利点

ML は HPC 分野では比較的新しい機能ですが、科学者はすでに研究に包括的なモデリングを適用し、いくつかの印象的な結果を得ています。初期段階の研究事例は少ないですが、SC17 スーパーコンピューティング カンファレンスで注目を集めた代表的な研究プロジェクトを以下に示します。

1. LIGO信号処理（NCSA） – 5000倍高速

2. 予測分子エネルギー学（UFL/UNC） – 30万倍高速

3. 解析的重力レンズ効果（SLAC スタンフォード） - 数週間から 10 ミリ秒まで

4. ボーズ・アインシュタイン凝縮の生成（UNSW）：14倍の速さ

5. パーシステントフュージョン（プリンストン）：停電予測が85%から90%に向上

6. ニュートリノ追跡（フェルミ国立加速器研究所）：検出率33%向上

7. タンパク質リガンドスコアリング（ピッツバーグ大学）：ポーズ予測精度が52％から70％に向上

[[210431]]

ML を HPC の問題に適用するには 3 つのアプローチがあります。まず、連続する反復間でシミュレーションや実験を調整するために使用でき、安定した信頼性の高いモデルへの収束を高速化できます。ローレンス・リバモア国立研究所で核融合発電に取り組んでいる研究者たちは、シミュレーション実行中に ML を使用して発散をチェックし、シミュレーションが順調に進むようにパラメータを自動的に調整しています。この技術を使用することで速度が大幅に向上したと報告されています。

もう 1 つのアプローチは、既存のシミュレーションを強化して精度を向上させ、遅延を減らすことです。ここで、シミュレーションは、ニューラル ネットワークの開始点とトレーニング データを提供し、数値モデルの出力を改善します。このアプローチの注目すべき例は、高解像度のレイトレーシングです。この従来の計算集約型のアプローチでは、「実際の」画像が作成され、それを使用して DNN がトレーニングされ、はるかに少ないリソースで高品質の追加画像が生成されます。

[[210432]]

機械学習は、従来のレイトレーシングよりもはるかに少ないコンピューティングリソースで高品質の画像を生成できます。

***、おそらく、HPC における機械学習の最も影響力のある応用は、数値シミュレーション モデルを ML ベースの近似値に置き換えることです。このアプローチは HPC を変革する可能性があります。しかし、このアプローチでは、科学者が何十年もかけて開発したコードを最終的に時代遅れにしてしまう可能性のある方法論を採用する必要があります。もちろん、実際にやってみると、驚くべき結果が得られるかもしれません。フロリダ大学とノースカロライナ大学の科学者たちは、すでに薬物研究においてその恩恵を実感しており、計算時間を数分からマイクロ秒へと6桁も短縮することができた。これは、従来の CPU を使用すると 5 年かかることもある新薬候補のスクリーニングにかかる​​時間に大きな影響を与える可能性があります。

結論は

この新しいアプローチはまだ初期段階にあり、多少物議を醸しています。 しかし、機械学習の研究者は、精度を向上させ、遅延を減らしながら、コンピューティング リソースとエネルギー消費を桁違いに削減できることを示しました。政府や業界からの資金提供、そして非常に効率的な GPU ハードウェアが利用可能であることを考えると、この傾向は今後数年間で大幅に加速すると予想されます。