TPCアライアンス設立：科学的発見の推進に向け、1兆以上のパラメータを持つAIモデルを目指す

11月16日、業界をリードする科学研究機関、米国国立スーパーコンピューティングセンター、そしてAI分野の多くの大手企業が共同でTrillion Parameter Consortium（TPC）を設立しました。

DALL-E 3 によって生成

IT Homeは、このレポートから、TPCアライアンスは世界中の研究所、研究機関、学界、産業界の科学者で構成されていることを知りました。その目標は、科学的発見のためのAIモデルを共同で推進することであり、特に1兆以上のパラメータを持つ巨大モデルに重点を置いています。

TPC コンソーシアムは現在、スケーラブルなモデル アーキテクチャとトレーニング戦略の開発、モデル トレーニング用の科学的データの整理と照合、現在および将来のエクサスケール コンピューティング プラットフォーム向けの AI ライブラリの最適化に取り組んでいます。

TPC は、科学および工学上の問題に対応する大規模な生成 AI モデルを開発する研究者のオープン コミュニティを構築することを目的としています。特に、共同プロジェクトを開始して作業の重複を避け、方法、アプローチ、ツール、知識、ワークフローを共有します。このようにして、コンソーシアムはこれらのプロジェクトがより広範な AI および科学コミュニティに与える影響を最大化したいと考えています。

TPC は、リソース、データ、専門知識のグローバル ネットワークを構築することも目指しています。アライアンスは設立以来、大規模な AI モデルの構築の複雑さに対処するために、いくつかのワーキング グループを設立してきました。

トレーニングに必要なエクサスケールのコンピューティング リソースは、米国エネルギー省 (DOE) の複数の国立研究所と、日本、ヨーロッパ、その他の国の複数の TPC 創設パートナーによって提供されます。これらのリソースがあっても、トレーニングには数か月かかります。

「私たちの研究室と、世界中で増えつつあるパートナー機関では、チームが科学的な用途のための最先端のAIモデルの開発を開始しており、これまで活用されていなかった膨大な量の科学データをトレーニング用に準備しています」と、米国エネルギー省アルゴンヌ国立研究所のコンピューティング、環境、生命科学担当副所長で、シカゴ大学のコンピューターサイエンス教授であるリック・スティーブンス氏は述べた。