グラフニューラルネットワークは急成長を遂げており、最新の進歩はここにあります

[[346023]]

グラフニューラルネットワーク (GNN) は近年急速に発展しており、最近の会議では多数の関連研究論文が発表されています。この記事の著者は、GNN の簡単な紹介と最新の研究レポートの概要をまとめています。この情報が、この分野に参入しようとしている人や、最新の技術進歩に追いつこうとしている人の役に立つことを願っています。

[[346024]]

グラフニューラルネットワークとは何ですか?

グラフは、有向または無向のエッジによって相互に接続されたノード (頂点) を含むデータ型です。各ノードには一連の機能 (これらの機能はノードのプロパティまたはワンホットエンコードされた情報を表すことができます) があり、エッジはノード間の関係を定義します。

典型的な GNN では、メッセージの受け渡しは隣接するノード間のエッジによって実行されます。直感的に言えば、メッセージとは、あるノードからそれに接続された隣接ノードに渡される情報のニューラルエンコードです。どのニューラル層でも、ノードの表現は、現在のノードのすべての隣接ノードのメッセージを集約することによって計算されます。複数回のメッセージパッシングの後、各ノードのベクトル表現を取得できます。これは、ノードの特徴情報とノードの周囲の近傍グラフ構造の両方を記述する埋め込み表現として解釈できます。

[[346025]]

最新のGNN論文の紹介

1. XGNN: グラフニューラルネットワークのモデルレベルの説明に向けて

ニューラルネットワークを使用する際の主な問題の 1 つは、ニューラルネットワークがブラックボックスとして扱われることが多いことです。ニューラル意思決定の背後にある理由が欠如しているため、ニューラル意思決定は重要な意思決定の状況で使用される可能性は低いです。現在のアプローチでは、ニューラルネットワークの出力を説明するために、フォワードパス中にニューラルネットワークによって生成される勾配、スパース性、およびアクティベーションを使用します。しかし、これはあまり効率的なアプローチではなく、GNN にとっても非常に困難です。

KDD2020 で発表されたこの論文では、生成手法と強化学習を組み合わせることでこの問題を解決する新しい手法 XGNN を使用しています。このアプローチは、トレーニングされた GNN モデルの理解、検証、さらには改善のための情報を取得するために使用できます。

論文分析:

https://crossminds.ai/video/5f3375a63a683f9107fc6b72/

2. 複雑ネットワーク上のニューラルダイナミクス

この論文では、複雑なネットワークにおける連続時間ダイナミクスを捉える問題を取り上げます。著者らは、常微分方程式 (ODE) と GNN を組み合わせてシステムの構造とダイナミクスを効果的にシミュレートし、複雑なネットワークをより適切に理解、予測、制御する方法を提案しました。

論文分析:

https://crossminds.ai/video/5f3375a13a683f9107fc6b34/

3. 興味のあるポイントの競合分析

次の論文は Baidu Research からのもので、類似の製品/サービスを提供する隣接する事業体 (興味のあるポイント、POI と呼ばれる) 間の消費者の選択をモデル化するための GNN の実用的なアプリケーションです。 POI 間の競争関係を予測するために、POI の異種ユーザー行動データ、ビジネスレビュー、マップ検索データを統合する GNN ベースのディープラーニングフレームワーク DeepR が開発されました。

論文分析:

https://crossminds.ai/video/5f3375a13a683f9107fc6b31/

4. ビデオタイトル作成のための包括的な情報統合モデリングフレームワーク

Alibaba Group によるこの記事は、消費者が生成した大量の製品レビュー動画を活用して、消費者の好みをより深く理解し、潜在的な顧客に関連動画を推奨することを目的としています。これらのビデオの大きな問題の一つは、適切なラベルが付けられていないことです。したがって、本論文では、トピックレベルのインタラクティブな要素ベースの 2 レベルのビデオ要約生成方法を提案します。

論文分析:

https://crossminds.ai/video/5f3369730576dd25aef288a8/

5. 自分の運命を知る: ソーシャルアプリにおけるユーザーエンゲージメント予測の説明

Snapchat チームによるこの記事では、GNN を使用したソーシャルメディアアプリケーションにおけるユーザーエンゲージメントについて説明します。友人の数と質、ユーザーが投稿したコンテンツの関連性、ユーザーの行動、時間的要因などの要素に基づいてユーザーのエンゲージメントを予測するエンドツーエンドのニューラルネットワークフレームワークを提案します。これは GNN の最も直感的なアプリケーションの 1 つです。

論文分析:

https://crossminds.ai/video/5f405f57819ad96745f802ba/

CVPR/KDD/ECCV/ICML からのグラフ畳み込みネットワークに関するその他の論文は次のとおりです。

 [CVPR 2020] Point-GNN: ポイントクラウド内の 3D オブジェクト検出のためのグラフニューラルネットワーク 
 [CVPR 2020] グラフニューラルネットワークにおける幾何学的原理に基づく接続 [CVPR 2020] SuperGlue: グラフニューラルネットワークによる特徴マッチングの学習 
 [CVPR 2020] グラフニューラルネットワークによるマルチビューカメラの再定位の学習 
 [CVPR 2020] 視覚とシーンテキストの共同推論のためのマルチモーダルグラフニューラルネットワーク 
 [CVPR 2020] Social-STGCNN: 人間の軌跡を予測するソーシャル時空間グラフ畳み込みニューラルネットワーク 
 [CVPR 2020] 3Dスケルトンベースの人間の動作予測のための動的マルチスケールグラフニューラルネットワーク 
 [CVPR 2020] 動的グラフメッセージパッシングネットワーク 
 [ECCV 2020] クリーンなラベルが少なく、ノイズの多いラベルが多い場合の学習のためのグラフ畳み込みネットワーク 
 [ICML 2020] グラフニューラルネットワークにおけるスペクトル領域と空間領域の融合 
 [KDD 2020] グラフ構造トピックニューラルネットワーク 
 [KDD 2020] より深いグラフニューラルネットワークに向けて 
 [KDD 2020] グラフニューラルネットワークのための冗長性のない計算 
 [KDD 2020] TinyGNN: 効率的なグラフニューラルネットワークの学習 
 [KDD 2020] PolicyGNN: グラフニューラルネットワークの集約最適化 [KDD 2020] グラフニューラルネットワーク回帰における残差相関 
 [KDD 2020] スポットライト: 非IIDグラフニューラルネットワーク 
 [KDD 2020] XGNN: グラフニューラルネットワークのモデルレベルの説明に向けて 
 [KDD 2020] リアルタイムイベント予測のための動的異種グラフニューラルネットワーク 
 [KDD 2020] セッションベースのレコメンデーションにおけるグラフニューラルネットワークの情報損失の取り扱い 
 [KDD 2020] 点と点をつなぐ: グラフニューラルネットワークによる多変量時系列予測 
 [KDD 2020] GPT-GNN: グラフニューラルネットワークの生成的事前トレーニング 
 [KDD 2020] 堅牢なグラフニューラルネットワークのためのグラフ構造学習 
 [KDD 2020] グラフニューラルネットワークの高速トレーニングのための証明可能な保証を備えた最小分散サンプリング 
 [KDD 2020] ベイジアングラフ畳み込みニューラルネットワークを用いた正確で多様なアイテムを推奨するフレームワーク 
 [KDD 2020] 興味のあるポイントの競合分析 
 [KDD 2020] 自分の運命を知る: ソーシャルアプリにおけるユーザーエンゲージメント予測の説明 
 [KDD 2020] GHashing: グラフデータベースにおける近似類似性検索のためのセマンティックグラフハッシュ 
 [KDD 2020] ビデオタイトル作成のための包括的な情報統合モデリングフレームワーク