[論文レビュー] UltraGCN: Ultra Simplification of Graph Convolutional Networks for Recommendation

論文メモ

UltraGCN: Ultra Simplification of Graph Convolutional Networks for Recommendation

• 2021 CIKM 採択論文
• https://arxiv.org/pdf/2110.15114.pdf

概要

• グラフ畳み込みネットワーク(GCN)
• message passing が収束に時間がかかる
• LightGCNは特徴量変換と非線形のactivatioを省略することで単純か
• message passingを省略し、単純化されたGCN(UltraGCN)を提案
• UltraGCNは、より適切なエッジの重み付けと、異なるタイプの関係間の相対的な重要性の柔軟な調整が可能
• 実装が容易
• LightGCNの10倍のスピード
• UltraGCNとLightGCN
• LightGCN(message passing)の課題

1. 一人のユーザーに対する二つのアイテム$k,i$を平等に扱っていない
2. message passingを何層にも組み合わせると、ノイズや曖昧な関係が学習される
3. 高次の協調信号を捉えることができるはずだが、LightGCNの性能はレイヤー2または3で低下する

• [参考] LightGCNのモデル
  • https://arxiv.org/pdf/2002.02126.pdf
• [参考] NGCFのモデル
  • https://arxiv.org/pdf/1905.08108.pdf