SPAGAN Shortest Path Graph Attention Network

IJCAI19一篇关注最短路径对中心顶点的attention聚合的论文

解决的问题

GAT中只是中心顶点与邻域顶点的顶点间attention聚合,本文关注的是路径对中心顶点的attention聚合。一条路径往往会包含很多个顶点,怎么能够对中心顶点做到“多对一”的聚合呢?在于一条路径$p^c_{ij}$的表示$\phi(p^c_{ij})$是通过路径中所有顶点的特征取平均得到,这样一来就变成“一对一”的聚合,和GAT中的顶点间attention聚合相同。

2Az8VP.png

做法及创新

Shortest Path Generation

计算最短路径使用Dijkstra,而顶点间边的权重由它们之间的attention系数决定:

Path Sampling

这一阶段的核心思想是,对于有着相同长度的几条最短路径,代价最小的与中心顶点的相关性更高,代价指的就是路径上边的权重的求和。记$p_{ij}^c$为顶点i到j长度为c的一条最短路径,$P^c$表示所有$p_{ij}^c$形成的集合,取样:

Hierarchical Path Aggregation

这一阶段的层次路径聚合分为两层,第一层聚合相同长度的路径,第二层聚合不同长度的路径。

加权系数$\alpha_{ij}^{(k)}$为中心顶点i的特征$h_i’$与路径的表示$\phi(p^c_{ij})$的attention系数:

在第二层,进一步聚合不同长度的路径,第一层已经得到以顶点i为中心长度为c的所有路径形成的一个特征表示$l_i^c$:

这样一来就通过路径得到了中心顶点i的新的特征表示$h_i$。

数据集

Cora、Citeseer、Pubmed