惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

量子位
云风的 BLOG
云风的 BLOG
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
The Hacker News
The Hacker News
Martin Fowler
Martin Fowler
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
U
Unit 42
F
Full Disclosure
H
Hackread – Cybersecurity News, Data Breaches, AI and More
Recorded Future
Recorded Future
Security Archives - TechRepublic
Security Archives - TechRepublic
阮一峰的网络日志
阮一峰的网络日志
T
Threatpost
P
Privacy International News Feed
GbyAI
GbyAI
Stack Overflow Blog
Stack Overflow Blog
MongoDB | Blog
MongoDB | Blog
I
Intezer
Recent Announcements
Recent Announcements
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
P
Privacy & Cybersecurity Law Blog
A
Arctic Wolf
博客园 - 聂微东
博客园 - 叶小钗
Cisco Talos Blog
Cisco Talos Blog
H
Help Net Security
S
Schneier on Security
Y
Y Combinator Blog
D
Darknet – Hacking Tools, Hacker News & Cyber Security
T
The Exploit Database - CXSecurity.com
T
Tor Project blog
月光博客
月光博客
NISL@THU
NISL@THU
A
About on SuperTechFans
Spread Privacy
Spread Privacy
Blog — PlanetScale
Blog — PlanetScale
D
DataBreaches.Net
雷峰网
雷峰网
C
CXSECURITY Database RSS Feed - CXSecurity.com
cs.AI updates on arXiv.org
cs.AI updates on arXiv.org
Cyber Security Advisories - MS-ISAC
Cyber Security Advisories - MS-ISAC
博客园 - 【当耐特】
G
Google Developers Blog
W
WeLiveSecurity
P
Palo Alto Networks Blog
The Last Watchdog
The Last Watchdog
K
Kaspersky official blog
博客园 - 司徒正美
L
LINUX DO - 热门话题
小众软件
小众软件

博客园 - zhang-yd

今日开源[第33期] Home Assistant Core 今日开源[第32期] Vibe-Trading 今日开源[第31期]RuView 今日开源[第30期]Chrome DevTools MCP 今日开源[第29期]RomM (ROM Manager) 今日开源[第28期]Page Agent 今日开源[第27期]video-use 今日开源[第26期]SimpleX Chat 今日开源[第25期]LingBot-Map 今日开源[第24期]OpenMontage 今日开源[第23期]Voicebox 今日开源[第22期]tw93/Pake 今日开源[第21期]yifanfeng97/Hyper-Extract 今日开源[第20期]google-research/timesfm 今日开源[第19期]Panniantong/Agent-Reach 今日开源[第18期]karpathy/autoresearch 今日开源[第17期]public-domain-books-translation 今日开源[第16期]soxoj/maigret 论文解读-《Dual-Kernel Graph Community Contrastive Learning》 今日开源[第15期]agent-skills 论文解读-《Hyperbolic Continuous Structural Entropy for Hierarchical Clustering》 今日开源[第14期]google/skills 今日开源[第13期]turbovec 今日开源[第12期]LiteParse 今日开源[第11期]OmniVoice-Studio 今日开源[第10期]ds4(DwarfStar) 今日开源[第9期]graphify 今日开源[第8期]open-notebook 今日开源[第7期]spec-kit 今日开源[第6期]Production Agentic RAG Course 今日开源[第5期]Headroom 今日开源[第4期]OpenTalking 今日开源[第3期]train-llm-from-scratch 今日开源[第2期]Project N.O.M.A.D. 今日开源[第1期]MoneyPrinterTurbo LearningCell代码解读 论文解读-《It Takes a Graph to Know a Graph Rewiring for Homophily with a Reference Graph》 论文解读-《Mitigating Over-Squashing in Graph Neural Networks by Spectrum-Preserving Sparsification》 论文解读-《Make Heterophily Graphs Better Fit GNN A Graph Rewiring Approach》 论文解读-《Temporal Graph Rewiring with Expander Graphs 》 论文解读-《Understanding Oversquashing in GNNs through the Lens of Effective Resistance》 论文解读-《Homophily-oriented Heterogeneous Graph Rewiring》 论文-Deep appearance modeling: A survey 代码阅读笔记-nanoclaw 代码阅读笔记-OpenManus 论文解读-《Probabilistic Graph Rewiring via Virtual Nodes》 论文解读-《Probabilistically Rewired Message-Passing Neural Networks》 论文解读-《Joint Graph Rewiring and Feature Denoising via Spectral Resonance》 代码阅读笔记-nanobot 论文解读-《Oversquashing in GNNs through the lens of information contraction and graph expansion》 论文解读-《GNNs Getting ComFy Community and Feature Similarity Guided Rewiring》 论文解读-《PANDA Expanded Width-Aware Message Passing Beyond Rewiring》 代码阅读笔记-AiPyApp 论文解读-《Deep Graph Contrastive Representation Learning》 论文解读-《Community-Invariant Graph Contrastive Learning》 论文解读-《DiffWire Inductive Graph Rewiring via the Lovász Bound》 论文解读-《The Effectiveness of Curvature-Based Rewiring and the Role of Hyperparameters in GNNs Revisited》 论文解读-《Over-Squashing in GNNs and Causal Inference of Rewiring Strategies》 论文解读-《Uncertainty-Aware Graph Structure Learning》
论文解读-《An Empirical Evaluation of Rewiring Approaches in Graph Neural Networks》
zhang-yd · 2026-03-05 · via 博客园 - zhang-yd

1. 论文介绍

论文题目:An Empirical Evaluation of Rewiring Approaches in Graph Neural Networks
论文邻域:图神经网络,图重连
论文发布:Pattern Recognition 2025
论文背景:
AEERAGNN01

2. 论文摘要

图神经网络通过执行多个消息传递步骤来计算节点表示,这些步骤包括节点特征的局部聚合。拥有可以利用节点之间长距离交互的深度模型会受到过度平滑和过度压缩问题的阻碍。特别是,后者归因于引导消息传递的图拓扑,导致节点表示对远处节点包含的信息变得不敏感。已经提出了许多图重新布线方法来补救或缓解这个问题。然而,由于过度压缩与其他与模型训练严格相关的问题(如梯度消失)的耦合,很难正确评估这些方法的好处。因此,我们提出了一种基于消息传递模型的评估设置,该模型不需要训练来计算节点和图表示。我们对真实世界的节点和图分类任务进行了系统的实验比较,表明重新连接底层图很少能为消息传递带来实际好处

3. 相关介绍

当图重连接给训练过的GNN中表现更好的性能时候,不清楚这个改进的是否来源于
1,由于改进的图结构带来的更好的消息传递
2,与训练相关的效应,例如梯度流的改变
3,隐式正则化效应
4,更好的超参数

4. 图重连算法介绍

本文将图重连技术的主要分为以下五类,基于扩散过程,基于曲率的方法,基于谱间隙的方法,基于扩展器传播,基于有效阻尼的方法。

4.1 图扩散模型

图扩散最初是作为一种聚合超越直接1跳邻域节点的方法提出的,这使得单个消息传递层能够直接考虑来自更远节点的信息。
一般的图扩散矩阵是幂级数
AEERAGNN02

其中A是转移矩阵
两种图扩散方法,其中热核和PPR方法的转移矩阵为
AEERAGNN03

4.2 局部图瓶颈

在过度挤压的分析中,图拓扑产生了局部的树形则表示局部图瓶颈。为了衡量局部拓扑结构的指标,有平衡Forman曲率
AEERAGNN04

4.3 全局瓶颈

等式4的曲率不仅仅可以衡量图拓扑结构的瓶颈,更全局的指标,Cheeger常量h_G,可以描述边的最小曲率分数。但是计算Cheeger常量是一个NP难问题。
GRLEF方法是旨在提高整个图的谱间隙。

4.4 扩展器传播方法

为了避免图瓶颈的出现,通过重新构造图来实现。
EGP方法基于有限图的Cayley图来作为新的扩展器,是4-regular的,稀疏的。
AEERAGNN05

4.5 有效阻尼方法

该方法提供了另一种衡量图拓扑结构瓶颈的方法,两个节点之间的阻尼可以视为uv的交流跳跃数
AEERAGNN06

4.6 GNN模型

使用无需训练的GNN模型,直接将图拓扑对消息传递的影响和训练相关的复杂性分离开来。
AEERAGNN07

简化图卷积SGC,该模型移除了消息传递层中的所有非线性和可学习参数,将节点表示为
AEERAGNN08

图回声状态网络,基于水库计算RC原理,使用随机初始化,固定的内部权重,同时只训练一个简单的线性读出层,模型计算为
AEERAGNN09

读出层Readout layer
为了解决下游模型的分类任务,还是需要去训练一个预测器,本文使用线性readout层
AEERAGNN10

5. 实验设置

使用不同的图重连算法,结合非训练的GNN模型。本文实验的目的是检验不同重连算法在不同视角下的表现。

任务分为两类,节点分类和图分类,采用的数据集的属性为
AEERAGNN11

在对比来自五类的6种算法,节点分类的效果为
AEERAGNN12

AEERAGNN13

各大算法的计算复杂度
AEERAGNN14

6. 结论

原来的名字起得比较大,Is Rewiring Actually Helpful in Graph Neural Networks,直接否定graph rewiring这个领域。后面改温和一点才被PR接受。
对GNN图重连线技术的未来发展的建议:1,重新思考图重连技术;2,训练鲁棒性;3,免训练基线