连通图与 LLM 结合
在带文本属性的图(text-attributed graph, TAG)上,节点与边的含义同时来自文本内容和邻接拓扑。引用网络、商品关系网络、社交网络中的判断需要沿邻居和结构模式取证,仅依据节点自身文本或文本相似性,无法还原同质性、社群和长程依赖。现有智能体式大模型在检索外部信息时,把返回内容当作无结构文本拼接,图上的边与拓扑没有进入推理过程。
图神经网络(graph neural network, GNN)沿邻接矩阵传播信号,结构信号利用充分,但对节点文本属性的语义融入有限。图大模型方法把图结构转写为提示或结构嵌入注入上下文,上下文在推理前固定,模型不能按任务需要再遍历图。图检索增强方法多在从语料重建的图上取证,重建图与真实 TAG 的原生拓扑不一致。通用智能体检索面向网页文本,检索对象不包含关系结构。
该工作把图学习表述为拓扑感知导航与大模型推理交替进行的过程,在取证环节引入图原生搜索工具,在策略学习环节用强化学习决定检索时机、工具选择与停止时机。改动落在端到端链路的取证与策略两段,不替换底层大模型,也不重建图。
一、解决的问题
该工作处理的问题是,智能体大模型在 TAG 上推理时无法利用拓扑依赖,取证范围受限于节点文本与静态上下文。
问题本身可表述为给定一张 TAG $\mathcal{G}=(\mathcal{V},\mathcal{A},\mathcal{T})$,其中 $\mathcal{V}$ 为节点集、$\mathcal{A}$ 为邻接矩阵、$\mathcal{T}$ 为文本属性;任务分为节点分类与链接预测两类。给定查询 $Q$、目标节点或边 $x$、标签 $y$,模型输出预测 $\hat y$。真实数据的含义由文本内容与图拓扑交互产生,拓扑证据是预测依据,纯文本相似性不能承载节点间的结构关系。此前的方法要么在提示中固定注入图信息,推理时不再访问图;要么在合成或重建图上取证,缺少真实 TAG 的原生拓扑;强化学习驱动的图上导航策略此前没有成型框架。
二、端到端链路与衡量指标
主流视角下,该方向的端到端链路分为图上取证、证据融合与推理、最终预测、效率与成本四段,分别对应检索质量、预测质量、系统效率三类指标。
图上取证指沿边选择邻居、多跳遍历并读取节点文本属性。检索质量用以下指标衡量:
- 召回率 Recall@K:检索到的相关证据数除以全部相关证据数,即
$\mathrm{Recall@K}=\frac{|\text{检索到的相关证据}|}{|\text{全部相关证据}|}.$
- 命中率 Hit@K:Top-K 结果中含至少一条相关证据的查询数除以查询总数,即
$\mathrm{Hit@K}=\frac{|{\text{Top-K 含相关证据的查询}}|}{|{\text{查询总数}}|}.$
- 拓扑覆盖率:已遍历的相关邻居与结构节点数除以应覆盖的相关节点数。
证据融合与推理指把拓扑证据与文本拼成上下文,交模型推断。上下文充分性以取证环节的覆盖率间接衡量;推理一致性以同一查询重复实验的预测方差衡量。
最终预测环节按任务区分指标。节点分类使用准确率 Accuracy,即预测正确样本数除以总样本数;类别不均衡时使用宏平均 $F_1$,单类别 $F_1=2PR/(P+R)$,宏平均为各类别 $F_1$ 的算术平均。链接预测主流使用 AUC-ROC、MRR 与 Hits@K:AUC-ROC 为正样本得分高于随机负样本的概率,即 ROC 曲线下面积;MRR 为相关条目排名倒数的平均,
$\mathrm{MRR}=\frac{1}{|Q|}\sum_{i=1}^{|Q|}\frac{1}{\mathrm{rank}_i};$
Hits@K 为相关条目前 K 名内的查询占比。该工作在节点分类与链接预测两类任务的实验表中统一汇报 Accuracy。评测覆盖的 TAG 基准包括 OGB-Arxiv、PubMed、Amazon-Computers 与 Amazon-Photo 等数据集。
效率与成本环节衡量检索耗费:平均工具调用次数为总工具调用次数除以查询数,平均检索步数同理;另计单查询消耗的上下文 token 预算与端到端时延。
三、介入环节与影响的指标
改动集中在取证与策略学习两段,以图原生搜索工具和强化学习策略替代静态提示与启发式检索。
取证工具为图原生搜索(graph-native search, GNS)工具集
$S={\tau_{1\mathrm{HOP}},\tau_{2\mathrm{HOP}},\tau_{\mathrm{SS}},\tau_{\mathrm{DENSE}}}.$
$\tau_{1\mathrm{HOP}}$ 与 $\tau_{2\mathrm{HOP}}$ 分别在一跳、两跳邻居内取候选;$\tau_{\mathrm{SS}}$ 依据预计算的个性化 PageRank(personalized PageRank, PPR)分数取全局显著节点;$\tau_{\mathrm{DENSE}}$ 以嵌入余弦相似取语义相关候选。候选排序分写为
$s(n)=\cos\big(\mathbf h_n,\lambda_r\mathbf h_Q+(1-\lambda_r)\mathbf h_x\big),$
其中 $\mathbf h(\cdot)$ 为语义嵌入,$\mathbf h_x$ 为目标节点或节点对的平均嵌入,$\lambda_r\in[0,1]$ 平衡查询相关性。
策略学习中,$\pi_\theta$ 为待训练策略,$\pi_{\mathrm{ref}}$ 为参考策略,优化目标为
$\mathcal J(\theta)=\mathbb E_{(x,Q,y^)\sim D,\ \tau\sim\pi_\theta(\cdot|x,Q,\mathcal G_S)}\big[\mathcal R(\hat y,y^)-\beta,\mathbb D_{\mathrm{KL}}(\pi_\theta|\pi_{\mathrm{ref}})\big],$
其中 $\mathcal R(\hat y,y^*)$ 为结果奖励,$\mathbb D_{\mathrm{KL}}$ 为 token 级 KL 散度,$\beta$ 为约束强度系数。训练分两阶段进行:图原生搜索策略引导(GNS policy bootstrapping, GNSPB)以覆盖奖励鼓励使用全部工具;搜索过度缓解(mitigating search overuse, MSO)以深度奖励与回顾终止触发压缩冗余检索。样本顺序按图条件难度排序(graph-conditioned curriculum learning, GCCL)。策略优化采用组相对策略优化(group relative policy optimization, GRPO)或 REINFORCE++。
上述改动直接作用于三类指标:预测质量,包括节点分类的 Accuracy 与 macro-$F_1$,链接预测的 Accuracy 以及主流口径下的 AUC-ROC、MRR、Hits@K;取证效率,包括平均工具调用次数、检索步数与 token 预算;探索覆盖,包括工具使用多样性与证据覆盖度。
参考文献
Sun, Y, Li, K, Fan, D, Liu, J, & Tan, Q. (2026). AgentGL: Towards agentic graph learning with LLMs via reinforcement learning. arXiv preprint arXiv:2604.05846. https://arxiv.org/abs/2604.05846