在数据驱动时代，属性图广泛应用于多领域，但传统 GNN 任务特异性强、缺乏自然语言生成能力；LLM 虽泛化能力强，却难以有效处理图结构信息。为此，Tan 等人（2024）提出 MuseGraph 框架，融合 GNN 与 LLM 优势解决通用图挖掘难题。
研究背景：图挖掘的双重挑战
属性图包含节点与边及其语义属性。传统 GNN 存在任务依赖与缺乏语言生成能力的局限；LLM 在图挖掘中面临结构信息转化难、易信息过载等问题。现有 LLM 与 GNN 融合方案也存在跨任务能力弱、通用性不足等缺陷。
MuseGraph 框架：三大核心模块的创新融合
MuseGraph 旨在在 LLM 输入限制内保留图信息，并通过指令调优赋予其通用图挖掘能力，由三大模块构成：
1. 紧凑图描述：用 “节点能量” 平衡信息密度与 token 限制
针对 LLM 输入长度限制，MuseGraph 提出 “节点能量”（\(H(v^*)\)）指标量化节点重要性，公式为\(H(v^*) = T(v^*) \times \lceil \log(D(v^*) + 1) \rceil\)。基于此设计邻居筛选与游走筛选规则，自适应平衡信息保留与长度限制。论文中 1200 token 上限为硬约束，高低节点策略旨在实现有限 token 内信息价值最大化：
| 节点类型 | 核心问题 | 策略 | 目标 |
|---|---|---|---|
| 低 H 节点 | 信息匮乏 | 多邻居补充局部语义，少游走避免冗余信息 | 借邻居信息弥补自身不足，辅助 LLM 识别节点功能 |
| 高 H 节点 | 信息过载易超 token | 精简邻居保留核心语义，多游走获取全局结构 | 以结构信息拓展语义深度，助力 LLM 把握节点核心地位 |
2. CoT 指令生成：让 LLM 学会 “图推理”
采用 “思维链（CoT）” 指令调优，设计任务模板，通过 CoT 蒸馏获取高质量推理过程，并结合 CoT 与标准指令进行训练。
3. 图感知微调：用 LoRA 实现高效适配
以 LLaMA3-8B 为基础，采用 LoRA 微调，冻结预训练权重，仅训练低秩矩阵参数，降低成本并避免 “灾难性遗忘”，用负对数似然损失优化匹配精度。
实验验证：多任务场景下的显著优势
在 5 类图任务、10 个数据集上，MuseGraph 在异质节点分类、链路预测、语言生成等任务中，性能均优于对比模型，验证了其融合思路的有效性。
结语：通用图挖掘的新范式
MuseGraph 提供了完整通用图挖掘方案，突破传统 GNN 限制，释放 LLM 处理结构化数据潜力，未来有望在更多复杂场景中发挥作用。
参考文献
Tan, Y., Lv, H., Zhan, P., Wang, S., & Yang, C. (2024). Graph-oriented instruction tuning of large language models for generic graph mining. IEEE Transactions on Pattern Analysis and Machine Intelligence, X(X). https://doi.org/10.1109/TPAMI.2025.3603062