互联网迅猛发展,促使医疗、金融、娱乐、购物等不同领域逐渐互联网化,软件在人们生活中随处可见。软件漏洞屡见不鲜,已经严重危害到国家和社会的经济,影响人们的正常生活。在众多漏洞类型中,Java反序列化漏洞自2015年,呈持续上涨的趋势,由于其很容易被非法利用,因此成为目前最具威胁的软件漏洞之一。在反序列化漏洞被发现之前,对软件所使用的第三方公共组件库进行检测,能够提前发现并防御潜在的反序列化漏洞。目前已有的反序列化漏洞调用链检测,主要有基于规则匹配和基于污点分析两种检测方法,前者采用白名单或者黑名单的方法无法发现未知的反序列化漏洞,而后者因其对漏洞调用链检测能力有限,故漏报和误报率高。为了解决已有检测方法存在的局限性,提升反序列化漏洞调用链检测的准确率,降低误报率,本文提出了一种基于图网络的Java反序列化漏洞调用链检测方法Serial Finder,该方法借助图结构充分表达反序列化漏洞调用链的语义信息,训练图同构网络模型,检测潜在的反序列化漏洞调用链。本文的贡献主要有以下几点:（1）为了解决Java反序列化漏洞调用链检测模型训练所需的样本数据严重缺乏的问题,本文设计一种基于多关系边的调用链子图提取方法,收集到大量的调用链子图作为模型的训练数据集,为Java反序列化漏洞调用链检测模型的训练提供支撑。（2）为了降低反序列化漏洞调用链检测的误报率,提出了一种基于图神经网络的Java反序列化漏洞调用链检测方法Serial Finder,通过扩展图神经网络的结构,为调用链子图增添六种调用边关系,实现了基于多关系边图神经网络的反序列化漏洞调用链检测方案,提高了反序列化漏洞调用链检测的准确率。（3）以Serial Finder方法为基础,设计并实现了一个自动化的Java反序列化漏洞调用链检测原型系统,在多个第三方公共组件库上进行时间性能和命中率实验,并与最近的Java反序列化漏洞调用链检测方法Gadget Inspector进行对比。实验结果表明,Serial Finder在多个公共组件库上的平均命中率为39%,比Gadget Inspector高24%。