随着信息时代的到来,计算机软件被广泛应用到社会各个领域,由软件安全漏洞带来的各种危害也日益严重。二进制作为软件的最终表现形式,是软件安全的理想研究对象,但目前二进制漏洞挖掘存在测试深度不够、测试精度不足和污点分析不全等问题。研究针对二进制程序的细粒度污点分析方法,以及关键路径的二进制程序智能覆盖测试技术,对软件漏洞挖掘有重要的意义。本文从分析现有二进制程序安全漏洞挖掘方法和工具入手,并在此基础上提出了基于关键路径覆盖的二进制程序测试技术,即通过动静态结合的方法,实现对目标二进制程序的安全测试。主要创新性工作总结如下:为了获得程序输入对执行路径的影响,研究并设计了细粒度的动态污点分析技术,结合回溯思想设计了关键分支的回溯污点分析技术,增加了二进制程序执行路径的关键元定位的精确度,并提高了建立程序输入与执行路径映射关系的效率。接着,针对测试效率低和路径爆炸问题,提出了基于关键路径覆盖的选路策略算法,该算法基于域收敛思想,采用多轮迭代方式逼近程序敏感点,实现对程序的关键执行路径快速的分析与遍历,达到了路径集合域上快速收敛到相应敏感区域的目的。最后,研究了不可达点消除、相关点精简和循环处理等路径爆炸抑制技术,减少了路径搜索冗余。本文最终设计并实现了一个二进制程序漏洞挖掘系统symFuzz,并对symFuzz进行了性能测试和对比测试,实验结果表明:symFuzz增加了敏感点的覆盖率,提高了异常数和测试用例比,并发现了swfdump和qtdump等软件中的空指针和段错误等软件缺陷,验证了本文漏洞检测方式的有效性。