随着科技的不断进步以及互联网技术的不断发展,软件系统的数量及规模在不断的壮大,保证软件系统的质量是亟待解决的问题。模糊测试技术作为当前软件工程领域用于挖掘软件漏洞的有效方式之一,其在发现软件潜在漏洞方面有着非常显著的效果。模糊测试工具AFL作为当前模糊测试领域最具有代表性的工具之一,其已帮助软件开发者发现了众多软件项目的潜在安全漏洞。同时,AFL也是目前最具有研究价值的工具之一。尽管AFL具有突出的优点,但是仍然存在两个缺点。第一,AFL采用随机的方式选择测试用例的变异位置,降低了其生成测试用例的质量及有效性,可能会导致大量冗余的测试用例生成;第二,AFL采用随机的方式选择测试用例的变异算子,降低了其所生成测试用例的代码覆盖率,导致难以发现深层次的软件漏洞。因此,针对上述模糊测试工具AFL存在的两个缺点,本文提出两种方法。第一,本文提出使用神经网络模型改进AFL对测试用例的变异位置选择。该方法的主要思想是先收集一定数量的测试用例作为训练样本,将其在原始AFL工具中执行;然后,对执行后的数据集进行筛选得到训练模型所需要的数据集;最后,根据得到的训练数据训练神经网络,从而通过神经网络预测最佳的测试用例变异位置,提高生成测试用例的质量及有效性。第二,本文提出一种基于探索-利用模型的变异算子选择方法。该方法通过初始化每个位置下的每种变异算子的回报概率,然后不断探索执行来更新每种变异算子的变异概率值,最终选择回报概率最大的变异算子进行变异,从而生成能有效提高待测软件的代码覆盖率的测试用例,发现深层次的软件漏洞。为验证本文所提方法的有效性,本论文选择readelf、readpng、mupdf以及libxml四种输入文件格式,对比仅针对变异位置的选择进行优化、仅针对变异算子的选择进行优化、以及两者均进行优化情况下各自在输入增益、崩溃数量以及代码覆盖率三个方面的表现情况。实验结果表明,本文所提方法有助于提高生成测试用例的质量及有效性,从而提高待测软件的代码覆盖率,更有效地发现软件漏洞。