作为软件质量的保障之一,软件测试在软件开发中扮演着至关重要的角色。人工测试造成了软件开发中的大量的成本和时间开销。同时,自动化测试过程中测试数据的优劣对测试的效率与效果影响极大。因此,对测试数据生成的研究有着巨大意义。测试数据生成问题是典型的软件工程问题,而将软件工程问题转化成搜索问题往往可以得到比较优的解。遗传算法在寻找最优解的问题上有其独到的优点。可以使用遗传算法对测试数据进行搜索生成,通过对源程序的输入进行编码并产生个体,在遗传操作过程中,利用适应度函数来进化种群,最终可以得到目标测试数据。然而输入参数往往是多个,对每个参数进行编码会影响算法的效率,因此可以通过级联编码的方式进行个体的生成。在目标路径上,对源代码进行插桩,得到分支函数并以此构造适应度函数。但是遗传算法也有其缺点,迭代速度过快往往会陷入局部解,将退火过程加入到交叉和变异操作中,增大次优解的存活率,从而有助于的跳出局部解。变异操作后通过禁忌搜索可以有效的减少迂回搜索过程,增大种群的多样性,从而加快种群的迭代过程。由此,可以使用优化后的混合禁忌退火遗传算法进行测试数据的产生。建立混合禁忌退火遗传算法模型,对典型的三角形分类问题进行路径测试,通过对操作过程中参数的单一控制,对算法进行了优化。将优化后的混合算法同优化前传统算法相比较,混合算法在测试数据产生的效率上有了很大的提高。将混合算法同经典研究以及近些年热门研究做对比,混合算法在测试数据生成效果上以及迭代时间上也有很大的优势。