网络安全问题伴随信息技术发展和深度应用越来越突显其重要性。预防、防护网络安全技术研究是解决其必然。渗透测试作为检测和预防网络安全的一种技术手段,能够较直接的发现出目标系统存在的漏洞等脆弱点。与传统的手工渗透测试相对比,提高渗透测试的扫描技术的扫描效率和实现攻击载荷的自主选择能够减少人工的投入,在精力和成本上得到优化。因此,对渗透测试的某一环节进行优化是未来网络安全技术领域的研究方向之一。本课题的目标是对渗透测试进行优化,提高扫描效率实现攻击载荷自主选择。因此本文从两个方面去研究:一个是从攻击载荷的选择方面,一个是从扫描技术方面。然后设计一个渗透测试智能系统对以上两点研究验证,并将验证的结果与传统的渗透测试进行对比,证明研究的特性。对于这两个方面研究,本文的主要工作有:（1）通过研究传统的蚁群算法,针对渗透测试环境下的特点对算法进行优化,设计出了优化的蚁群算法。此算法是为了缓解在进行渗透测试时对算法性能和路径寻优产生影响,我们对启发函数和信息素更新方式进行了改进。启发函数的改进是引入计算资源的计算因子和负载均衡调节因子两个变量;信息素的改进是采用当前最优路径与当前迭代最优路径的比值作为信息素更新的量。然后进行仿真实验,并与传统的蚁群算法进行对比。结果证明本课题改进的蚁群算法达到了预期。（2）通过研究决策机制。首先给出了决策机制的数学模型,并进一步地将决策机制应用到扫描技术上,在任务的表述、任务的划分、节点的选择等方面对扫描技术进行了研究。当下达扫描任务时利用决策机制任务划分原理对复杂任务进行划分,然后利用节点选择模块对划分好的任务进行分配。然后通过任务执行收集信息,根据收集到的信息进行渗透攻击。将决策理论加入到扫描模块中,提高了扫描的效率和灵活性。（3）设计渗透测试智能系统。将该系统集成在Metasploit平台上,包含如下模块:系统扫描模块和渗透攻击模块。扫描模块包含决策模块外还设置有探寻主机模块、漏洞扫描模块等子模块,决策模块是扫描模块的总控制模块,其设置有任务表述、任务划分、节点选择功能,能够有效的对扫描任务的分发控制。渗透攻击模块是将改进的蚁群算法加入到渗透攻击模块中,在渗透测试中可以利用蚁群算法的寻优特点来择优选择攻击载荷,从而摆脱经验选择的问题,减少人工成本。（4）采用设计好的渗透测试智能系统进行渗透测试,将测试得到的结果与传统的渗透测试进行比较。比较的结果证明了优化的渗透测试相对于传统的渗透测试,在扫描效率上有了提高,并且在得到漏洞信息后实现了攻击载荷的自动选择。达到了实验前的预期。