随着因特网在全世界内的迅猛发展,网络安全问题日益突出。IPSec协议正是解决网络通信安全的一个可行的方案。高级加密标准(AES)是一种优于数据加密标准(DES)的分组算法,它提供了更为安全的加密保护。同时,人们提出了新算法模式,这些模式适用于不同的协议,完成不同的服务功能,为通信双方的协商提供了更多的选择。若将这些新颖的模式应用到实际通信中就会充分发挥它们各自的特点,满足多种情况下对通信的完整性和保密性方面的需求。本文的研究全部是基于迈普通信技术股份有限公司的路由器来开展的,所取得的主要成果如下:首先分析了CMAC、XCBC、CTR、CCM等几种基于分组密码AES的算法模式,掌握了它们各自的特点,根据它们的操作流程设计并完成了代码的编写,添加到算法库中。然后设计了在IPSec协议主模式协商中添加协商伪随机函数功能的解决方案,并编码实现。针对各个算法模式的特点和适用协议,重新修改了IPSec协商中的报文发送和接收处理流程,完成了这些新增算法模式的应用。最后通过系统测试,验证了通信双方采用了新功能和新算法模式的IPSec协议可以正确地完成协商,建立起安全隧道,并且可以正常通信。通过性能测试说明了,在新增算法模式保护下,通信的吞吐率性能没有太大的下降,可以完全应用到市场产品中。