为了适应业务带宽、服务质量以及网络覆盖等多方面需求，以及应对各种新的宽带无线接入技术对3G系统形成的挑战，3GPP组织于2004年12月启动了无线接入网LTE(Long Term Evolution，长期演进)研究项目，以及面向全IP分组域的核心网SAE(System Architecture Evolution，系统架构演进)项目。由于移动通信信道的特殊性，信息传递是通过无线信道进行，比其他网络更容易遭受攻击，从而在制定下一代移动通信系统LTE/SAE标准的过程中，安全性是一个需要着重考虑的因素。　　 本文首先对3GPP组织最新提出的下一代移动通信系统标准LTE/SAE做了概述，主要包括无线接入网的长期演进和核心网的系统架构演进。然后根据协议详细研究了下一代移动通信系统的整体安全实现机制，主要介绍了3GPPLTE/SAE认证与密钥协商过程，非接入层的安全模式命令过程，接入层的安全模式命令过程，并结合所从事的3GPP LTE空中接口协议栈开发项目，设计并实现了无线协议栈中安全部分。接下来本文在对比分析UMTS(UniversialMobile Telecommunication System，通用移动通信系统)中认证与密钥协商协议的基础上，详细研究了下一代移动通信系统中非常关键的3GPP LTE/SAE认证与密钥协商协议，指出了该协议中已经解决的问题和仍然存在的安全缺陷，然后针对3GPP LTE/SAE仍然存在的用户身份泄露问题，认证向量易被截获，以及长期共享密钥K和不支持数据签名的问题，针对性的提出了两种改进的3GPPLTE/SAE认证与密钥协商协议，一种是基于秘密令牌机制和Diffie-Hellman算法的改进认证与密钥协商协议，另一种是基于公钥体制的改进认证与密钥协商协议。　　 最后，本文对改进的协议做了性能分析，其中基于串空间理论的协议安全性形式化证明表明改进协议可以实现协议基本的安全功能，即机密性和认证性，另外与原协议对比分析表明，在不用较大改变原3GPP LTE/SAE安全体系结构的基础上，协议一能进一步解决用户身份泄露，认证向量易被截获的问题，协议二除了解决上述两个问题外，还能更进一步解决长期共享密钥K和不支持数据签名的问题，并且两种改进协议都不会显著增加系统的性能开销，对3GPP下一代移动通信系统的安全性提高具有重要作用。