第三代移动通信系统，简称3G，是指将无线通信与国际互联网等多媒体通信相结合的新一代移动通信系统。它除了传统的话音业务、数据业务、多媒体业务外，它还将提供电子商务、互联网等业务，因此，在3G系统中保证网络和业务信息的安全是很重要的。 针对3G安全体系中所用的关键技术，本论文主要做了两项工作。 第一项工作是详细研究了第三代移动通信系统(3G)中的认证密钥协商AKA协议，分析了AKA协议的安全性，在此基础上指出AKA协议几个薄弱环节，并针对薄弱环节提出了一种增强其安全性的方法。3GPP中的认证密钥协商AKA协议提供用户与网络之间的双向认证，这双向的认证通过特定的一些算法实现。通过分析，可以发现3GPPAKA协议存在的薄弱环节有两方面：其一是无法对抗伪基站的重定向攻击；其二是它的序列号机制操作存在困难性。针对以上的薄弱环节，论文提出了一种不用序列号而用网络ID的方法来增强AKA协议的功能，并分析该方法在对抗伪基站的重定向攻击方面是有效的。 第二项工作是详细研究了3G中的两个标准化算法f8和f9以及其核心算法KASUMI，分析了3GPP给出的KASUMI算法的C程序，提出了几种优化技术，并给出了优化结果，与参考程序进行了比较。KASUMI算法的软硬件的实现都可以获得较高的速度。目前KASUMI算法的硬件实现主要有两种。一种是用FPGA和ASIC实现，另一种是用DSP芯片实现。由于DSP的众多优点，所以本文提出的KASUMI算法C程序的优化方法是针对其未来在DSP芯片的移植而提出的。在用C语言进行DSP软件开发时，其代码的优化工作包括两部分：一是仿真环境中的优化，二是DSP目标环境中的进一步优化。3GPP给出了KASUMI算法的C参考程序。由于参考程序只保证其正确性，但在某种特定环境下它的性能并一定是最优的。因此，本文针对其未来在DSP芯片的移植应用的目的，提出了几个优化的方法。经过程序的测试，表明优化是有效的。论文中给出了比较的结果。