近年来,随着通信的飞速发展,作为专用移动通信系统的数字集群通信系统的研究也变得越来越重要了。数字集群通信系统主要用于公安,政府机关,军队和国家安全部门等,它们要在系统中传输大量的机密信息,对通信的保密性要求很高。因此,数字集群通信系统的安全性建设,是整个系统工程建设中一个必不可少的重要组成部分,是系统能否安全运行的一个重要条件。我国发展集群通信系统起步晚,现有的数字集群系统差不多都是引进国外的,而这些系统中的加密算法大部分是保密的,在使用时并不清楚其保密性能是否完善。所以数字集群通信系统加密机制的研究,对于我国数字集群通信系统的构建和完善具有极其重要的意义。本课题主要研究的内容是数字集群通信系统加密机制的研究,首先介绍了数字集群通信系统的安全保密机制,讲述了单向和双向鉴权的过程、单呼和群呼的空中接口加密过程及其密钥的选用和管理,特别介绍了端到端加密;然后介绍了几种常用的加密算法,通过分析其优劣,提出了端到端加密的解决方案;最后完成了基于RSA算法和IDEA算法的数字集群通信系统加密方案的设计,其具体过程为将经过数字信号送入加密器里,和以IDEA加密算法为基础设计的密码流发生器(KSG)产生的密码序列进行加解密运算,并且研究了此加密过程的密码同步问题。其中系统中传输的IDEA加密密钥是经过RSA算法加密的,为得到较快的加解密速度,本文还对RSA算法中的基本算法进行了深层次的优化,大大提高了RSA算法实际应用时的运行速度和执行效率。论文通过对加密算法、数字集群通信系统加密机制的研究所得到的设计思想和程序实现方法,对于解决数字集群通信系统中存在的安全问题有着广阔的应用前景。