当前信息化发展迅速,人们对网络的需求标准也随之提高。现有的4G网络已经不能满足人们的需求。5G网络成为当前全球研究的热点,其中,超密集异构网络是5G网络的关键技术之一。异构密码环境下密码方案的分析与设计已成为5G异构网络研究的迫切需求。签密是同时实现保密和认证通信的高效密码技术,用于同时解决消息的保密和认证问题,而且计算量和通信成本低,逐渐成为保障信息安全的核心技术。现有的签密方案大多基于同一种密码环境,即同构密码环境。针对5G异构网络的多种通信模式和数据隐私保护需求,需要研究和设计适于异构密码环境的数据隐私保护密码方案。5G异构网络环境中,为了保证传统公钥密码(TPKI)和无证书公钥密码(CLPKC)异构密码环境下消息的机密性和认证性,本论文进行了以下三部分研究:⑴分析了一个双向异构签密方案的安全性并进行了改进。论文分析了2016年刘等人提出的TPKI-CLPKC双向异构签密方案的安全性,指出方案存在第2类敌手攻击,剖析了第2类敌手攻击的原因,最后对方案进行改进。改进方案克服了原方案存在的不足。⑵设计了传统公钥密码到无证书公钥密码的异构聚合签密方案。为了提高多发送者的验证效率,需要聚合签密。论文首先定义了传统公钥密码到无证书公钥密码异构聚合签密方案的形式化定义以及安全模型,其次提出了一个可证安全的TPKI-CLPKC异构聚合签密方案。在随机预言模型(ROM)下,证明方案满足机密性和不可伪造性。方案聚合验证时不需要双线性对,具有较高的效率。⑶设计了传统公钥密码到无证书公钥密码的异构混合签密方案。混合签密能够处理长度没有限制的消息,加密速度快。论文将异构签密和混合签密的概念结合,提出了一个可证安全的TPKI-CLPKC异构混合签密方案。方案能够处理TPKI-CLPKC异构环境下任意长度的消息,运算效率高。