P2P网络的“分散、半可信和动态性”使传统公钥基础设施(PKI)的证书管理困难和基于身份公钥密码体制(ID-PKC)的密钥托管问题特别突出,因此P2P网络的安全问题成为公认的难题。在2003年的亚洲密码会议上,Al-Riyami和Pertcrson提出了一种新的公钥密码体制----无证书公钥密码体制(CL-PKC)。CL-PKC既无证书管理问题,又无密钥托管问题,效率比PKI高,而安全性比ID-PKC强,非常适用于P2P网络。　　 本文开展了CL-PKC在P2P网络中的应用研究,通过对密钥的分布式生成和密钥的可跨域协商等问题的研究,突破了CL-PKC在P2P网络中的应用瓶颈。主要内容包括：⑴针对P2P网络的特点,提出了一种无证书的可验证分布式密钥生成方案,并分析了方案的动态性和安全性。方案通过引入门限密钥共享思想,合理分配超级节点于不同的权限,可指认出恶意的密钥生成中心(KGC)服务节点,并当有新KGC节点加入、KGC节点退出或变节时,系统能够提供安全高效的更新机制,保障了系统的安全性和可靠性。⑵研究分析现有的无证书两方密钥协商协议的不足,提出了一种无证书的可跨域的认证密钥协商协议,并分析了协议的安全性和计算性能。分析表明协议具有高效、可跨域和可认证的性能,并满足所有的安全属性,更加适用于混合P2P网络。⑶对提出的新方案及一些主流的密钥协商协议进行具体设计和实现,验证新方案的正确性,并比较分析了协议的计算效率。⑷通过引用无证书公钥密码体制,为解决P2P网络安全问题进行了一次积极地探索,同时也丰富和发展无证书公钥密码体制的理论及应用领域。