P2P网络(Peer-to-Peer Network)具有自组织和分布式的特点，能够充分利用每个节点的个体资源，对信息进行发布和查找，从而实现资源的有效共享，提高资源的利用率。但由于节点参与的随意性和自发性，以及在无中心服务器控制的分布式系统中缺少集中的管理机制，导致P2P网络在可用性和安全性方面仍然存在需要亟待解决的问题。本文就影响服务有效性的三个方面(信任机制、拓扑稳定性、公平性激励)和安全性管理中的分布式组密钥协商展开深入研究和探讨。论文主要贡献如下：论文针对如何在结构化P2P网络中建立信任机制，以及如何激励用户提供可信的服务展开研究，提出了一种适用于结构化P2P网络的基于服务反馈机制的信任模型TMS~2F(Trust Model in Structured P2P Network Based on Service Feedback)。模型结合考虑了信任机制和公平性激励机制，提出了节点信誉度的概念，模型在有效维护节点可信度的基础上还能够激励节点提供可信的服务。区别于已有方案，在具体实现上TMS~2F模型还具有以下特点：(1)以结构化网络为底层平台，对节点间的反馈信息采用分布式和基于Hash链的维护策略，能够保证信息维护安全、有效和不可篡改；(2)在信誉度的计算上不采用复杂的迭代运算，能够节省计算开销，具有较强的工程可实现性；(3)模型只维护基准时间内的反馈信息，并对基准时间内不同时间子间隔的反馈信息进行衰减加权，服务数量和反馈信息来自的节点的信誉度也反应在节点信誉度的计算公式中，这些做法能够及时有效地反映节点的贡献，符合P2P网络中节点间交易的实际需要。论文针对结构化P2P网络中由于节点频繁加入退出形成Churn(扰动)现象(高动态性)提出简单易行的节点分步加入方案，并给出了在Chord协议上的具体实现(Fractional Steps Joining Chord，FS-Chord)。结构化P2P采用DHT的方式构建Overlay层拓扑结构，但在有节点加入、退出频繁的高动态性环境下，Overlay拓扑的维护具有极大的通信开销和处理开销。同时高动态性还会引起存储信息的丢失，导致系统信息的不一致和不可用。节点分步加入方案将节点的加入过程分为两个步骤，节点首先成为自由节点，不参与维护系统拓扑和索引信息。在一定的时间间隔之后，该节点作为完全节点参与到系统中。方案有效降低了原有结构化P2P系统节点频繁地加入退出所产生的维护开销，并且对于信息查询的有效性也有所增强。最后的仿真表明，FS-Chord能够降低高动态性网络环境下的维护开销以及减少系统维护信息和索引信息的丢失几率，保证系统的可用性。模型所描述方法应用于国家下一代互联网基金(CNGI)项目“基于IPv6的P2P弹性重叠网络智能节点的研制”(CNGI-04-12-1D)中，取得良好的效果。论文针对组文件共享应用提出了一种基于博弈论基本模型HDG(Hawk-Dove Game)的用户激励协议SIP2HIP(A New Smooth Incentive Protocol Based on 2 Hops InformationSharing)，协议用利他度(Altruism Degree)来表征节点的贡献，在文件共享组中采用两跳信息共享的方式实现平滑激励。与已有协议相比，SIP2HIP主要有以下两点创新：(1)协议改变了由消费节点向提供带宽服务节点请求的通常做法，由服务节点从共享组中按照一定的方式选择消费节点，从而使得协议符合HDG博弈论基本模型；(2)提出了一种有效的基于加权思想的带宽分配方案STPF进行带宽分配，一方面能够优先为利他度高的节点提供带宽，另外一方面优先满足带宽需求少的节点，从而提高了系统整体满意度。仿真表明SIP2HIP协议与最新提出的Bittorrent激励方案—量化的Tit-for-Tat以及之前提出的原始的Tit-for-Tat相比，更加能够激励节点贡献带宽，促进系统整体性能的提高。随着P2P网络技术的发展，基于P2P网络构建应用层组播以及单纯的组应用越来越广泛，用户可以在共同兴趣的基础上基于相互信任构建应用组。进一步地，如何保证组应用的安全性是一个重要的研究领域。组安全保证就是使用组中所有用户所知的组密钥对会话进行加密，但为了保证前向安全性和后向安全性，在组中有用户加入和退出的时候，必须对这个组密钥进行更新。已有的有可信第三方节点和集中式组密钥协商方案都不适合于基于P2P的组应用，因此有了分布式组密钥协商思想的提出。分布式组密钥协商方案的一个重要考虑是需要控制组密钥更新过程中的开销。论文在已有的分布式组密钥协商方案IBD的基础上提出了基于“类树”结构的层次化的IBD方案(Hierarchical IBD，H-IBD)，在保证有效性和安全性的前提下，比原有方案显著降低了密钥更新过程中的计算开销和通信开销；本文还第一次将P2P网络应用中节点的平均在线时间规律应用到密钥树结构的设计中，提出了KAP-AOT方案(Key Agreement Protocol Based on considering Nodes’Average Online Time)。分析表明该方案能够有效控制组密钥更新过程中的计算开销，适用于大规模的动态性的P2P组应用。