近年来，对等网络系统已经得到广泛的应用和发展。同时也看到，随着对等网络系统应用领域的不断扩展和网络技术的不断进步，在越来越多的对等网络系统中，日益呈现用户数量的急剧上升、网络拓扑结构的日益多样化等趋势，从而对等网络系统越来越向复杂化的方向发展，并出现了具有上述复杂特性的复杂对等网络系统。面对这种情形，现有的传统对等网络系统中包含的设计思想、实现方法和关键技术等都面临着严峻的挑战，并且在复杂对等网络系统中呈现的开放性、对等性、自主性和随意性等特点更加明显，从而导致复杂对等网络系统中的安全问题也日益突出。可以看出，如何对复杂对等网络系统中的安全机制进行设计和研究，既是复杂对等网络系统中面临的难点问题，也是复杂对等网络系统中急需解决的热点问题。鉴于此，本文在阅读大量现有对等网络理论和安全机制理论等相关文献的基础上，对复杂对等网络系统中存在的安全问题进行了深入的分析和研究，并且提出了有效的解决方案。本文主要的研究内容，包括以下三个方面：1．研究了如何建立复杂对等网络系统中节点间的信任关系，并重点研究了如何使用信誉值的方法对节点的信任度进行全面评估。具体来说，分析了目前对等网络系统中使用的信任机制存在的不足和缺陷，并给出存在的突破口和解决途径；同时，基于主观逻辑模型中包含的事实空间和概念空间等理论知识，对节点信誉值的评估要素做出分析，并从直接信任评估和间接信任评估两个角度着手，得出节点的直接信誉值和间接信誉值的计算方法，从而提出一种基于全局信誉值评估的信任机制。2．研究了如何实现复杂对等网络系统中节点间的匿名通信过程。为了建立复杂对等网络系统中节点间的匿名、高效、安全的通信关系，设计了两种匿名机制优化方案。第一种方案主要是基于假名变换的手段，实现节点间的匿名通信，并与现有的匿名机制进行比较，给出了相应的性能分析；第二个方案主要是基于盲签名的手段，设计的一种优化匿名算法，并对该匿名机制进行了性能分析。3．基于复杂网络理论，研究了如何对受到攻击并被破坏的复杂对等网络系统进行网络性能恢复的问题，并提出相应的安全机制。具体来说，首先，利用复杂网络理论，对复杂对等网络系统的特征参数进行了分析和研究；其次，从如何恢复复杂对等网络系统的幂律特性、如何恢复复杂对等网络系统的高度值的节点和如何恢复复杂对等网络系统的网络连通性三个角度进行了研究，并在此基础上，提出一种基于复杂网络理论的抗攻击模型。本文创新性的工作，描述如下：1．在复杂对等网络系统中节点间建立信任关系方面，本文设计了一种基于全局信誉值评估的信任机制。该评估机制基于节点间信誉值传递和信誉值的门阀判决等设计要素，从直接信誉值评估和间接信誉值评估两个角度，对节点的信誉值进行了全面和综合的评估。仿真实验结果表明，与现有的归一化评估机制和非归一化评估机制相比，本文提出的基于全局信誉值评估的信任机制，在评价成功率和评估节点的成功数量方面，明显优于现有的两个信任评估机制。因此本文提出的基于全局信誉值评估的信任机制，具有一定的合理性。2．在复杂对等网络系统中节点间建立匿名通信关系方面，本文提出了两种匿名机制方案。在第一种匿名机制方案中，基于假名变换的思想，将节点的动态假名与对应的唯一宏观值进行绑定，从而保证了节点间通信身份信息的隐藏，实现了节点间的匿名通信；在第二种匿名机制方案中，基于盲签名算法的理论，从匿名度和运算代价两个方面进行了匿名机制的设计，并利用可信的第三方的盲签名过程，保证了节点间通信身份信息的隐藏，从而实现了节点间的匿名通信。3．在分析复杂对等网络系统的网络特性方面，本文基于复杂网络理论，从节点度分布和节点间的最短路径两个角度，对复杂对等网络系统的特征参数进行了分析。仿真结果显示，基于无标度网络模型设计的节点度计算方法，能准确描述复杂对等网络系统中节点度分布的特征；另外根据本文提出的节点间最短路径的计算方法，得到的理论结果和实际仿真结果基本一致。4．在复杂对等网络系统受到攻击后如何进行恢复方面，本文基于复杂网络理论，提出了一种抗攻击的模型。对于一个具有复杂特性的复杂对等网络系统而言，系统呈现的网络幂律特性、系统中存在的高度值节点、系统中节点间的网络连通性，是维持系统中节点间正常通信和传输功能的三个方面。本文从这三个方面出发，设计了相应的恢复机制和算法，从而保证复杂对等网络系统具有一定的抗恶意节点攻击的能力。仿真结果显示，本文提出的基于复杂网络理论的抗攻击模型，能使被恶意节点攻击的复杂对等网络系统，得到相应的恢复和补偿，从而具有一定的抗攻击和抗毁坏的能力。