随着主机性能的不断提升和网络带宽的快速增长，互联网涌现出一系列新的分布式应用成果。对等网络(Peer-to-Peer，简称P2P)无疑是21世纪初发展最为迅猛、使用最为广泛的互联网应用之一。不同于传统Client/Server模型，P2P秉承互联网发展初期的设计理念，充分利用位于网络边缘的大量计算、存储和带宽等资源，形成规模巨大、扩展性良好的覆盖网络，并为其上的用户提供优质的服务。P2P高效、经济、高扩展性的优点吸引了众多企业和用户的目光，也成为学术界关注的焦点。然而，不当的设计和必要安全机制的缺乏，造成了P2P网络与信息安全事件频发，制约了P2P网络应用的进一步推广。此外，由于庞大的网络规模使得人们缺乏对P2P网络的深刻理解和全面认识，难以对P2P系统进行直接的评价和改进。本文的研究着重于通过网络测量的方法刻画P2P网络的行为并优化P2P系统。本文首先系统地介绍了P2P网络的概念、特点、结构以及分类，并详细总结了当前P2P网络测量的研究现状和面临的主要安全问题。然后本文以行为研究为脉络，以典型的P2P文件共享系统为目标，分别从宏观系统行为、外部流量行为、内部路由行为和主要攻击行为四个角度研究当前主流P2P网络，并针对性地提出了改进P2P系统的方法和建议。随着P2P网络及其技术的不断发展，网络整体行为逐渐发生着变化，现有测量方法已无法适应当前系统，测量方法的效率和完整性均有待提高。由于BitTorrent系统是一种典型的混杂网络，构成复杂，组件分散在多个网络，其研究能够为其他P2P系统测量工作提供指导。为此，本文提出了一个高效的BitTorrent测量系统，涵盖了种子采集、共享节点探测、文件片断收集、被动收集等多项功能。在此基础上，本文对BitTorrent系统进行了长期观测，实际测量了其内容、核心组件、节点和文件片断等系统行为特性，并指出其潜在的性能瓶颈和影响因素。此外，本文改进了节点到达模型，增加日周期性的描述，并考察了不同流行度资源间的特性差异。宏观系统行为体现的是所有参与节点的群体行为特性，个体行为特征需要更加细微的观察与测量。单个节点的外部行为研究则为了解内在运行机制提供了最为直接的途径。为了考察P2P节点的外部行为，本文立足于研究P2P网络的一种典型流量—DHT(Distributed Hash Tables)网络流量，发现其外在的行为模式。为此，本文提出了基于复合行为的DHT流量识别方法，刻画了DHT网络异于传统网络的流量行为模式，能够帮助间接识别P2P主机。该方法通过分析DHT内在固有机制，充分利用DHT节点的路由特性，提取出多种行为模式(自举行为、路由行为、多样行为和短会话行为)。实验表明，该方法能够较好地分辨P2P主机。外部行为是内部机制的体现，内部机制的研究与改进能够直接优化P2P网络性能。为此，本文研究了DHT路由表性能，并在此基础上通过优化路由表结构以及改进路由表更新算法提高其性能。为了评估路由表性能，本文研究了影响路由表规模、增长幅度和扰动程度的主要因素，并考察了核心运行参数(自查询间隔、消息超时和查询并行度)对路由表性能的影响。在此基础上，本文分析了路由表K桶结构以及更新算法，提出了容量可变的K桶和基于K桶分散度的更新算法。实验结果表明改进后的客户端路由性能更好。攻击行为的研究有利于提高P2P系统的安全性，同时也有效地保证了其上用户的共享效率。为了加强P2P安全防护，本文研究了BitTorrent系统常见的攻击行为，剖析了典型攻击的攻击原理。在此基础上，本文进一步量化了Leechers攻击行为并讨论了影响Leechers攻击的主要因素，并指出了通过限制恶意节点资源或提高正常节点资源的方法能够有效地抵御此类攻击的影响。通过广域网实验看出，当前BitTorrent系统容易受到攻击行为的影响，也验证了防护策略的可行性。总体而言，本文对P2P网络行为进行系统的研究，深入地分析了影响P2P网络性能的因素及安全威胁，提出的技术和方法能够有效提高P2P网络的性能和安全性，并对未来P2P网络研究的开展具有指导意义。