P2P系统中的用户行为分析及激励机制设计已成为近年来的研究热点。然而现有激励机制仍有许多不足之处,如BitTorrent(BT)系统中搭便车行为仍普遍存在,搭便车者仍然能获得种子的下载率;针对网络中节点之间兴趣不对称、重复交易可能性较小,难以建立互惠关系的问题,已有研究工作都是通过节点共享历史交易信息,传递互惠关系以实现激励。然而这些工作没有考虑节点兴趣聚簇的特征和借鉴BT系统中TFT策略的成功经验。本文研究目的是通过研究BT文件共享系统的搭便车行为及激励机制,改进BT系统现有激励机制。考虑节点的历史交易记录对节点在P2P网络中获得共享资源的影响,来抑制对等网络中的搭便车行为,从而改进P2P网络的性能。本文以BT文件共享系统为研究背景,采用流体数学模型分析该系统中的搭便车行为,从而为BT系统激励机制的改进提供依据。提出了基于种子带宽分配策略的BT系统激励机制的改进方案,从理论上分析了该策略可以达到纳什均衡。在BT系统TFT策略的基础上,引入了群组信任的思想,提出了基于群组的激励机制。本文设计并实现了以BT系统为背景的基于离散事件驱动的串行模拟器BTsim。同时对其进行了改进,使之能够模拟基于群组的激励机制。模拟实验显示,基于种子带宽分配策略的BT激励机制通过延长搭便车者的下载时间成功地惩罚了搭便车者,同时减少了贡献者的平均下载时间,有效的为系统提供了激励。模拟了基于群组的激励机制GIM,与已有机制RIT相比,GIM在系统可扩展性、面对节点改变ID和背叛节点粉饰场景时系统性能均优于RIT。