由于存在可扩展性差、管理难等问题，IP可靠组播一直没在Internet上得到广泛的部署。而应用层组播基于重叠网(OverlayNetworks)之上构建，使用单播实现组播功能，成为解决可靠的多方通信的新途径。与IP可靠组播相比，应用层组播减少了源端负载，而且不存在重复恢复和反馈风暴这两个问题。但是应用层的拓扑结构必须根据网络环境的改变而不断的进行优化，而且会出现成员离开，异常，链路失效等等现象，这些因素是影响应用层组播可靠性的主要原因。基于以上的分析本文提出了基于SHM(ScalableHybridMulticast)的数据可靠传输算法RSHM(Reliable-SHM)，具体包括：分层局部的差错控制方法HLEC(HierarchicalandLocalErrorControl)，分层的数据命名方法HDN(HierarchicalDataNaming)，以及应用层组播拥塞控制算法MCC(MulticastCongestionControl)。RSHM成员之间采用TCP进行连接保证了数据点到点的可靠，同时HLEC采用逐级反馈的分层局部恢复差错控制方法，结合NAK避免和周期性轮询方式，并且在应用层采取分层的数据命名HDN，保证了由于应用层组播成员退出或者异常时丢失的数据能及时恢复。为了使成员节点能适应不同子节点的接收速率，算法MCC在应用层设置缓冲区缓解单速率拥塞控制情况下吞吐率降低的现象，降低了源端的负载，并且有效的避免了网络拥塞造成的缓冲区溢出的问题。本文使用模拟仿真工具OPNET对算法进行了仿真，对其性能参数吞吐率和恢复延时进行了实验和分析，实验结果表明，在组成员数目少的情况下与ALMI(ApplicationLayerMulticastInfrastructure)相比降低了平均恢复延迟。当组成员数目很多情况下，平均恢复延时与ALMI相比没有优势。但是由于应用层缓冲区的设置，多速率的拥塞控制方法，使得RSHM的吞吐率与ALMI相比有明显的增加。