IP组播,特别是分层组播,是一种广受重视的网络技术,为群组应用提供了高效的传输机制。在一对多和多对多的网络通信中,组播技术可以有效地节省网络带宽。但是目前组播并没有得到广泛应用,其中一部分原因是组播技术在保持简单性和开放性的同时缺少必要的安全机制,用户可以随意地加入组播组和随意地向组播组发送信息。为此,有必要设计一种适用于组播的安全机制。本文针对分层组播存在的安全问题,以保证分层组播的数据完整性、数据机密性、数据源认证性三方面为目标,从发送方和接收方访问控制、组密钥管理、组播源认证三方面着手,设计和实现一套分层组播的安全机制。访问控制方面：在网络环境中安装组播管理服务器,发送方和接收方必须先通过服务器的授权认证。在路由器上安装组播报文过滤器组件,阻挡非法发送方的组播报文。扩展MLD协议和PIM-SM协议,分别用于阻止非法接收方加入组播组和非可信路由器加入组播树。组密钥管理方面：由于分层组播中的接收主机收到的数据流并不相同,设计一种多层组密钥结构,在保护组播报文内容的同时,令订阅较低报文层数的成员无法解析较高层报文。针对规模和跨域的问题,采用分层分组式的结构模式,不同域内组密钥不同,更新组密钥时只需更新本域内的组密钥。域间部分采用跨域密钥来保证数据安全。设计一种基于离散对数的单向多陷门函数,用于减小更新组密钥时的计算量和通信量。组播源认证方面：根据累积型分层组播报文之间存在的依赖关系,在报文间构造Hash校验树。不仅可以对所有组播报文快速进行源认证,而且还能尽早地把已无实际意义的数据包检测出并丢弃。此外,对组密钥管理与组播源认证的同时使用进行协调。为检验设计方案的可行性、安全性及各部分的性能,按照以上设计,实现了一个安全视频分层组播系统,并对实验结果做了安全分析和性能分析。