本文结合863课题建立安全组播基础设施的需求，针对IP组播目前存在的可扩展性差、安全性和可管理性差、组地址管理复杂、依赖于特定的组播基础设施等问题，重点研究了组播用户安全管理、抗源和接收方DoS攻击、跨域安全多源IP组播、分层组播抗自利型攻击以及PIM—SM协议改进与实现等关键技术。 基于本文归纳的评价参数，评价了现有IP组播模型的相关协议，总结了其不足之处。针对路由器负担过重等问题，提出了一种优化的组播用户安全管理协议；针对特定源组播用户非法接收流量以及源和接收方DoS攻击问题，提出了一种基于频道跳变的安全特定源组播通信方案。提出了一种新的轻量级自组织封闭式多源IP组播协议，为跨域安全可扩展IP组播提供了一种新的模型与协议。针对分层组播协议存在的自利型攻击问题，提出了一种安全分层组播协议，设计了基于拥塞状态的访问控制算法。针对PIM-SM协议从共享树到源树切换时的丢包问题，提出了一种在IPv6环境下的PIM-SM改进协议；为实现10G组播限速转发引擎完全自主研发的目标，给出了一种PIM-SM分布式设计与实现方法。 仿真实验和比较分析表明，本文提出的协议和方案简单、可行、易于实现，在可扩展性、安全性、支持逐步部署、组地址管理分配等方面具有独特的优势。