无线Ad Hoc网络是一种无线多跳的、无固定基础设施的移动对等网络。它由一组移动终端临时组成，具有多跳路由、动态拓扑、自组织等特性。组播是一种介于单播和广播之间的、一对多的分组传输方式，是无线Ad Hoc网络中一种重要的通信方式。可行和有效的组密钥管理机制是保证组通信安全的重要前提。当组成员发生变动时，为保证前向和后向安全性，必须更新组密钥。如何安全、高效地完成组密钥更新是组密钥管理中的核心问题。 本文首先介绍了无线Ad Hoc网络的概念、特点、应用和安全需求，以及组播通信和组密钥管理研究的相关问题。其次，介绍了组密钥更新方案的研究现状，并详细分析了集中式、分布式、分层式三类组密钥更新方案。再次，发现了三个基于多项式的组密钥更新方案中存在的安全漏洞，提出了有效的攻击方法及相关的改进建议。最后，本文提出了一种新的基于多项式的组密钥更新方案，该方案避免了前面同类方案中存在的安全漏洞。安全和性能分析结果表明，新方案保证了前向和后向安全性，且较同类方案具有更好的扩展性。