IEEE 802.16无线城域作为未来无线接入技术的重要发展方向，备受各界广泛关注。然而，安全问题一直制约着其进一步的推广与发展。本论文在前人研究的基础上，探讨了IEEE 802.16无线城域网包括密钥管理(PKM)协议、加密算法和认证体系等在内的整体安全机制，剖析了其安全协议的工作原理与设计思想，指出了其设计中存在的不足和可能存在的攻击，进而对安全协议做了相应的改进。 本文利用BAN逻辑对IEEE 802.16的PKM协议进行的形式化分析表明协议中存在单向认证的漏洞。即，基站对用户站进行身份认证，但用户站对基站没有进行身份认证，攻击者可能利用中间人攻击手段对此进行攻击。为此，本文引入双向认证机制，对此进行了相应的完善。在引入双向认证的同时，论文提出由基站和用户站双方共同产生授权密钥的方案，从而改变了单纯由基站一方产生、分发授权密钥的方式，提高了系统的安全性能。 PGP信任模型是一个分布式的信任模型，此模型中每个用户既是证书的拥有者也是证书的签发者，用户之间通过相互签名最终组成一张信任网。本论文在借鉴PGP信任模型的同时，拓广PGP的信任策略，在此基础之上，利用PGP信任模型修正了Mesh模式中节点之间的信任关系及建立连接过程，分析表明新的认证机制要比原机制优越许多。