移动自组网络(MANET)作为一种新型的无线移动网络，具有易于建网、快速自组、适应性强、成本较低等优点，在军事和商业领域都有广阔的应用前景。同时，由于其无线信道的易干扰性、节点的移动性、拓扑的动态性、网络的无中心性等特点，MANET相对于固定网络，更容易受到攻击，而传统的网络安全设施不能很好地适用于移动自组网络，因而必须对MANET所特有的安全问题进行研究，建立适合MANET的安全服务体系，以保障其安全性。本文针对MANET的若干安全问题进行了深入研究，涉及范围既包括安全基础设施，如身份认证机制、安全路由协议等，也包括安全应用，如公平非抵赖的消息交换协议等。本文的主要工作包括下面几个方面：1)MANET分布式身份认证研究。由于移动自组网络不存在中心节点，传统的基于认证中心(CA)的身份认证机制不能满足需要，因此本文结合门限签名思想，提出了一种多跳步移动加密签名函数签名的分布式认证方法，其中使用移动密码学中的移动加密计算方法保证了认证私钥分量不外泄，并同时对如何发现和清除具有Byzatine行为节点以及如何防止对认证节点的循环移动攻击进行了研究。2)安全的路由协议研究。在分析和总结针对MANET的路由攻击方式基础上，提出一种基于节点身份认证的安全动态蜂窝路由协议，相对于已有的一些安全路由协议，本协议利用动态蜂窝协议的特点，减少了需要进行认证的节点数和路由报文种类，因而在保证路由安全的同时，还降低了由于安全机制而造成的对协议运行性能的损失。3)公平非抵赖协议研究(fair non-repudiation)。所谓公平非抵赖是指当通信双方的信息传送结束时，信息的发送方能够收到接收方收到此信息的证据，同时接收方也能得到发送方发送此信息的证据。由于传统的公平非抵赖协议大多需要可信第三方(TTP)的支持，因而不适应无中心节点的移动自组网络，因此本文对MANET下的公平非抵赖协议进行了研究。首先，提出了一种基于计算能力的概率型无TTP公平非抵赖协议，该协议弥补了已有概率型协议在通信双方计算能力不对等时存在的安全问题，但此协议仍然具有一定的失败概率ε。然后，根据量子密码理论中的量子单向函数和数字签名机制，提出一种基于量子可信第三方(QTTP)的公平非抵赖协议，相对于基于经典密码学的非抵赖协议，此协议可以抵御量子攻击，具有更高的安全性。最后，在前一种协议的基础上，进一步提出一种更高效的量子公平非抵赖协议，避免了消息交换过程中对QTTP的严重依赖，提高了协议的效率和可靠性，更适用于移动自组网络。