无线自组织网络由于没有固定网络基本设施,具有组网灵活、移动性好等优点,在军事、交通、救援等多种场合有很好应用前景,然而,其所具备的特性增加了安全防御的难度。虽然,适用于无线自组织网络的传统安全技术取得一定进展,但仅依赖传统安全技术难以为无线自组织网络提供完整安全解决方案。信任系统因其在安全性分析与设计、指导决策等方面的重要作用成为无线自组织网络建立预安全重要手段。信任系统在为无线自组织网络提供安全保护的同时,也成为恶意攻击的目标。本文在全面分析了针对信任系统的特有攻击行为以及适于无线自组织网络具备一定抵御能力的信任系统能力的基础之上,对如何有效抵御这些特有攻击行为,如何防御信任信息共享过程中的节点自私行为,从而保证信任系统信任评价的准确性正确性和稳定性进行了研究；也对扩展信任系统在无线自组织网络的可靠路由方面的应用进行了研究。其主要贡献如下：1)推荐信任度修正机制。本文提出了基于贝叶斯决策理论推荐修正机制的信任模型,该修正机制使用贝塔分布描述推荐偏差度的分布情况,根据其后验分布遵循损失最小化原则,达到修正对该推荐信息信任度的目的,进而减少错误推荐信息对信任评价结果的影响。为了弥补无线组织网络信任系统信息获取方式局限性,提高修正机制可实施性,针对评价报文转发行为的问题,提出一种基于确认的从非邻居节点获取直接信息的方法。该修正机制加速了信任评估达到稳定状态,使得信任系统在面临错误推荐攻击、偏见式攻击以及多种攻击联合攻击时,仍保持良好的评估准确、正确性与稳定性。2)间接推荐激励机制。无线自组织网络中的信任系统易遭受拒绝共享信任信息自私行为的影响,并且无法依赖信任系统本身来确保信任推荐协作实施。为了激励所有节点都积极参与信任信息共享,提高对间接推荐请求响应率,本文采用重复概率博弈模型抽象信任信息共享行为,针对信任推荐服务提出激励策略实施方案,并分析比较其均衡边界条件以及各参数对提升协作性和达到均衡条件的影响。分析与仿真表明GTFT策略具有灵活的参数调节机制,在高突发间接推荐自私行为情况下,具有很强协作恢复能力,能有效提高对有效推荐率,进而保证信任系统评估正确性与稳定性。3)基于信任系统的移动自组织网络可靠路由。本文分析了移动自组织网络路由协议可靠性问题以及现有可靠路由算法局限性,在DSR协议基础上,提出了具有激励机制的局部信任系统的可靠路由协议TR-DSR,该协议提供GTFT策略实现方案。TR-DSR协议选择路由时,综合考虑路由上各节点和各链路可靠信任度,并在路由建立过程中利用这些信息,确保找到可靠路由基础上,降低寻路开销。仿真实验表明,与DSR-EXT、DSR协议相比,该协议在减少移动以及链路质量不稳定造成的路由不可靠的同时,也能缓解节点自私行为和拥塞对路由稳定性的影响。