制约无线通信技术应用和发展的无线频谱资源紧缺问题是亟待解决的难点问题,主要表现为：(1)需求量大造成的频谱资源短缺；(2)不合理分配造成的频谱资源浪费；(3)算法效率和算法复杂度之间的矛盾难以调和,导致频谱资源利用效率低下。缓解资源紧缺问题的有效途径就是提高频谱资源的利用效率,然而目前高效率的频谱资源优化算法多为集中式的,需要知道大量的信道信息,计算量大,复杂度高,而分布式的频谱资源优化算法往往效率较低。针对这一问题,本文研究了多用户无线网络系统频谱资源自优化问题,目标是找到适应于非合作分布式干扰信道的更加简单和高效的功率分配办法。通过无需帮助和协作的方式竞争资源,正成为频谱资源利用发展的方向。自优化的方法就是在没有中心节点帮助,缺少用户之间相互协作的条件下,用户仅通过测量观察自己信道状态,就能够预测系统中其它用户将来可能采取的行动,由单个用户对各自通信速率的优化达到提高系统整体效率的目的。在分布式网络用户难以获得所有的信道信息的情况下,自优化的方法是进行频谱资源分配的重要手段,具有重要的理论意义和实际的应用价值。论文主要创新性工作如下：1.研究了适合于解决资源优化问题的纳什博弈模型和斯塔克伯格博弈模型,提出了基于认知的纳什博弈新模型,通过赋予用户认知预测的能力,解决了传统纳什博弈效率低下和斯塔克伯格博弈计算复杂的问题,继承了传统纳什博弈结构简单和斯塔克伯格博弈效率高的优点,为频谱资源优化问题的研究提供了理论基础。2.研究了多信道多用户干扰信道模型的频谱资源优化问题,运用提出的认知纳什博弈模型,解决了分布式网络中用户难以获取全局信道信息的问题,提出了多信道多用户干扰信道模型的分布式频谱资源自优化算法,算法仅需要局部的观测信息就可以实现用户通信速率最大化,仿真验证了所提的算法较前人算法有更好的收敛性,能够达到更高频谱资源利用效率。3.研究了多天线多信道多用户干扰信道模型的频谱资源优化问题,将基于认知纳什博弈的多信道多用户干扰信道模型的频谱资源自优化算法应用于多输入多输出的多天线系统,提出了两种分布式多天线系统的频谱资源自优化算法,仿真验证了所提算法可以让用户速率随天线数量呈线性增长,充分发挥出多天线系统理论上的优越性。4.研究了认知无线电系统的频谱资源优化问题,基于认知纳什博弈模型和带限制条件的注水算法,提出了两种适用于认知无线电系统的频谱资源自优化算法,算法可以使次用户自动避免使用主用户占用的信道资源,同时次用户之间又可以充分公平而且高效地竞争资源。5.针对无线通信用户之间干扰的问题,用线性规划的理论设计了带限制条件的迭代注水算法,算法可以减少甚至避免用户之间的干扰,从而提高系统的通信速率和频谱资源的利用效率。针对多输入单输出的干扰信道模型,用数学解析的方法设计了分布式最优迫零算法,算法只需要知道局部的信道信息,通过固定长度的信道训练,就可以解析出最优迫零向量,同时算法对信道误差有极强的鲁棒性。论文以所提出的认知纳什博弈模型为基础,围绕提高无线频谱资源利用效率的目标,设计了多信道多用户干扰信道模型的频谱资源自优化算法,并将算法应用于复杂的多天线系统以及认知无线电系统中,同时补充线性规划理论设计的带限制条件的迭代注水算法和用数学解析方法设计的分布式最优迫零算法,为频谱资源分配优化算法研究提供了多种思路。