目前随着无线通信技术的快速发展和宽带业务需求的高速增长,可以利用的用频谱资源变得越来越稀缺。通过采用链路自适应技术、多天线技术等先进的无线通信理论和技术,现有网络系统的频谱利用效率已经有了很大的提升。尽管如此,一些研究报告表明人们所利用到的频谱仅占所有可用频谱的2%～6%,其原因是静态的频谱管理制度决定了频谱利用效率的低下。在这种背景下,认知无线电应运而生。认知无线电是一种基于软件无线电的智能通信设备,能够通过智能化的手段满足用户的通信需求,并提高频谱的利用率。目前,以认知无线电作为基本设备的认知无线网络已经成为无线通信的研究热点。国内外的研究组织和学者都积极开展了相关研究,但对于认知无线网络架构、协议和功能模块的研究仍处于初级阶段。鉴于此,本论文以解决认知无线网络的资源优化问题为目的,针对认知无线网络动态性的学习机制、MAC层频谱接入机制、现有网络中融合认知功能等关键点做出了分析和研究,所得出的结果对未来认知无线网络的研究具有一定的参考价值和理论意义。本文作了如下几点工作：一、本文总结了当前认知无线网络的研究现状,分析了其研究热点和面临的挑战性问题。目前,国内外的研究组织已经初步给出了一些认知无线网络的架构和标准化协议,其最大的相似之处是在认知无线网络构架协议中设置认知功能模块和语义翻译模块。尽管如此,在相关协议内部,各个功能模块的具体工作方式和算法机制存在着不小的差异。针对不同功能的算法机制,本文总结了当前关于认知无线网络的理论研究点,包括：频谱接入机制、频谱感知机制、协作机制和动态学习机制。二、本文第3章针对基于干扰温度的频率共享和开放性频率共享模型设计了三种竞争学习的机制。首先,在基于干扰温度的频率共享模型中,本文定义了一种反映用户在固定周期内能量有效性的代价函数,进而提出一种在线功率拍卖的算法。其次,针对开放性频谱共享,文中利用相同的效用函数提出一种基于非合作博弈的学习竞争的功率控制算法。最后,根据广泛应用于控制和决策理论的加强性学习机制,本文给出了一种适用于开放性频谱共享的加强性学习机制。三种算法的核心思想是将长期的能量有效性作为认知用户的效用函数,进而根据不同的模型设计相应的算法机制。通过与已有算法的比较,本文的三种算法均能够有效提高系统和用户的性能,并达到认知无线环境的目的。在认知无线网络中,认知用户必须能够通过调整自身的传输参数,从而适应其无线通信环境的变化。此外,认知用户的效用函数、传输策略、资源需求和容量也存在很大的差异,所以认知用户同样需要适应认知无线网络中必然存在的异构性。因此,本章将认知无线网络的动态性被定义为两类：一类是真实“环境”的动态性,一类是多用户竞争导致的动态性。在本章中,前两个算法是基于第二类动态性设计的,而最后一个算法则同时考虑两类动态性。三、本论文第4章在对授权用户的信道使用状况进行建模的基础上,提出了一种新型的基于协作通信的频谱接入机制。针对这一频谱接入机制,第4章提出了三种中继转发的方式,并利用概率论推导了三种方式对应的频谱接入机会和接入消耗功率的期望。通过仿真结果验证了认知无线网络采用本文机制的频谱接入性能。在现有网络和认知无线网络共存的场景中,认知无线网络主要采用频谱共享、机会频谱接入和频谱市场交易的方式建立通信,其主要思想是认知用户需要在无线通信环境中时刻“等待”频谱机会的出现。除此之外,现有网络(如蜂窝网)中存在其通信链路不能满足QoS需求的授权用户,认知用户可以利用这一特点,充当授权用户的中继节点,从而获取频谱资源。四、本论文第5章首先设计了一种动态调整频率复用因子的次优算法,以求解多小区OFDMA系统中基于协同多点传输技术的子载波分配问题。设计算法的目的是降低求解该问题的复杂度和系统的信息交互开销。另外,本文设计了一种基于认知模块的动态频率规划算法,进一步降低系统的信息交互量,并且能够保证系统瞬时吞吐量的损失在10%左右。协同多点传输是3GPP LTE-Adavanced为了避免小区间干扰和提高边缘用户数据速率而提出的一项新传输技术。协同多点传输技术给网络的整体优化带来了极大的挑战,对应的子载波分配问题可以证明是一个NP-Complete,其最优解只能通过复杂度极高的穷搜算法得到,因此本文设计了一种次优算法来解决这些问题。为了进一步降低信息交互开销,本文假设在每个基站单元配置具有认知功能的模块,并将上述问题转化为一个动态频率规划的问题。通过为认知功能模块设计学习算法,上述子载波分配的优化问题可以得到更加实际有效的解决方法。最后,总结全文工作的同时,给出了下一步的研究方向。