由于现有的频谱分配和管理策略存在着频谱利用率不高、分配不够灵活等问题,工业界和学术界研究使用认知无线电来实现动态的频谱接入,以提高频谱利用率。目前,采用认知无线电技术的认知用户是通过对授权频段的检测以寻找空闲状态信道实现动态频谱接入。由于空闲资源的出现具有随机性,如果认知用户采用随机的方式选择授权频段进行检测以寻找空闲信道,那么频谱选择的盲目性将导致认知用户的频谱检测效率的降低,使得认知用户的传输质量难以得到保障,尤其是对于有传输速率和时延要求的认知用户。同时,频繁的频谱检测和切换也会耗费认知用户的有效传输时间,这将限制频谱利用率的提高。为此,如何在认知用户的频谱感知、接入和切换的过程中引入机器学习,实现智能化地选择目标信道,以提高认知用户的频谱检测效率,保障传输质量是目前认知无线网络中的研究热点。本论文针对认知无线网络中的信道选择问题,对基于业务统计学习和预测的频谱感知进行了深入研究,研究给出了具体的业务预测方法和频谱感知策略。随后论文研究提出基于多用户协作的信道选择方法,并给出了用户协作方法和信息处理算法。论文最后将研究扩展至用户协作传输,并给出了协作传输协议和用户队列稳定域模型。首先,本论文对基于业务统计学习和预测的频谱感知给出了实现业务认知的功能架构。论文分别对采用基于业务统计学习和预测的频谱感知和采用随机选择授权频段的频谱感知的认知用户的丢包率和吞吐量进行了理论分析和性能建模,其中基于业务统计学习和预测的频谱感知的性能模型能够支持对不同的业务预测算法的应用性能评估。同时,为了对不同的业务预测算法性能进行深入评估,论文还给出了当认知用户能够确知信道未来状态时达到的性能上界的数学模型。其次,在对采用基于业务预测的频谱感知策略的认知用户性能研究基础上,本论文提出了一种多用户协作信道选择方法,并提出了基于贝叶斯理论的信息处理算法,以实现对用户协作信息的融合和对目标信道特性的推理。同时,论文给出了信息融合过程中的目标值和其对应不确定度的更新方法及其数学描述。在对多用户协作信道选择方法的性能评估中,研究给出了信道选择时延计算模型,并通过仿真,评估了协作信息的分布和更新概率因子对用户协作信道选择方法性能的影响。最后,本论文将用户协作信道选择拓展至用户协作传输,提出了用户伺机协作中继传输协议。该协议利用用户的空闲时隙进行协作中继传输,为系统提供分集增益,提高传输的可靠性。同时,该协议可支持认知用户之间以及授权用户和认知用户之间的协作。现有的对协作分集的研究主要集中在物理层性能增益的分析上,而本论文从分析网络高层协议性能出发,对协作用户队列的稳定域和吞吐量进行了理论研究,并给出了配对协作用户在任意时隙分配比例下的最大稳定域和吞吐量的理论模型。