认知无线电是解决频谱资源稀缺和利用率低下矛盾的革命性技术，也是未来无线电通信技术发展的方向之一，正成为当前无线通信领域的研究热点。与传统无线电网络不同的是，认知无线电网络中同时存在两种不同优先级的用户：授权用户（主用户）和认知用户（从用户）。认知用户可以在不干扰授权用户的情况下，二次利用空闲的频谱资源（即“频谱空洞”），实现动态频谱共享，以提高频谱利用率。其中，频谱感知是认知无线电的首要任务，频谱共享是提高频谱利用率的关键技术。为了实现可靠和高效的认知无线电网络，需要解决两个关键问题：（1）高效的频谱感知策略，即从授权频谱中快速准确地检测出空闲资源，以可靠地挖掘出更多的频谱空洞；（2）智能的频谱共享技术，即研究高效的频谱分配技术，减少认知用户之间的竞争冲突，以充分利用空闲的频谱空洞。本文针对以上两个关键问题开展深入研究，结合学习算法和Gale-Shapley(G-S)理论，提出了分布式跨层感知策略和稳定的频谱分配方案，实现了智能高效的频谱感知和共享。本论文的主要研究工作和创新点概括如下：1.快速准确的感知策略是减少频谱检测开销的前提，在对称认知无线电网络中，现有研究为了简化设计仅考虑了理想的信道条件，同时存在算法收敛速度慢和开销大的不足。因此本文考虑了更符合实际信道特征的快速感知策略，提出了一种基于统计学习算法的分布式跨层决策方案。首先联合考虑信道空闲概率和信道质量，选择既“畅通”又“平坦”的信道进行感知；然后在多用户共存的分布式网络中，同时学习物理层的信道信息和MAC层的冲突信息，智能地接入拥塞少的信道，有效减少了多用户冲突；为了迅速搜索到最佳空闲信道，采用收敛速度快的估计算法学习未知信道信息。实验结果表明，统计学习自动机算法提高了频谱检测效率，跨层的频谱接入方案改善了系统的吞吐量性能。2.智能健壮的频谱共享是提高频谱资源利用率的关键，在非对称认知无线电网络中，现有频谱分配方案需要大量的交互信息开销或者对硬件带宽要求较高，限制了在分布式认知网络中的应用。本文充分利用非对称网络中认知用户在同一信道上收益不同的特点，联合G-S理论与学习算法，在部分信道感知条件下实现了稳定的频谱共享。首先利用非对称网络中用户收益与认知用户具有相关性的特征，引入G-S理论实现“一对一”的稳定信道分配；然后在未知信道信息和部分信道感知条件下，采用强化学习算法获得稳定的分配结果；最后根据用户收益设置接入定时器，保证收益大的用户优先接入信道，实现分布式机会通信。仿真结果表明，G-S策略明显降低了多用户竞争冲突，同时结合学习算法取得稳定的信道分配，有效提高了认知网络的吞吐量，适于解决非对称网络的机会频谱接入问题。3.在LTE-Advanced系统中，干扰问题是制约家庭基站网络大规模应用的重要因素。为克服现有干扰管理方案中信息交互开销大和复杂度高的不足，本文提出了一种易于实现、通信开销小的干扰管理方案，即基于认知技术的机会干扰避免和G-S频谱共享方案。首先，认知家庭基站监听调度信息并主动感知信道状态，以提高检测可靠性并获得更多的频谱机会；然后，利用宏蜂窝空闲的频谱资源进行机会通信，避免了混合蜂窝网的层间干扰；最后，采用G-S策略为相邻家庭基站分配正交的频谱资源，以减少层内干扰。结果表明，本文所提的方案可获得更多的空闲频谱资源，提高了检测效率和可靠性；联合认知技术可同时减少混合蜂窝网中的层间干扰和层内干扰，提高了家庭基站网络的吞吐量；智能决策的分布式方案减少了交互信息开销，适合Ad-hoc方式下的家庭基站应用。