现代社会中无线通信技术取得了长足发展,其地位也已经无可替代。但无论何种无线技术,无线频谱资源紧张的问题都是难以避免的。而认知无线电技术被认为是解决该问题的重要手段之一。认知无线电中合作频谱感知技术可有效的克服诸如隐藏终端、性能波动等问题。但调研发现其仍面临以下严峻挑战：(1)合作频谱感知要求一定的反馈信道,这不仅实现困难,更与认知无线电随机接入的初衷矛盾。因此,减少反馈信道需求并在既定反馈信道资源下最大化性能具有重要研究价值；(2)频谱不平衡现象在典型认知无线电系统中普遍存在。这一现象导致合作频谱感知非但无法提高性能,反而有可能导致频谱感知准确性下降。另外,对于所有频谱感知技术而言,还存在一个重大的挑战：(3)由于政策、管理等多方面的限制,频谱感知技术在实际中并未得到广泛应用。如何在实际设备中应用这项前沿技术也是值得关注的重点之一。本论文的主要创新点和贡献即致力于这些挑战的应对和解决。1.针对反馈信道资源需求的优化,本论文从减少反馈数据数量和提高反馈信道资源利用率两个方面进行研究。首先基于对最优合并准则的结构原理及其加权系数分布的研究,提出了最优合并准则下的用户删除算法：分析每一认知用户对最终判决的贡献,设置用户删除门限终止部分用户的反馈以节省反馈信道资源,与此同时控制性能下降的程度。仿真结果说明,在认知用户随机分布条件下达到90%最优合并准则性能时可以减少大约20%反馈数据。另一方面,考虑反馈信息量化比特与性能存在‘定相关性,进一步研究了为认知用户分配不同反馈信道资源量时的数据合并准则优化问题并得到了若干重要设计原则。仿真结果显示,相较传统合作频谱感知,利用相同反馈信道资源,可以显著的提高频谱感知性能。2.为应对合作频谱感知中频谱不均衡现象带来的挑战,本论文提出两种新型的自适应分簇算法。首先提出基于认知用户频谱状况相关性的分簇算法。该算法以单节点频谱感知结果为分簇的原始依据,分簇结果可在每次频谱咸知结束后进行调整,从而极大的提高了算法的自适应能力,同时也验证了基于频谱相关性进行用户分簇的可行性和可靠性。在此基础上,本论文进一步提出基于信息论准则的分簇算法,在保持基于频谱相关性分簇算法的全部优点基础上,利用信息论准则,无需任何设置即可对认知用户进行分簇,进一步提高了分簇算法的可靠性。3.为了应对频谱感知技术缺乏实际应用的挑战,本论文将先进的认知无线电思想和频谱感知技术应用于近年来被国内外学术和产业界所追捧的一种室内覆盖设备——家庭基站的干扰避让中。由于家庭基站在提供良好室内覆盖的同时面临着诸多干扰问题,本论文首先分析了家庭基站特殊、复杂的干扰场景。基于干扰分析结果,以频谱感知技术为核心,提出两种家庭基站干扰避让方案。方案利用频谱感知和信息交互获得临近设备、周围环境以及宏蜂窝系统的信息,分析频谱资源的使用情况和可用程度,最大限度的避免各类干扰并提高家庭基站容量。仿真结果表明,相较于目前广泛讨论的功率控制方案,所提方案在干扰和容量两个方面具有极大的综合优势。