随着当今社会信息化进程的迅速推进,各种信息技术正不断趋向融合,这为大规模发展新一代低成本、低功耗、具有多元化服务、分布式且能够实现无缝覆盖的宽带无线移动通信网络提供了前所未有的机遇。人们期待通过新一代的无线通信网络实现全球范围内“任何人在任何时间、任何地点,通过任何设备进行任何内容的通信与传输”,既个人通信中所说的5A愿景(Anyone, Anytime, Anywhere, Anydevice, Anything,5A)。然而在实现这一“5A”目标的过程中,无论是在整体网络架构还是在无线接入技术方面都还面临着严峻的挑战。网络协议架构：传统的网络通信协议主要基于分层的设计理念,这种分层的网络协议架构具有其明显的不足之处。比如,基于分层的设计理念每一层通信协议只考虑最差的网络环境,无法做到对实时变化的无线网络环境进行动态自适应；此外,每层协议的输入网络参数和输出参数之间并不一定是严格的单调映射关系,因此对某一层协议栈的优化对于整体通信协议栈来说有可能是次优的。为了克服分层设计的这些不足,基于跨层的网络通信协议设计理念(简称跨层设计,Cross-Layer Design (CLD))应运而生,通过在不同协议层之间进行信息传递来实现协议层间的动态交互,进而实现多协议层的联合优化。无线频谱资源：随着无线通信网络的发展,飞速增长的频谱资源需求和相对匮乏的频谱资源供给之间的矛盾日益加剧。一方面,在传统的频谱资源管理机制下,每一种无线系统或标准都独占某一特定的频段。这就导致宝贵的频谱资源越分越少,至今可用的频谱资源基本已经分配殆尽。另一方面,已经分配的频谱资源在空间和时间上利用效率都极不均匀,造成了无线频谱资源的极大浪费。为了缓解上述矛盾,Joseph Mitola于1999年首次提出了“认知无线电”(Cognitive Radio, CR)的概念,旨在打破传统僵化的频谱资源管理和使用机制,通过允许每个无线电系统以认知的方式使用分配给其它系统的频段,来减少频谱资源的浪费进而提高其使用效率。无线链路连通性：4G无线通信网络对带宽提出了更高的要求,以支撑各种非实时或实时的多媒体业务和迅速增长的用户数量。然而,就单一无线链路来说现有的信道编码、调制、多址接入等通信技术已经实现了与香农极限非常接近的传输速率。这就意味着若要进一步提高无线网络的传输速率,就必须从其它方向着手进一步提高无线链路的信道干扰噪声比进而提高无线链路的连通性。协作无线通信技术允许那些只装备了单个收发天线的移动终端互相作为中继节点,组成一个虚拟的多输入单输出(Virtual Multiple-Input Single-Output, V-MISO)无线链路来实现空间分集增益,并可以有效地缓解传统多天线传输技术对发射天线间距的限制。然而,到目前为止在上述每一方面的理论研究工作仍然都还处于起步阶段。此外,任何单一的技术都不足以解决和应对在实现无线个人通信这一“5A”目标过程中可能出现的所有问题和挑战。因此,我们必须对上述各项先进技术进行联合运用,以实现对无线通信网络进行整体设计和跨层优化。基于这些考虑,本论文主要针对认知与协作无线通信网络中的跨层优化理论展开研究,旨在为新一代无线移动通信网络的整体网络架构设计提供理论依据和指导,对网络的性能进行理论分析和评估并给出可行的通信协议和算法设计。本论文重点研究以下几方面的内容：认知无线电网络中多个无线子网络的共存机制,协作无线通信网络中的优化设计,以及认知与协作无线通信系统中的分布式资源管理。在研究方法上,我们以无线多媒体传输为依托,并以效用函数作为跨层设计的桥梁将通信协议栈底层的物理参数(如功率、频谱等)和高层的效用(如用户满意度、图像质量等)联系起来,进而实现多协议层的联合优化。同时,我们通过设计用户的效用函数并运用优化理论、博弈论以及Variational Inequality (Ⅵ)理论等对其数学性质进行理论分析,进而导出可行的通信协议和算法设计准则。本论文的研究工作受到了国家自然科学基金重点项目“基于认知无线电的中继与协同通信研究”(编号：60832008)和国家自然科学基金项目“宽带无线通信网络的跨层设计”(编号：60672036)的支持。本论文主要有以下几项贡献和创新点：1.针对认知无线电网络中不同子系统之间的共存机制,提出了一种新颖的基于混合竞争合作策略(简称竞合策略)的频谱分配策略。粗略的说,该竞合策略的核心思想是让所有的用户根据特定的竞争准则进行频谱分配,然后让那些竞争力强的用户在达到其满意服务质量后退出资源竞争,以使得那些非满意的用户可以获得更多的资源。我们以无线视频传输为依托,以合作博弈论中的"KSBS"竞争准则为基础,对每个用户的效用函数、竞争力系数和竞合策略分别进行了设计。进而,我们结合认知无线电网络中主、次用户系统间的频谱分配问题对该竞合策略的性能进行了评估。结果证明,同竞争策略相比在同一子系统内部竞合策略能够使更多的用户达到满意的服务质量,而在不同子系统之间运用竞合策略则使得次要用户系统有更多的机会接入主用户系统的频段,进而使得主、次用户系统的共存变得更为可能。其次,竞合策略还有效解决了传统基于纯竞争策略的无线资源管理中各个用户权重系数难以设定的困难。本创新点对应论文第二章的内容和发表论文列表中的1、2、3和4。2.研究了协作无线通信网络中多用户视频传输的跨层优化问题,其主要目标是通过联合优化物理层和MAC层的功率分配策略、中继选择策略和应用层的视频编码码率来最大化所有视频用户的效用函数之和。其中,我们用视频用户接收端的图像质量(峰值信噪比)来表示各个用户的效用函数。首先,我们将这一跨层优化问题建模成为一个有约束的整数非凸规划问题。考虑到求解该问题的难度和复杂性,我们提出了一种基于分支定界原理和非凸问题凸化放松技术的全局最优算法。然后,我们通过仿真结果对该算法的性能进行了分析和验证,表明我们的算法在实际中可以通过有限的迭代次数以任意精度求得全局最优解。此外,结果还表明,通过使用中继节点可以有效降低用户间的相互干扰,进而提高接收端的图像质量。该全局最优算法具有重要的理论研究和应用价值,一方面主要可以用来对协作无线通信系统的性能进行分析,另一方面可以为同领域研究相同或相似问题的分布式算法提供性能比较的依据。本创新点对应论文第三章的内容和发表论文列表中的5和7。3.研究了认知与协作无线通信网络中的分布式无线资源管理。我们考虑一般性的认知无线电网络,该网络包括若干个来自相同或不同无线子系统的用户,他们共享一组无线频谱且以认知的方式动态接入和使用这些频谱。对于每个用户来说,所有其他用户来都可以被看作是次要用户(又称认知干扰用户或者Cognitive Jammer),反之亦然。我们的研究目标主要是根据每个用户获取的局部网络信息,来设计分布式的频谱分配策略和中继节点选择策略。我们借助于非合作博弈论中的纳什均衡(Nash Equilibrium, NE)概念以及Variational Inequality (VI)理论进行分布式算法设计,使得所有用户的传输策略最终收敛到纳什均衡点。仿真结果表明,我们的分布式算法不仅具有良好的收敛性能,而且在纳什均衡点的性能非常接近全局最优值。本创新点对应论文第四章的内容和发表论文列表中的6和7。