多天线技术，包括天线的接收及发射分集、基于自适应阵列理论的智能天线技术以及收发两端同时应用多天线的MIMO技术，通过获取空间维资源显著提高通信性能，成为下一代无线通信的关键技术之一，并引起越来越广泛的研究兴趣。尤其上世纪九十年代中期提出的MIMO技术，其收发端同时应用多天线，通过空间复用技术显著地提高信道容量，展现出在有限频谱资源下实现高速率传输的巨大潜能。多天线技术在传统的频率、时间及功率资源基础上，增加了空间维的资源以提高信道容量及通信的可靠性，本论文将围绕空间维资源，对决定着空间维资源的两个环节：天线子系统及无线信道的空域特性，作出系统而深入的研究。现有的多天线技术研究主要偏向通信与信息处理学科方向，其关注点包括信源与信道编解码、空时编解码、调制解调及信号检测理论、信道估计与均衡算法等，往往忽略多天线与信道部分的研究，而通过基带传输模型对多天线系统建模。但在无线通信中，被调制的高频信号首先通过天线发射，经过与空间障碍物的电磁作用，最后在接收端叠加，可见，由多天线子系统以及无线信道组成的电磁环境构成了后端信号处理的物理基础和物理限制，这也是本论文的研究意义所在。本论文是具有跨学科的特点，并尝试在电磁场学科与通信信息处理学科间搭起沟通的桥梁，但同时偏重应用电磁场理论与方法进行物理上的分析，深入地研究了多天线的电磁互耦、信道的极化维资源、信道空间维资源的物理限制以及提出了一种新的可重构天线设计并应用到多天线通信系统。围绕上述内容，本论文系统而深入地研究了以下方面：第一，系统地研究了天线子系统的互耦机理、互耦补偿技术及互耦对多天线系统的作用。首先深入地研究多天线间的互耦机理，提出了一种新的互耦补偿技术，并给出了接收阵列互耦机理的严格推导；接着应用互耦补偿技术研究了多天线的互耦对MIMO系统性能的影响，并统一了现有文献中的两种对立观点；最后，基于射频前端电路互耦、多天线间互耦以及近场信道环境三部分存在耦合关系，提出了一种统一的信道模型。第二，深入研究了极化维资源在多天线系统中的应用。极化维是一种重要的空间维资源，只有充分地认识极化域，才可能最大限度地利用空间资源。本部分首先分析了极化分集在移动终端中的应用，证明了在散射丰富条件下，极化分集具有优于空间分集的性能；接着在更广义的无线环境下分析了多维极化分集的性能，给出了极化维资源的上限；由于极化分集的显著缺陷是存在较大的接收功率差，因而提出了圆极化天线在MIMO中的应用及给出其性能分析，证明了其在交叉极化鉴别度较高的场合能显著改善性能；最后针对圆极化天线的设计相对困难，且不能共点安装，提出了一种改善极化分集的预处理方法。第三，深入研究了给定收发端天线安装空间条件下，无线信道空间维资源的上限。首先采用本征模的分析方法，研究忽略天线单元的电磁特性下的空间自由度，并与已有的研究成果比较，分析了异同点，同时给出了本征模理论与传统的多天线信息理论的联系；由于在一定的安装空间下，当天线数目增大时，天线间的互耦也将变得强烈，故最后结合天线互耦研究了信道容量的饱和问题。本论文的最后部分提出一种紧凑的多天线设计技术，即极化可重构天线技术，并将其应用到多天线通信中。多天线间为了实现良好的隔离及降低各天线接收信号间的衰落相关性，多天线的布局往往需要较大的安装空间，这对于体积紧凑的移动终端往往不易实现，而且多天线系统往往需要多个收发射频前端，增加了系统工程实现的复杂度和成本。本论文正是基于上述困难，提出了一种新的极化可重构天线设计，首先给出了该天线的设计参数以及工作原理；接着分析了其在极化分集中的应用；最后给出了在MIMO通信中结合天线选择算法的应用，并分别考虑了平面布局及背对布局两种情况。本论文正是围绕上述四个方面，研究了决定着空间维资源的两个关键因素——多天线子系统及无线信道，为后端的信号处理提供了物理上的理论分析，并给出了应用空间维资源实现高速率和高可靠性传输的物理限制。