多载波和多天线技术作为移动通信系统的物理层关键技术,可显著提升系统频谱效率和信号传输可靠性,广泛应用于移动通信系统。面向新一代移动通信,如水下通信、车联网、空天地一体化等,复杂非高斯噪声传输环境,超高终端移动速度,超高速率传输对物理层技术提出更高要求。本文针对正交频分复用（Orthogonal Frequency Division Multiplexing,OFDM）系统脉冲干扰删除技术、正交时频空（Orthogonal Time Frequency and Space,OTFS）技术、大规模多输入多输出（Massive Multiple-input Multiple-output,M-MIMO）系统去中心化基带处理（Decentralized Baseband Processing,DBP）技术展开深入研究,设计低复杂度高性能接收机方案,具体研究内容如下:1)针对OFDM系统中存在脉冲噪声干扰时,脉冲消隐算法会引起子载波间干扰（Inter-Carrier Interference,ICI）、目标信号能量衰减及非高斯残留干扰,传统基于高斯噪声模型设计接收机性能严重恶化的问题,提出一种非高斯感知迭代接收机方案。该方案通过迭代删除ICI、能量均衡和对数似然比（Log-likelihood Ratio,LLR）压缩来减轻脉冲消隐和残留非高斯干扰的影响。仿真结果表明,所提方案能显著提升传统脉冲消隐算法性能,与基于压缩感知稀疏恢复接收机相比,可取得更好性能-复杂度折中。2)针对高速场景OTFS系统存在分数多普勒时接收机计算复杂度高的问题,提出一种信道系数感知近似期望传播（Approximate Expectation Propagation,AEP）接收机方案。为进一步满足超低时延、超高可靠及海量接入需求,将 MIMO、OTFS 和图样分割多址（Pattern Division Multiple Access,PDMA）技术结合,提出一种MIMO-OTFS-PDMA模型。针对基站天线相关带来的系统性能恶化,通过将时延-多普勒域每个资源上不同天线接收信号联合处理,提出一种向量化EP（Vector-EP,V-EP）接收机方案。为加快算法收敛性,提出一种图样感知串行消息更新机制,以及时利用迭代中最新更新的消息。最后,将上述所提接收机算法与迭代检测-译码（Iterative Detection and Decoding,IDD）架构相结合,进一步提升接收机性能。仿真结果表明,所提出的一系列基于EP算法的接收机能取得良好性能-计算复杂度折中,尤其在空间相关信道场景。3)针对M-MIMO系统采用集中式信号处理架构,基带数据速率高、芯片I/O接口管脚和功耗受限问题,研究基于DBP架构的高性能接收机设计方案。针对star拓扑结构下全局信息共享受限导致接收机性能恶化的问题,提出一种用户分组检测方案,并将其应用于EP算法,设计基于用户分组EP（Group-Wise EP,GW-EP）接收机,通过利用组内用户间信息来提升传统接收机性能。接着将GW-EP算法应用于daisy-chain拓扑结构,基于多元复高斯概率密度乘积原理,设计一种串行消息合并规则。仿真结果表明,对于star拓扑结构,所提去中心化GW-EP接收机能够显著提升传统EP接收机性能,特别是对具有较低基站天线-用户比和空间相关信道场景;对于daisy-chain拓扑结构,所提接收机以及消息合并规则能够以较低的前传带宽实现与集中式处理相当的性能。