大规模机器类通信(Massive Machine Type Communication,m MTC)是第五代移动通信网络(5th Generation Mobile Networks,5G)的主要应用场景之一。MTC设备以上行零星通信为主,且通常以低速率传输较短的数据包。与此同时,为了满足m MTC通信场景海量连接、低功耗和低延时的需求,本文采用基于免调度(Grant-Free)的上行非正交多址接入(Non-Orthogonal Multiple Access,NOMA)方案。由于该方案省略了基站与用户之间信令的动态交互过程,使得基站端无法识别出当前时隙用户的状态信息。因此,基站端在恢复数据之前,必须首先进行活跃用户检测和信道估计。此外,多输入多输出(Multiple Input Multiple Output,MIMO)技术能够进一步提高系统容量和时频资源利用率。综上,本文在基于免调度传输上行NOMA方案的通信场景下,对活跃用户检测和信道估计问题展开深入研究。首先,本文考虑m MTC-MIMO系统中用户通信行为的稀疏性,将活跃用户检测和信道估计问题建模为稀疏向量的重构问题。然后通过期望传播(Expectation Propagation,EP)算法将稀疏向量的重构问题转换为利用复高斯分布逼近系统后验概率分布的问题。针对将经典EP算法应用于MIMO系统计算复杂度较高的问题,本文为了平衡系统计算复杂度以及活跃用户检测和信道估计准确度,在EP算法的基础上采用优化的融合判决门限准则,提出了基于EP的最佳投票判决(EP-Optimal Fusion,EP-OF)算法。该算法能够根据系统预先设定的错误检测上限,使用合适的天线数协作进行活跃用户检测,同时在基站端应用最佳投票判决门限,对多根天线的检测结果进行有效地融合。仿真结果表明,该算法活跃用户检测的错误概率均在预先设定的目标错误检测上限之内。即使在过载率较高的情况下,该算法仍能保证系统的检测性能。其次,针对m MTC-MIMO系统中更加实际的通信场景,即用户能够在任意时隙内自由地访问或者退出网络,而且部分活跃用户将在连续时隙内均进行数据传输。本文提出了修正的先验信息辅助的期望传播(Modified-Prior Information Aided-EP,MPIA-EP)算法。该算法结合经典EP算法和子空间追踪(Subspace Pursuit,SP)算法,将前一时隙的活跃用户支撑作为先验信息,自适应地利用相邻时隙活跃用户支撑集的相关性进行活跃用户检测和信道估计。M-PIA-EP算法以回溯的方式重构接收信号,并判定使重构信号与基站端接收信号最匹配时的用户集合为当前时隙的活跃用户支撑集。该活跃用户支撑集由两部分用户集合构成,分别是在前一时隙和当前时隙均保持活跃状态的用户集合,以及仅在当前时隙为活跃状态的增加的用户集合。仿真结果表明,活跃用户检测和信道估计的准确度随着相邻时隙重叠用户数的增加而提升。