随着移动互联网技术以及物联网技术近些年来的快速发展,多址接入技术逐渐得到了更广泛的关注,成为无线移动通信系统的研究热点。前几代无线通信系统中使用的正交多址技术,在面对第五代无线通信系统中各类通信场景需求时,已经无法应对自如,所以目前学者们纷纷研究非正交多址接入(Non-orthogonal Multiple Access,NOMA)技术。稀疏码多址接入(Sparse Code Multiple Access,SCMA)技术是竞争力极强的NOMA技术之一,其能够实现提高频谱效率以及海量接入的需求。在SCMA系统接收端的检测方案中,最大后验概率检测算法(Maximum A Posteriori,MAP)是理论上检测性能最优的方案,但是在实际应用中其算法复杂度过高,使得难以实现。而消息传递算法(Message Passing Algorithm,MPA)作为次优的多用户检测方案,其利用码字的稀疏特点可以在一定程度上降低计算复杂度并且接近MAP算法的性能。本文将从SCMA系统的发送端码本设计方案以及接收端低复杂度的检测算法两方面入手,以加快SCMA研究的进程,促使其得到商业化应用。本文主要的创新内容如下:(1)本文通过实验仿真发现,基于网格编码调制(Trellis Coded Modulation,TCM)的SCMA码本设计方案虽然在实现方面较为简单,但是其性能并不能非常令人满意。经分析得知,造成性能不理想的主要原因在于该方案中的星座点无法在整个星座内部充分的分布,导致空间浪费。在设计码本时充分的利用星座空间是该方案的一种改进方向,本文将基于此提出一种改进的TCM-CB设计方案。该改进方案主要是在子集分割后,对其中的部分子集加入星座旋转和星座缩放。该操作使得整个星座内部空间得到充分利用,同时码本中不同码字间的能量差异和码字非零元素之间的相关性均得到优化。实验结果显示,本文提出的改进的TCM-CB方案的BER性能均优于基于原始网格编码调制的SCMA码本设计方案以及基于star-QAM星座码本设计方案。同时发现,在高信噪比区域本文提出方案的BER性能也较华为码本更为优良。(2)近年来,一些降低复杂度的MPA检测器已经被提出,其中基于动态因子图的MPA(Dynamic Factor Graph MPA,DFG-MPA)检测算法在复杂度相似的其他MPA检测算法中性能更优。然而,目前现存的MPA检测算法在性能与复杂度权衡方面都不是很灵活,本文针对该问题提出了一种广义的DFG-MPA(Generalized DFGMPA,GDFG-MPA)检测方案,以更好地、更灵活地权衡性能和复杂度。提出的方案具有两个方面的特点:1)不永远禁用消息更新,而是允许在以后的迭代中更新某些迭代中被禁用的消息更新;2)在不同的迭代中禁用更新消息的数量是不同的。通过在迭代中分配被禁止更新消息的数量,可以对GDFG-MPA进行优化。仿真结果表明,与DFG-MPA相比,GDFG-MPA在相同的计算复杂度下可以获得更好的性能,或者在更低的复杂度下获得相同的性能。此外,所提出的GDFG-MPA在性能调整和复杂度权衡方面更加灵活。