稀疏码字多址接入技术(Sparse Code Multiple Access,SCMA)是一种面向5G的新型非正交多址接入技术,可以在有限的资源上接入更多的用户,从而可以提升资源的利用率。在低密度扩频多址接入(Low-Density-Signature Multiple Access,LDS-MA)的基础上,SCMA将调制和稀疏扩频合并成SCMA编码器,将用户比特流信息直接映射为多维复数码字。SCMA系统通过使用稀疏码本,获得比LDS系统更好的编码与映射增益,从而可以实现系统较好的误比特率性能。在SCMA系统发射端设计性能良好的码本是研究SCMA系统的关键问题之一。网格编码调制(Trellis Coded Modulation,TCM)码本是现有SCMA码本设计方案中较优的设计方案。针对TCM码本方案中子星座和资源块之间映射规则随机且系统性能不稳定的问题,本文提出一种改进的TCM码本,称之为Latin-TCM码本。改进的Latin-TCM码本方案先通过“TCM”子集分割得到子载波上的各个用户的子星座。接着将个各用户的子星座按照“Latin”矩形矩阵特性映射到各个子载波上得到星座矩阵,根据星座矩阵设计出各个用户码本。构造出的Latin-TCM码本确定了子星座和资源块之间映射规则,克服了系统性能不稳定的缺陷。Latin-TCM码本结合优化的多用户检测算法,可以在保证SCMA系统鲁棒性的前提下降低接收端译码复杂度,从而使SCMA系统有更优的综合性能。仿真结果表明:Latin-TCM码本较TCM码本可以提升SCMA系统的误比特率性能。SCMA系统接收端采用低复杂的消息传递算法(Message Passing Algorithm,MPA)进行多用户检测,但随着用户数量急剧增加,MPA算法的复杂度也会增加。针对现有SCMA系统串行MPA多用户检测算法无法动态调节迭代次数的问题,提出了一种可动态调节迭代次数的串行低复杂度MPA多用户检测算法,称之为冗余门限辅助的消息传递算法(Residual Threshold-aided MPA,R-THMPA)。R-THMPA算法把用户节点到资源节点迭代前与迭代后边缘函数值之差定义为冗余值。在新一轮迭代译码过程开始前,把用户节点到资源节点各边的冗余值分别与门限值作比较。若不满足门限条件,则新一轮迭代只迭代到冗余值大于门限值中序号最大的用户节点,重复这一迭代过程直到满足门限条件或达到最大迭代次数。仿真结果表明:采用所提出的R-THMPA算法可更好地平衡SCMA方案的误比特率性能和检测复杂度,并且和Latin-TCM码本结合可以以更少的迭代次数实现系统较好的误比特率性能。