比特交织编码技术兼具结构简单、易于兼容其他传输技术以及时间隐分集等优点,不仅广泛地应用于各种商用通信系统,而且还是下一代无线移动通信链路中的关键技术。但是,它仍然存在一些新的技术挑战,尤其是随着目前Turbo译码思想越来越广泛和深入的应用,导致其分析方法和传统方式具有很大的差异。本文就针对不同信道类型下的比特交织编码传输系统,研究了其性能界、无记忆信道下的标识设计与应用、多径信道下迭代接收机结构简化、非理想信道对迭代接收性能的影响,以及迭代信噪比估计等方面的问题。主要内容包括:1.性能界是一种有效的描述系统传输性能优劣的指标。在分析已有BICM性能界的基础上,针对当前删余界理论存在定义模糊的问题,提出了修正的删余界定理;给出了确定成对错误事件的步骤和修正的距离计算方法,通过实例解释了它与已有结果的差异和共同点;并且为了计算方便,还给出了相应的简化结果。2.利用修正删余界所对应的Harmonic均值,对BICM和BICM-ID下的二维星座标识进行了研究。就BICM提出了一种简单有效的树搜索算法,以Harmonic均值为度量,得到了高阶QAM下的最佳Gray标识结果;进一步从结构性角度探讨了适合BICM-ID的标识映射,由此得到的标识具有较好的渐进性能;同时以有无理想译码反馈下最大Harmonic均值为目标,采用BSA搜索分析了BICM-ID折衷收敛性能与渐进性能的优化设计,给出了多种64QAM的搜索结果;最后,给出了一个BICM应用在编码协作体系下的示例,采用性能界分析了分集度。3.针对比特交织编码系统在多径信道下的迭代接收,以EXIT图为工具分析了Turbo均衡中不同均衡算法与映射方式下的性能;提出了一种迭代控制策略,将Turbo均衡在满足一定准则条件时切换为BICM-ID译码,以降低系统复杂度。4.研究了信道条件非理想对迭代接收的性能影响和迭代信噪比估计。首先采用EXIT图,分析了非理想信噪比对BICM-ID和Turbo均衡的影响;类似地,还分析了信道响应非理想对Turbo均衡的影响;讨论了噪声类型不一致时迭代接收机优化的问题,并以BICM-ID为例,提出了一种门限近似的简化算法;最后,再由最大期望准则提出了一类迭代信噪比估计方法,包括高阶调制情况下先验等概和先验不等概的估计算法。针对上述提出的各种分析方法和算法,本文均给出了较为详细的证明分析步骤以及充分的性能仿真结果。