BICM-ID是由编码器、比特交织器、调制器串行级联而成，接收端把译码器输出的软信息反馈回解调器作为先验信息进行迭代处理，BICM-ID是一种结构灵活、高效的数据传输系统，具有广泛的应用前景。比特交织器和迭代译码是BICM-ID系统具有卓越性能的关键因素，并且由于比特交织器的存在，编码器和调制器对系统性能的影响互相独立，因而可以分别进行优化设计而互不影响。本文围绕BICM-ID系统设计和性能优化，重点研究BICM-ID接收机性能与迭代译码算法的关系，研究交织器的设计和调制器星座图符号映射方式的设计对系统性能的影响，提出一些改进算法以进一步提高系统性能。 迭代译码算法是本文的一个重要研究内容，用于迭代译码的软输入软输出算法主要有两类，APP类算法和改进的Viterbi算法，论文重点研究APP译码算法，分析Log-APP算法及各种简化算法并比较它们在BICM-ID系统中的实现复杂度，利用EXIT图分析上述译码算法的迭代收敛性。要实现基于最大后验概率准则的迭代译码接收端需要知道信道状态信息，信道参数估计是实际接收机系统的一个重要研究课题，本文研究了信噪比(SNR)估计误差对译码算法性能影响，研究表明Max-log-APP算法对SNR估计误差最不敏感，其他算法的性能在SNR过估计时的鲁棒性比SNR欠估计时好，SNR过估计时随着估计误差的增加其性能收敛到Max-log-APP算法的性能。根据自适应系统原理结合本文对BICM-ID系统迭代译码算法的研究结论，提出BICM-ID动态算法迭代接收方案，该方案能保证系统获得较好的译码性能同时降低系统的复杂度。 交织器的设计是影响BICM-ID系统性能的关键因素，与通常所采用的伪随机交织器不同，本文探讨了黄金分割交织器和混沌交织器在BICM-ID系统中的应用，仿真表明在加性高斯白噪声(AWGN)信道和Rayleigh衰落信道中当信噪比高于一定值时，黄金分割交织器的性能比伪随机交织器的性能要好，但在信噪比较低时其性能不如伪随机交织器的性能。本文以Logistic映射为基础研究混沌在交织器设计中的应用，提出了基于混沌的交织设计方案，其性能明显好于伪随机交织器的性能并且具有更低的处理时延；把混沌信号引入到黄金分割交织器的设计中得到改进的黄金分割交织算法，仿真表明改进的黄金分割交织器比黄金分割交织器有明显的性能改善，并克服了黄金分割交织器在低信噪比时性能不如伪随机交织器的缺点。 本文的另一个研究重点是BICM-ID系统星座符号的映射图样设计。BICM-ID系统性能依赖星座符号映射的设计，由于BICM-ID系统的接收端采用了迭代译码，译码器的纠错能力和充分的交织能大大降低同一符号内出现连续错误的概率，BICM的最佳符号映射设计准则不再适合BICM-ID。根据最小平方欧氏距离的调和均值d2h(μ)最大准则提出了一种新的最佳映射搜寻算法，系统仿真和EXIT图分析表明新的映射方案比基于其他设计准则得到的映射方案的性能要好，是BICM-ID系统的最佳映射。