宽带移动通信系统通常采用两项先进技术：其一，采用了频域均衡(FDE)技术。频域均衡的复杂度与多径信道时延扩展的相对长度无关，非常适于补偿宽带移动通信中传输信号的频率选择性衰落，其典型应用包括正交频分复用(OFDM)系统和单载波频域均衡(SC-FDE)系统等；其二，采用了多输入多输出(MIMO)的信号传输技术。MIMO能够形成多条独立的并行传输空间子信道，可以在不占用额外带宽和增加天线发射功率的条件下成倍地提高系统频带利用率。针对此类宽带移动通信系统，本论文重点就信道估计和信号检测这两方面的问题进行了研究。 由于导频信号的存在会导致系统频带利用率的下降，本论文对非导频辅助的信道估计方法进行了研究。首先考虑如何利用额外的保护间隔进行信道估计，提出了一种新的保护间隔设计方案，它能够获得与导频辅助信道估计相同的性能。随后对OFDM系统中利用有限字符集特性的盲信道估计算法进行了改进。改进算法通过减少盲搜索的信号空间维数来降低算法复杂度，还更好地实现了系统性能与复杂度的折中设计。 目前，导频辅助的信道估计仍然是3GPP中LTE项目的研究热点。本论文也对LTE下行链路的时频域导频分布方案进行了研究，针对原方案中两个发射天线的信道估计性能不一致问题提出了一种改进方案。此外，本文还对LTE上行链路中两种CDM导频方案进行了研究，并改进了信道估计算法的设计方案。 接着本论文分析了时变信道中子载波干扰对频域均衡器性能的影响。对于SC-FDE系统，本文提出了两种能够稳定地工作于时变信道环境的改进方案。方案之一将OFDM系统中的白干扰抵消方案推广到SC-FDE系统，方案之二提出了一种分段频域均衡的SC-FDE接收机技术。两种方案都极大地改善了SC-FDE系统在快时变信道中的工作性能。此外，方案二中时域分段频域均衡的思想同样也适用于OFDM或其它采用频域均衡技术的通信系统。 基于最大似然准则，本论文对非理想信道估计条件下OFDM系统最优检测算法进行了研究。通过理论分析和数值仿真证明，当发送信号为16QAM或更高阶的QAM调制时，传统的迫零检测并不等价于最大似然检测，此时采用最大似然检测算法能够获得更好的性能。 最后，本论文对MIMO信号检测中的QRD-M检测算法进行了研究。通过将QRD-M检测等效为级联检测的方法，本文对传统的QRD-M检测算法进行了改进。改进算法能够更灵活地实现系统性能和复杂度的折衷设计，可以在相同或相近复杂度的条件下获得更好的性能。将被检测信号预排序是另外一种改善QRD-M检测性能的方法。综合考虑QR分解对排序的影响，本论文设计了一种在QR分解过程中对被检测信号动态排序的方法。该算法在M值较小时能够获得显著的性能增益。