近年来,手机电视业务越来越受到人们的青睐,由于该业务对本来就比较珍贵的无线资源消耗比较大,所以人们在移动蜂窝系统中引入了广播的方式来提供这种业务。广播系统中把相同的数据传送给所有用户,因此传输速率和覆盖范围之间就有一个权衡。在其他条件不变的情况下,改变调制方式能够有效提高比特率,为了兼顾SNR等级和频谱效率,业界提出了分层调制的技术。与传统的调制方式相比,分层调制允许单频通路中不同质量和优先级的传输。高优先级码流允许传输时使用相对较低的数据速率,但在载噪比低的地方仍然可以接收到。相反的,低优先级码流使用较高的传输数据速率,同时也要求了较高的载噪比。中继技术利用中继的接力功能,将信号从一个中继点接力传递到下一个中继点或接收端,并形成新的无线覆盖区域,从而达到延伸无线网络的覆盖范围的目的。中继技术和分层调制技术的联合应用,可以使广播系统的性能得到明显的提升。软件无线电技术由于具有实现可变无线电和为用户提供更多选择的能力,已经替代了传统无线电技术,成为通信系统实现的有力工具。软件无线电的基本宗旨是利用数字信号处理技术代替现在主要的模拟信号处理。与传统无线电系统相比,软件无线电系统具有硬件结构通用、功能软件化、兼容性好等一系列优点。本文借助软件无线电技术,对在广播通信环境下的分层调制技术进行了研究与实现。论文首先对分层调制技术以及进行软件无线电开发的重要平台GNU Radio和USRP进行了重点阐述,同时介绍了中继技术的相关概念；然后给出了广播通信环境下研究分层调制系统的实现框架,包括场景模型、发送接收流程等；接着对实现时的仿真结果、关键函数以及最终实现结果进行了分析,并给出了基于中继技术实现广播系统环境下的分层调制平台结果,最后对本文的研究工作进行了总结与展望。