2018年,开放媒体联盟推出AV1新一代视频编码标准,推动视频编码技术向前发展与落地应用。然而,在实际应用中,H.264标准依然占有很大的市场,X264是优秀的H.264标准编码器。在视频编解码技术中,率失真优化技术在提升视频编码的效率上发挥了关键作用,但是现有编码器的率失真优化技术更多的是考虑当前编码块编码模式的选优,并没有考虑对后续编码块编码模式的影响,求解率失真优化问题时没有充分考虑时域依赖特性。本文主要研究AV1标准和X264编码器的时域依赖率失真优化问题,主要进行了相关技术的优化和改进:（1）针对AV1视频编码标准默认编码结构,即随机接入层次编码结构,研究了时域依赖率失真优化算法。通过分析AV1的时域层级依赖关系,建立时域传播链,并在数学模型的严谨推导下,估计失真传播程度、求解编码块的传播因子,实现时域依赖的全局率失真优化。另外,也对AV1的量化参数与拉格朗日乘子的关系进行了统计分析,对其关系式进行了修正。该算法应用到AV1的测试平台libaom中,使用标准视频序列测试,实现了1.59%编码增益,编码时间节省7.9%。（2）针对X264编码器的率失真优化问题,在低时延B帧、低时延P帧编码结构下,提出了一种实时的时域依赖的率失真优化方法。该方法对编码内容预读取1帧,建立时域传播链只使用相邻帧,同时根据低码率条件率失真依赖性较强的特点优化I帧,更符合实时编码场景的实际应用。该方法应用到X264编码器,并进行预读取全部视频帧和1帧的测试。实验结果显示,预读取1帧的方法不增加编码时间复杂度,在低时延B帧编码结构下,预读取全部帧和1帧的方法分别有12.26%和10.25%的编码增益;在低时延P帧编码结构下,预读取全部帧和1帧的方法分别有5.1%和4.0%的编码增益。预读取1帧的方法在保证实际场景应用的同时,编码性能相比于预读取全部帧也得到了保证。