由于广泛支持包括视频点播、实时电话会议等多种视频应用服务，基于H.264编码标准的应用产品变得越来越流行，但由于其在设计之初并未考虑安全应用问题，因此如何确保H.264应用的安全性成为一个热点研究问题。本文针对H.264协议特点，在提出两种新的视频加密模型基础上,分别设计实现了两种新型H.264视频加密算法,主要成果如下：1.总结视频编码模型。对视频编码过程进行了总结，以参量方式表现了视频编码的操作步骤。对理解视频编码器的作用原理及功能有较大帮助。2.提出视频加密模型。用模型对现有视频加密算法进行统一描述，在此基础上，提出两类新的视频加密模型：帧隐藏视频加密模型和操作隐藏视频加密模型，并分别设计了针对性算法。新模型借鉴了信息隐藏思想，提出了在视频加密领域“避免加密过程被察觉”的思想。3.设计实现一种新型的帧异或视频加密算法，该算法适用于实时视频应用场合，弥补了选择性加密压缩比变化及熵编码加密编码器不通用的问题。算法将由密钥决定的一帧图像的细节与背景分别异或在原始图像帧的对应位置，从而生成视觉重叠图像以达到加密目的。4.提出了针对视频编码的操作隐藏相关概念，在此基础上提出基于操作隐藏的视频加密算法。该算法通过在标志位、格式信息，可选操作位置等处嵌入密钥，隐藏操作的执行方式，达到在不破坏编码视频原有格式的前提下，加密视频序列的目的。评测结果表明，两类视频加密算法能起到良好的视频加密效果，在综合考虑视频加密的各项应用需求之后，相比目前的三类视频加密算法有较明显的综合优势，同时能够有效控制压缩率变化并在多数情况下可作为通用插件植入已有H.264编解码器中。