随着网络技术和多媒体技术的发展，人们越来越不满足于基于网络的文本和语音的交流，视频会议等多媒体应用快速发展，日趋成为人们远程交流与协作的重要手段。安全是构建新一代视频会议系统、开展安全可信的视频会议服务的关键之一。本文对新一代视频会议框架、视频会议安全架构、视频会议中的信令安全和可控组播等方面进行了研究，具体研究内容如下：1.基于以IPv6协议为核心的下一代互联网，结合SIPPING会议框架和XCON会议框架，我们提出了一种具有服务质量保证、可扩展的新一代视频会议系统框架，并研制了该系统，本文重点研究了系统的安全部分；同时，本文设计了一种视频会议安全功能模型，定义了视频会议安全相关的功能区域和组成元素，以及它们之间的相互关系。2.针对传统基于软件的视频会议安全方案容易被盗用、欺骗和入侵的问题,结合可信计算技术，本文提出了一种用于视频会议系统的双层认证结构（DAF），实现了对会议实体与用户身份的双认证；利用DAF结构，设计了一种基于可信计算的视频会议安全架构，并利用可信平台模块（TPM）和直接匿名证明等方法，设计了新的注册协议，实现了一种以TPM芯片为信任起点的视频会议系统安全。同时证明了协议的安全性，并对整个方案的安全性与效率进行了分析。3.信令协议和媒体传输协议在多媒体通信系统中扮演重要的角色，会话初始协议（SIP）是一种重要的视频会议信令协议。针对源地址伪造导致的各种恶意攻击问题，基于可信网络连接（TNC）架构思想，本文将源地址验证体系架构（SAVA）的源地址验证与视频会议中的SIP信令框架结合，提出了基于源地址验证的SIP安全服务模型；针对SIP认证中客户端和代理服务器身份欺骗的问题，设计了与源地址验证结合的SIP双向摘要认证算法；针对SIP身份标识的真实性问题，设计了与源地址验证结合的、基于身份签名体制的SIP身份标识方案。该模型、算法和方案提高了SIP应用的真实性和安全性，有助于在下一代互联网中开展可追溯、更加安全可信的SIP信令服务。同时，结合相关互联网工程任务组（IETF）草案和IPv6协议新特性，利用嵌入式Linux开发环境，我们研制了IPv6源地址验证交换机，并且，在中国下一代互联网工程—第二代中国教育与科研网（CNGI-CERNET2）的环境中构建了IPv6源地址验证的实验环境，进行SIP信令安全实验，结果表明方案的有效性。4.针对视频会议中大规模组播的安全可控问题，本文将软件领域的面向服务体系架构（SOA）思想引入安全组播服务中，提出了一种面向服务的可控组播模型（SOCMM），定义了组播服务系统的层次结构、层次之间的相互关系及各层所包含的可能的服务；在此基础上，针对CNGI-CERNET2的网络环境，利用开放的网络协议，设计了SOCMM模型的参考实现方案，定义了SOCMM方案的框架、组成元素、通信协议和接口；而且，结合SOCMM方案和IPv6组播环境，利用嵌入式Linux开发环境，我们研制了IPv6可控组播接入交换机。同时，在CNGI-CERNET2网络环境中构建了IPv6组播实验环境，进行了组播接入控制实验，结果表明方案的有效性。综上所述，本文在新一代视频会议系统框架研究的基础上，重点研究了系统的安全部分，并提出了一种视频会议安全功能模型；结合可信计算技术，设计了一种双层认证结构和基于可信计算的视频会议安全架构；基于TNC架构思想，将源地址验证与SIP应用框架结合，提出了基于源地址验证的SIP安全模型、双向摘要认证算法和身份签名的SIP安全标识方案；将SOA架构思想引入视频会议大规模组播服务中，设计了面向服务的可控组播模型和实现参考框架；并研制了视频会议安全接入控制交换机。