我国铁路客运专线和高速铁路技术的发展,对列车运行控制系统的安全性提出了更新更高的要求,构建安全可靠的列车运行控制系统是目前迫切需要关注和解决的问题。在中国列车运行控制系统中,现代通信与网络技术得到了普遍的应用,而铁路信号安全通信协议是确保安全相关信息在非可信通道上进行安全传输的上层协议,开展这方面的相关研究对列车运行控制系统仿真、列车运行控制系统安全性研究,以及不同列车运行控制系统的互联互通性验证都有着非常重要的意义。本文综合分析了铁路信号安全通信协议的发展现状,以RSSP-Ⅱ安全通信协议为对象展开研究,论文的主要工作如下：1、引入时间自动机理论及模型检测工具UPPAAL,在重点研究RSSP-Ⅱ安全通信协议的SAI连接管理流程和时间戳初始化流程的基础上,提出RSSP-Ⅱ安全通信协议的形式化建模方法,建立了相应的模型。2、在协议模型的基础上构造了时间自动机网络,使用UPPAAL对RSSP-Ⅱ安全通信协议进行模拟仿真,对模型的活性、安全性、可达性进行了验证,并对验证结果进行了分析。3、研究了RSSP-Ⅱ安全通信协议消息鉴定安全码的生成原理,从加密算法和残余错误两方面对其安全性进行分析,分析表明消息鉴定安全码的安全性符合铁路信号安全相关设备间进行安全通信的安全性要求。4、基于Labwindows CVI开发环境,构建RSSP-Ⅱ安全通信仿真平台,给出RSSP-Ⅱ安全通信协议的一种实现方法;通过设计测试用例,测试了SAI连接管理功能、应用数据交互功能,并对协议的安全功能模块对于相关威胁和风险的抵御能力进行了测试验证。