随着通信网络的日益发展，人们对网络的要求也逐渐提高，而卫星网络以其独有的组网优势被更多的人关注。又因为卫星网络通信具有覆盖面积广、传输速率高的优势，必将使卫星网络通信技术成为未来重点的研究方向。但是由于卫星网络所具有较大的传输延时、链路的不对称性和较高的链路误码等特点，使得基于地面网络的TCP协议并不能很好的运用于卫星网络中。所以如何在卫星网络中有效应用TCP协议进行数据传输，成为研究的焦点问题。本文研究如何提升TCP协议在卫星网络中的性能，并探讨了卫星链路的特殊性对TCP协议造成的影响，针对这些影响提出TCP性能优化的具体方案。综合上述方案提出了一种基于TCP Vegas协议的优化机制，使其更加适合在卫星网络中进行数据传输。根据卫星网络的特点，对地面TCP协议进行改进，使其更加适合在卫星网络中进行数据传输。主要对TCP Vegas改进方面有：首先对TCP Vegas协议的拥塞控制机制进行优化，使其根据网络流量变化，自适应调节发送窗口的大小；其次根据卫星网络高误码率特性，应用错误分类器的设计，通过对链路数据包丢失进行定性的分析，进而调节卫星网络数据包的发送速率；最后根据卫星网络不对称特性，在TCP协议中应用了选择否定确认（SNACK）选项，在不改变拥塞窗口的前提下，恢复丢失的数据包，而且可以降低上行链路应答数据包拥塞溢出的情况。通过NS2对改进后的TCP协议进行仿真，并与传统的TCP协议进行分析比较，验证其可行性。