随着网络的快速发展和协议结构多样性的出现，网络协议识别技术越来越成为人们研究的热点。该技术不仅能分析出网络流量的组成成分，还能为网络的维护，流量的建模和网络安全的防御提供量化的数据支持以及基础的数据分析。本文主要研究了基于隐马尔可夫模型(Hidden Markov Model HMM)的协议识别技术，主要工作如下：首先，介绍了传统的协议识别方法。包括基于端口号的协议识别，基于载荷匹配的协议识别，基于深度包检测方法的识别，以及各自的适用范围和优缺点。其次，针对传统协议识别的不足，本文提出运用HMM来进行协议识别，该方法采用了不受动态端口号和加密条件影响的包层次统计特征。研究了HMM基本算法：用前向-后向算法来解决观察变量问题；用Viterbi算法来解决最佳隐含状态问题；运用Baum-Welch算法来解决模型参数问题。针对HMM在实际运用中的情况，提出了改进措施，并介绍了将HMM运用于协议识别的优势。最后，本文提出了多输入单输出的并行HMM系统架构。该架构是一个基于包层次统计特征的HMM协议识别方案，选择(IPT, PS)序列对，作为HMM的观察变量，经过学习训练找到与观察变量相一致的隐含状态，然后通过重估算法得到合适的模型参数。另外本文还具体介绍了HMM的建模，多特征下模型参数的改进，以及自主学习的方式。为了体现本文提出算法的可行性及有效性，以HTTP，SMTP，AoM(一款在线游戏)以及MSN四种有代表性的不同应用类型进行了相关实验，并与其他算法进行比较，实验结果证明了该算法准确率较高，可扩展性好，在对协议识别的处理上具有一定的研究意义。