随着大数据时代的发展,数据在工业中的价值日益凸显,不同领域下时间序列广泛存在且应用方式众多。通常提高时间序列的预测精度可以提高收益,减少风险,从而带来极大的现实意义。目前主流的时间序列预测方法包括统计学习方法、传统机器学习方法以及深度学习方法。由于时间序列本身具有复杂的关联性,传统预测方法的预测精度通常较低,难以针对时间序列的复杂性。基于深度学习的时间序列预测方法,尤其是具有时间注意机制的长短期记忆（Long Short-Term Memory,LSTM）模型,由于其优异的特征提取与表达能力,取得了当前最优的预测精度。但是深度学习方法存在可视化困难,解释性较差的问题。在此背景下,本文对多个时间序列数据集进行研究,使用深度网络对时间序列预测进行建模,通过改进模型隐藏层的结构以及结合传统方法的方式提高预测精度,并通过可视化深层网络中间层和输出层提高模型的可解释性。实验发现,经典的LSTM模型在捕捉时间序列的长时依赖性仍有欠缺,模型更多聚焦于最后隐藏层的输出。本文提出了一种基于双注意力机制的LSTM模型,该模型在LSTM基础上引入双注意力机制,用于提高模型在不同维度下对特征的表征能力。不同数据集的仿真结果表明,相比于经典LSTM以及单注意力机制LSTM模型,本文所提模型具有更优的预测性能和更好的鲁棒性。通过对模型的注意力权重的可视化提高其可解释性,可视化结果表明双注意力机制可以捕获更大时间跨度的长时相关信息。本文在进行时间序列建模的研究过程中,实验发现单一模型对时间序列预测存在精度低且泛化能力差,基于聚类的集成预测算法存在依赖输入序列的长度限制。本文提出了一种基于LSTM和隐马尔科夫模型（Hidden Markov Model,HMM）的多状态预测算法来优化该问题。该算法首先使用HMM进行序列状态建模,得到序列的隐藏状态构建相同状态序列集以降低序列的复杂性。然后,使用多个LSTM模型对不同的状态分别进行建模。结果表明,在多伦多数据集上,该模型对比其余测试模型具有更优的预测精度。并且,不同的数据集的仿真结果表明该模型同时具有较好的泛化能力。在可解释性方面,本文通过可视化LSTM的隐藏输出表征不同的LSTM模型提取的特征对应序列的不同状态。