股票市场在国家经济中占据非常重要的地位,近年来基于深度学习的股票预测模型的研究得到了广泛关注,通过对股票数据的技术分析预测未来股票价格走势是众多学者研究的重点。股票数据特征表示的优劣直接影响预测模型的性能,且现有的股票预测模型存在长序列学习能力差,不具备学习前后时间步联系的能力与股票数据重复训练的问题。为此,本文重点对股票数据特征表示方法、股票价格预测方法和股票预测模型预训练展开研究,研究内容如下:（1）提出一种新的多尺度时序（Multi-scale Time Series,MTS）股票特征表示方法,该方法旨在将股票每个交易日特征视作一个特征项（token）,将股票日分时数据嵌入到股票交易日特征表示中,可以丰富交易日的特征表达。在此基础上,对Transformer模型中的交叉注意力进行改进,提出了一种反转交叉注意力（reverse Cross Attention,rCA）,rCA可以使模型将更多的注意力放在距离预测日期较近的数据上。结合了rCA的rCA-Transformer股票预测模型,相比其他模型具备更好的长序列预测与前后时间步学习能力。在多个数据集上进行了股票价格回归预测和股票涨跌分类预测实验,结果表明了结合MTS的rCA-Transformer模型相比于传统预测方法可以大幅提升预测准确度。（2）提出一种融合卡尔曼滤波的股票数据预训练方法(Pre-training method of stock prediction model with Kalman filter,PTSK。该方法利用卡尔曼滤波将股票的周期信息嵌入到数据中,使预训练模型可以在一个大型数据集上预训练股票的数据与周期特征,然后在小型数据上或特定股票数据上进行微调预训练模型来适应训练任务。PTSK预训练方法在使用相同的计算资源下,模型可以学习到更多股票特征项,并且可以有效地将预训练学习到的共性特征应用到微调数据集或涨停、跌停这种样本数少的特殊情况上。实验表明,相比未经过预训练的股票预测模型,PTSK不论在回归预测还是在分类预测上都有较大的性能提升。此外,本文还使用两个简单的量化交易策略进行模拟量化交易实验,其回测结果表明经过微调后的PTSK股票预测模型可以取得较高的收益率与夏普比率。