句子分类是自然语言处理（Natural Language Process,NLP）领域一个基本且重要的任务,广泛应用于NLP的很多子领域,例如情感分析、问题分类、口语对话等等。该任务的目标是为输入句子分配一个预定义的标签。解决句子分类问题的核心关键是通过提取位于不同位置的关键词或者短语来理解句子语义。虽然当前许多基于深度神经网络的方法在句子分类任务上取得了出色的性能,但是仍存在以下问题:基于卷积神经网络（Convolutional Neural Networks,CNNs）的方法难以建模句子的非连续依赖和顺序信息,而基于循环神经网络（Recurrent Neural Networks,RNNs）的方法容易忽略局部特征,为此一些方法将两者以堆叠多层或者结合注意力机制的方式相结合,通过提升模型复杂度来提升模型的分类效果。然而这种方式容易导致网络的特征冗余或过拟合,尤其是在有监督样本比较少时。因此,如何有效地融合多种网络的特征,提升模型的泛化能力并充分对句子的多尺度特征建模,仍然是具有挑战性的问题。本文探索一种新型的多尺度循环神经网络——多尺度正交独立长短期记忆网络（Multiscale Orthogonal Independent LSTM,MODE-LSTM）,吸收了CNN局部特征建模和RNN非连续依赖建模的特性,并且具有少量的参数,能够建模句子多尺度特征等特点,在模型能力和复杂度上取得较好的平衡。首先设计一种正交独立长短期记忆网络（Orthogonal Independent LSTM,ODE-LSTM）,将隐藏状态解耦成多个独立更新的小隐藏状态减少模型复杂度,提升模型泛化性能,并利用一个正交约束惩罚损失提升特征的多样性。随后,引入一种滑动窗口机制限制ODE-LSTM的循环执行过程,使其每一时间步的隐藏状态计算仅依赖于局部窗口的单词,在保留循环网络非连续依赖建模能力的同时,提取句子的局部短语特征。最后,进一步地采用多种不同尺度滑动窗口并行操作建模句子的多尺度特征。在八个句子分类数据集上进行实验并取得了良好的结果,通过结合预训练上下文表示能够进一步提升模型的分类准确度。此外,还通过大量的实验分析验证了模型的泛化性以及多尺度表示的有效性。