分类算法是一种有监督的学习算法,它能够根据有标记的信息发现分类规则、构造分类模型,从而预测未含标记的属性特征。在分类算法中,随机森林以其具有稳定性强、对噪声和异常值有较好容忍性等特点,受到人们的广泛关注。随着信息技术和网络技术的发展,大数据成为研究热点,相较于传统数据,大数据具有了4V特性——Volume（数量大）、Variety（种类多）、Velocity（速度快）、Value（价值密度低）,这使得传统随机森林算法在处理大数据时所需运行时间较长、内存容量较多,且通过提升计算机硬件水平来满足人们对大数据分析与处理的需求,显得尤为困难。此时并行化的计算思想变得非常重要,通过改进传统的随机森林算法,并与分布式计算模型相结合成为当前研究的主要方向。目前,已提出的并行随机森林算法解决了传统随机森林算法学习效率低的问题,且为了进一步提升随机森林算法的预测准确度,借助神经网络负反馈学习的方式,提出了并行深度森林算法,但仍存在大数据下数据集冗余与不相关特征过多、并行化效率低等问题。针对以上问题,在研究随机森林、深度森林以及MapReduce等相关知识的基础上,分别针对现有的并行随机森林算法、并行深度森林算法存在的问题,提出了:（1）结合信息论和范数的并行随机森林算法——PRFITN（Parallel Random Forest Algorithm based on Information Theory and Norm）;（2）结合信息论改进的并行深度森林算法——IPDFIT（Improved Parallel Deep Forest based on Information Theory）。（1）结合信息论和范数的并行随机森林算法PRFITN针对MapReduce框架下的随机森林算法在处理大数据问题时存在的冗余与不相关特征过多,训练特征信息量低以及并行化效率低等问题,提出了大数据下结合信息论和范数的并行随机森林算法PRFITN。首先,该算法基于信息增益和费罗贝尼乌斯范数设计了一种混合降维策略DRIGFN（Dimension Reduction based on Information Gain and Frobenius Norm）,获得降维后的数据集,有效减少了冗余及不相关特征数;其次,提出了基于信息论的特征分组策略FGSIT（Feature Grouping Strategy based on Information Theory）,根据FGSIT策略将特征分组,采用分层抽样方法,保证了随机森林中决策树构建时训练特征的信息量,提高了分类结果的准确度;最后,在Reduce阶段提出了一种键值对重分配策略RSKP（Redistribution of Key-value Pairs）,获取全局的分类结果,实现了键值对的快速均匀分配,从而提高了集群的并行效率。实验结果表明,该算法在大数据环境下,尤其是针对特征数较多的数据集有着更好的分类效果。（2）结合信息论改进的并行深度森林算法IPDFIT针对并行深度森林算法在处理大数据问题时存在的冗余与不相关特征过多,多粒度扫描不平衡以及并行化效率低等问题,提出了大数据下结合信息论改进的并行深度森林算法IPDFIT。首先,该算法基于信息论设计了一种混合降维策略DRIT（Dimension Reduction based on Information Theory）,获得降维后的数据集,有效减少了冗余及不相关特征数;其次,提出了一种改进的多粒度扫描策略IMGSS（Improved Multi-Grained Scanning Strategy）对样本进行扫描,保证每个特征在扫描后以同频率出现在数据子集中,避免了因多粒度扫描不平衡对深度森林模型的影响;最后,结合MapReduce框架,对深度森林模型每层级联结构中的随机森林进行并行化训练,同时提出了一种样本加权策略TSWS（The Sample Weighting Strategy）,根据级联中森林对样本进行评估,选取评估结果较差的样本进入下一层训练,减少了层级中样本的数量,从而提高了算法的并行效率。实验结果表明,该算法在大数据环境下,尤其是针对特征数较多的数据集有着更好的分类效果。