众所周知,传统的神经网络的学习效率和学习速度远远低于要求,这一点已成为许多应用的主要瓶颈。而宽度学习模型是最近提出的神经网络模型。与传统的深度神经网络模型不同,宽度学习模型具有扁平化的网络结构。因此,它可以被快速有效地训练。但该模型不具备挑选优质网络节点的能力,同时该模型每次增加的网络节点是随机生成的,因此该模型不能有效地通过减少当前网络残差来优化出新的隐藏层节点。针对以上两问题,本文对宽度学习模型进行改进和扩展。一方面从信息论的角度分析宽度学习模型。通过应用新提出的基于矩阵的R(?)nyi信息熵,分析了特征节点与输出节点之间的互信息,结果表明不同节点的贡献程度互不相同。因此,提出了一种基于互信息的正交宽度学习模型的特征选择算法。我们分别在分类和回归数据集上进行实验,以证明所提出算法的有效性。另一方面,虽然上面提出的改进方法使模型具备了特征选择能力,但是改进的模型依然不具备学习优化能力,因此结合每次降低当前模型的残差的思想来扩展宽度学习模型。通过每次减少当前网络模型的残差来依次优化出新的隐藏层网络节点,并且使用高斯过程隐变量模型来对原始数据进行特征提取。因而提出了一种基于高斯过程隐变量的双向宽度学习算法。同样我们在回归数据集上进行了实验来证明提出算法的有效性。本文通过对宽度学习模型网络节点的特征选择和生成方式分别进行优化和扩展,并引入信息理论和高斯过程隐变量模型等工具,提出了基于宽度学习方法的扩展模型,提升了扩展模型对数据的回归与分类能力。