近年来,在互联网、商业服务、工程应用、科学研究等领域产生了大量的数据,这些数据正以指数级速度增长。矩阵是数据表示的经典形式,大数据就产生了大型矩阵,大型矩阵的存储和计算都是非常具有挑战性的工作。但幸运的是,在实际应用中许多高维数据通常位于低维流形中,所以我们可以用低秩的矩阵近似大规模矩阵。低秩矩阵逼近在计算数学,统计学,基因组学,文本处理,社交网络,机器学习等领域应用广泛。低秩矩阵求解模型一般是一个优化问题,基于矩阵矩阵分解的低秩矩阵逼近经常会使该模型变成一个非凸优化模型。非凸模型优化算法研究是当前优化研究的热点,针对图像处理中遇到的具体的非凸模型我们提出了具体的有效算法。此外,随机策略也是处理大型矩阵的非常有效的方法,它可以极大地降低计算复杂度,我们还改进了一种随机配置神经网络的约束条件。首先,我们研究了光子受限的图像恢复问题。光子受限图像可表示为一个像素矩阵,该矩阵的每个像素点仅采集到了相对较少的光子。通常认为每个像素点收集到的光子总数服从泊松分布,所以这种光子受限的图像恢复可当做图像的泊松噪声去除问题来研究。充分利用图像固有性质,设计有效算法可以很好地恢复光子受限图像,我们根据泊松噪声的性质和图像相似块的低秩特征提出了一种基于混合聚类和低秩正则的泊松去噪模型（HCLR）,并设计了一种牛顿型的交替算法有效的解决了这一双凸模型。实验验证发现,我们提出的泊松去噪模型有很好的竞争优势,并且在高噪声下效果更明显。矩阵补全是计算机视觉和数据科学研究中的一个重要课题,在实际应用中常常会遇到两个棘手的问题,一是各种噪声污染,二是观测到的元素的位置分布未知。我们研究了观测值受泊松污染且元素位置分布不均匀的矩阵补全问题,并为其建立了一个由核范数和Max范数混合低秩约束下极大似然估计模型。我们采用了 Proximal线性交替最小化算法求解模型,并且证明了该算法具有全局收敛性。实验结果表明我们的模型对于泊松污染的非均匀采样的下的图像修复效果良好。最小化两个函数（数据忠诚项或数据正则项）的和构成的目标函数是数学优化中的核心问题,这类目标函数通常有凸函数和非凸函数两种。我们具体研究了一类由光滑的数据忠诚项和乘积型数据正则项构成的非凸目标函数的优化问题,提出了一种叫Proximal交替最小化的算法。基于Kurdyka-Lojasiewicz性质,我们证明了由该算法迭代生成的有界序列收敛到目标函数的驻点。我们通过仿真数据的矩阵补全和真实图像修复验证了该算法的有效性。最后,我们研究了随机配置的神经网络（SCNs）问题。SCNs是在某种监督机制下随机选择权重和偏差来渐增式配置的一种随机前馈神经网络。由于SCNs配置方式操作简单、训练速度快、人工干预少,该网络在大数据分析中越来越受到重视。我们在深入研究了SCNs已有的监督机制的基础上,给出了两种新的随机参数选择的约束不等式,并为约束条件中的关键参数的提供了理论保证。新提出的不等式约束增大了约束条件成立的可能性,加快了学习过程。实验结果比较表明,我们提出的新约束条件大大地降低了配置网络隐节点的搜索时间。