在高性能计算领域中,现代科学计算应用中经常使用大规模矩阵分解进行线性系统的求解。Cholesky分解算法是其中一种最常见的矩阵分解算法,它主要用于地质领域、气候领域和电磁学领域的科学计算应用。近年来,多核共享内存系统中基于任务模型的tiled Cholesky分解算法已成为热门技术。它能够在较小的矩阵块上进行细粒度计算,并通过Open MP提供灵活的执行顺序,因此适合在多核共享内存系统中进行小规模分解计算。然而在分布式内存系统中,Open MP任务模型无法和基于MPI的传统进程模型共同工作,而基于传统进程模型的分布式分解算法效率较低,且内存占用较大。这使得国际标准算法库Sca LAPACK很难满足当今大规模矩阵分解的高性能要求。本文尝试从多个角度解决上述问题,设计更加高效的分布式Cholesky分解算法。首先本文针对传统分布式程序无法引入任务模型、分解效率低以及内存开销大等问题,使用最新Open MP标准和Open MP任务模型重新设计算法,并考虑使用线程代替进程以减少内存消耗。其次本文针对科学计算应用中出现的低秩输入矩阵,设计了对应的低秩计算核心。该类核心以分解准确度为代价,从矩阵低秩特性中获得性能收益。本文主要研究内容概括如下:（1）针对基于传统进程模型分布式Cholesky分解算法存在的分解效率问题,提出了基于“MPI+Open MP任务模型”编程模型的分布式Cholesky分解算法。该算法可以对满秩或者低秩输入矩阵进行分解,并引入最新Open MP原语实现了两种MPI和Open MP任务模型的互操作性解决方案。该算法主体使用Open MP进行任务构造和调度,可以改善分布式Cholesky分解算法的负载平衡并提升性能。同时在程序中使用线程代替进程进行计算,可以减少内存消耗。该算法还对传统分布式数据布局进行了改进,以减少任务调度的负担并改善性能。（2）针对目前高性能计算应用中常见的低秩输入矩阵,提出了多种分布式低秩Cholesky分解算法。该类算法针对分布式环境进行了优化和改进,并使用上述编程模型。其中,FSCU-BC算法在基准算法基础上切换了压缩顺序和通信顺序,实现了通信后的本地压缩并改善了分解效率;改进FCSU算法将压缩步骤提前至三角求解步骤之前,并将低秩计算核心应用至三角求解和更新步骤以获得更多收益;改进CFSU算法使用一种新的低秩计算内核。该内核使用了一种基于自适应交叉逼近算法的再压缩步骤来减少计算复杂度,同时避免了秩堆积的风险。（3）本文基于MPI和Open MP任务模型实现了基于上述满秩和低秩分解算法的分布式求解器。该求解器可用于大规模对称正定系统系数矩阵的分解以及求解过程,并提供满秩输入和低秩输入两种模式。在输入系数矩阵为低秩矩阵时,可以使用低秩分解算法进行求解过程加速。本文采用了低秩Laplacian矩阵,对该求解器的分解效率、分解准确度以及内存消耗情况进行了实验分析,并详细分析了程序的优缺点。实验结果表明该求解器在性能和内存消耗方面,较基于进程模型的传统分布式求解器具有一定优势。其运行效率的提升约为30%到50%,内存占用率的减少为40%。同时在低秩输入模式下,低秩分解运行时间为满秩分解的三分之一到四分之一,分解准确度也在合理范围。