边界元法是在有限元法的基础上应运而生的一种新型高效的数值解析方法，它吸收并融入了有限元法的优点，并不断进行改进和创新，集解的高精度、降维的高速度以及边界形状的复杂模拟情况简化等优点于一身。针对摩擦接触系统中边界积分方程包含多个基本未知量（如边界未知位移和未知面力等）的问题，边界元法可以更好地组装系统系数矩阵，并满足接触条件。对于此类非线性问题的处理，边界元法具有很大的灵活性。论文在边界元法的基础上，利用最小势能原理和罚函数法对三维弹性摩擦接触系统进行研究，建立了罚因子数学规划模型，讨论了其解的存在唯一性和最优性条件，并分析了罚因子的选取对系统求解的影响。论文结构及主要研究内容如下：　　首先介绍了课题研究背景、国内外研究现状、课题来源及研究意义、研究思路及主要研究内容。同时，介绍了边界元法基本理论及数学规划相关知识。其次，从最小势能原理角度，将非穿透约束条件作为惩罚项加入到整个弹性摩擦接触系统中，建立了基于边界元法的罚因子数学规划模型，从而将复杂的边界条件非线性问题简化，为摩擦接触问题等非线性问题的求解和深入研究提供了新的思路。再次，利用最优化理论知识，研究了边界元法中所形成的大型稀疏矩阵的特性，得到了最终形成矩阵方程组的等价形式，证明了解的存在唯一性，并给出最优性条件。最后，利用 GMRES(m)算法对模型进行求解，分析了所建立模型中罚因子的选取对系统求解的影响，并通过数值算例分析了其变化趋势，理论分析与数值计算表明，所建立的罚因子优化模型对系统求解十分有效，可大大减少计算时间和计算量。