几何误差检验是保障机械产品质量和综合性能的重要环节之一。产品几何技术规范（Geometrical Product Specification,GPS）标准体系作为制造业的一项重要工具,规范了几何误差检验过程。操作是GPS标准体系提出的一个新概念,是几何误差数字化检验中的基础性支撑技术。其中,滤波操作是将几何误差信号从复杂的原始轮廓信号中分离出来,对几何误差检验精度的提高至关重要;拟合操作是用理想要素逼近非理想要素,以实现对非理想要素特征的描述和表达,是几何误差检验的核心。因此,本文针对几何误差检验中的GPS滤波技术和拟合技术进行研究,旨在为促进产品几何误差测量方法的数字化转型提供技术支撑。本文完成的主要工作如下:研究了一种基于SVD-FFT的几何误差滤波技术。首先利用奇异值分解（Singular Value Decomposition,SVD）对提取的数据进行分解与重构完成第一级滤波,实现降噪;然后采用快速傅里叶变换（Fast Fourier Transform,FFT）和矩形滤波函数相结合进行第二级滤波,实现几何误差分离。实验结果表明:所给出的滤波技术可以较准确地实现几何误差信号的分离,具有滤波精度高,不存在幅值削弱、模态混叠等问题的优点。基于新一代GPS研究了形状误差检验中的拟合操作技术,实现了ISO规范的8种拟合准则下5种典型形状特征（平面、直线、圆柱、圆、球）的拟合。1)为提高拟合精度,考虑所有坐标方向的误差,研究了无约束总体最小二乘拟合技术。2)建立了实体外约束和实体内约束的最小二乘拟合模型,并根据模型特点提出采用天牛须粒子群算法对模型求解。3)提出了一种基于坐标变换-原始对偶内点法的包容拟合技术,首先基于齐次坐标变换技术建立了无约束最小区域、约束最小区域、最小外接和最大内切拟合模型,并提出采用原始对偶内点法对所建立的模型求解。4)以平面和球为例对给出的拟合技术进行了实验验证,结果表明所建立的模型正确,所给出的优化算法计算精度高、收敛速度快,重复性好。研究了方位误差检验中的拟合操作技术。实现了单一基准、公共基准、基准体系中常见基准的建立。研究了新一代GPS标准体系中新规范的有拟合要求的被测要素的拟合技术。实验验证表明所提出的拟合技术是有效的,可为实现方位误差的数字化计量提供技术支撑。运用MATLAB GUI平台研制了基于新一代GPS的几何误差检验系统,实现了常见几何误差（平面度、直线度、圆度、圆柱度、球度、平行度、同轴度、对称度、位置度）的检验。