Barzilai-Borwein (BB)算法是一种求解无约束优化问题的有效算法.因其易于实现、要求存储量小以及实际计算效果好等优点,BB算法吸引了很多学者的关注.BB算法已经被推广到约束优化和非光滑优化,并且在支持向量机、图像处理和压缩感知等领域有广泛的应用.针对不同的问题设计高效的BB型算法是近年来的研究热点之一然而,很多优化问题的目标函数都是非凸、非光滑甚至非Lipschitz连续的.目前,求解这些问题的BB型算法还很少.本文研究几类常见的优化问题,包括光滑凸约束优化问题、非光滑无约束优化问题、带有非负约束的非光滑优化问题和非Lipschitz约束优化问题等,分别给出了相应的BB型算法.主要成果概括如下：1.研究光滑凸约束优化问题,其目标函数连续可微且约束是闭凸集.已有的投影梯度算法的收敛性分析大多要求目标函数的梯度是Lipschitz连续的.然而,很少有算法利用梯度的Lipschitz常数信息.我们利用梯度的Lipschitz常数构造当前迭代点处目标函数的二次正则近似,结合投影策略和非单调线搜索,提出了二次正则投影BB算法,并证明了算法的全局收敛性.我们将新算法应用于非负矩阵分解并与已有算法做了对比.虽然新算法每次迭代需要计算两次梯度和投影,但是数值结果表明新算法可以在较少迭代次数和较短的时间内得到满意的解.2.研究一类非光滑的无约束优化问题,其目标函数是一个光滑函数与一个凸函数的和.这类问题可以看作光滑凸约束优化问题的推广.我们结合非单调线搜索,提出一种BB型算法,并分析了算法的全局收敛性.证明了当目标函数的光滑项是凸函数时,新算法是次线性收敛的；当光滑项是严格凸函数时,新算法的收敛速度是R-线性的.我们将新算法应用于求解l2-l1问题、图像去模糊问题、分组可分正则问题和全变分正则问题等,数值结果表明算法是有效的.3.考虑一类带有非负约束的非光滑优化问题,结合光滑技术和有效集策略,我们提出了一种光滑仿射尺度BB算法,并证明了在合适的条件下算法收敛到稳定点,该稳定点与光滑函数相关.我们将新算法应用于求解随机线性互补问题(SLCP)的期望残差极小化(ERM)模型,与光滑投影梯度法的相比,新算法需要的迭代次数更少,花费的CPU时间更短并且解的精度更高.4.我们对一类非Lipschitz约束优化问题进行了研究,其目标函数是一个光滑函数与一个非Lipschitz连续函数的和.结合光滑技术和投影策略,提出了一种光滑投影BB算法,证明了在合适的条件下算法收敛到尺度化稳定点.当目标函数局部Lipschitz连续时,选择合适的光滑函数可以保证算法收敛到Clarke稳定点.我们将新算法应用于求解l2-lp问题、图像恢复问题和SLCP的ERM模型等,数值结果表明新算法是有效的.