本文主要研究求解无约束优化问题的混合信赖域算法,信赖域算法以其良好的稳定性和较强的收敛性越来越受到学者的重视,成为求解非线性规划的重要算法之一。但是传统的信赖域方法中搜索方向即试探步的反复求解加大了计算量,而线搜索方法则可以比较容易的求出搜索方向,1991年,Yuan和Nocedal[44]首创性的提出了将信赖域方法和线搜索方法相结合的算法构造思想,其构造的算法融合了两种方法的优点,理论与数值效果都比较理想。本文就是在信赖域和线搜索结合的框架下,探讨各种技术混合使用的可行性、实用性及其数值效果的理想性。　　本文的主要研究成果如下:　　1、提出了一种基于二次模型的非单调自适应信赖域算法。算法结合非单调技术,首先利用信赖域方法求出试探步,如果试探步不被接受,则采用滤子技术,如果试探步也不被滤子集接受,则取Newton方向,并沿此方向进行非单调Armijo线搜索得到步长,从而得到新的迭代点。此算法保证了每一步迭代中信赖域子问题只求解一次,减少了计算量,数值试验表明了算法的有效性。　　2、提出了一种基于锥模型的非单调自适应信赖域方法。对一些非二次性态强、曲率变化剧烈的函数,锥模型比二次模型有更好的逼近效果,因此本章把第二章中的方法推广到锥模型。首先给出一个求解锥模型子问题的简单方法,在此基础上给出本章算法,理论上证明了该算法的全局收敛性和Q-超线性收敛性,并在数值试验上与基本信赖域算法、滤子信赖域算法、锥模型回溯过滤信赖域算法作比较,表明了该算法的有效性。