陆地、海面及某些人工材料往往具有非常复杂的粗糙表面，电磁波在这些粗糙表面的散射特性在光学、电磁学与声学等领域均有十分重要的研究与应用，比如光学界面特性，电磁散射与波传播，海底声波探测等． 在研究粗糙面电磁散射问题时，常常需要将符合实际情况的粗糙面构造出来．粗糙面具有非线性的几何结构，电磁波与粗糙面的相互作用也是非线性的，因此采用非线性的理论和方法研究电磁波与粗糙面的相互作用更能反映其物理本质．在过去的研究中，粗糙面的数学模型经常用周期函数和随机函数描述，而这里用B．B．Mandelbrot提出的分形的概念，用分形几何描述自然界中粗糙面的不规则结构．由于分形几何具有自相似性，可以兼顾大范围有序和小范围的无序的特点，因此用分形带限函数来描述既不是周期的又不是完全随机的实际的粗糙面．目前分形几何已经成功应用于分形表面与波的相互作用的研究．分形粗糙面可以通过与物理现象密切相关的一些参数进行特征化，它的最大优势在于观察得到的一个非常复杂的形状，能够被分形几何的一些特征参数简单描述：即在给定精度条件下，一个非常复杂的形状可以用少量的信息来表示． 分形粗糙面的特征参数不仅由通常粗糙面的随机起伏的相关函数及其相关长度f、起伏方差δ来表示，而且往往还应用分维数D来表示．在应用极小化目标函数的方法对分形粗糙面的分形维数进行反演时，目标函数本身就是经过复杂的偏微分方程数值解法求得的，要计算其导数非常困难，而使用数值微分的一些方法会带来较大的误差，因此有必要采用不用导数信息的直接搜索算法来求解． 本文针对这一问题，给出一种求解无约束极小值的高效的直接搜索算法，证明了算法的收敛性定理，并通过若干算例验证了算法的收敛性．最后将此算法应用于粗糙面散射问题，对分形粗糙面的分形维数进行反演，得到了很好的反演效果．整篇文章的组织结构如下： 第一章是绪论部分，主要对粗糙面散射问题的研究背景和物理意义进行了介绍，并给出了分形的相关理论及其应用． 第二章先是介绍了粗糙面散射问题的数学建模过程，然后用有限元素法对正问题进行了推导和计算，最后给出了求解反问题的目标函数并对最优化理论进行了介绍． 第三章给出了非线性优化的直接搜索算法及收敛性证明，第一节给出了直接搜索算法的具体步骤，第二节证明了收敛性定理，为算法的实际有效的应用提供了理论依据． 第四章的第一节中，构造了简单的算例进行了数值计算，并与前进后退法的计算结果进行了比较，验证了算法的有效性；第二节就参数η的选取和全局最优化问题做了进一步的讨论；第三节给出了算法在分形粗糙面的分形维数反演中的数值模拟结果；第四节进一步讨论了相关参数对反演结果的影响情况． 第五章是讨论与小结，主要就文章的内容进行了小结，就算法理论的应用前景做了进一步的讨论。