机器学习以知识的自动获取和产生为研究目标，是人工智能领域研究的热点问题之一。分类器的优化设计一直是机器学习、模式识别和数据挖掘等领域研究的核心问题，它在图像识别、语音理解、自然语言处理、医疗诊断及Web页面的分类等领域具有广泛的应用。如何提高分类器对环境的适应能力，是分类器优化设计的关键问题。应用机器学习方法实现分类器的优化设计，是机器学习和人工智能界的一个重要研究课题。本文以机器学习及其在神经网络分类器设计中的应用为研究内容，重点研究了机器学习在求解神经网络分类器设计中的网络结构优化和样本选择优化问题的方法。本文的主要研究工作如下：1)从分类器设计的角度出发，讨论了机器学习的最新发展方向及面临的具体问题，并对近年来出现的一些新机器学习方法进行了分析和研究。2)研究了流形学习的分类器网络结构优化设计问题，针对利用神经网络对同一对象的非线性结构样本集进行分类和识别时，如何合理地设计网络结构的问题，提出了一个新颖的基于低维参数空间估计的神经网络结构设计的方法。该方法以流形学习为基础，结合Sammon系数有效估计出低维参数空间大小，并将此对应到神经网络结构分组设计的隐节点分组数目上，从而设计出具有一定泛化能力的网络结构。3)研究了主动学习的分类器样本优化选择准则：针对模糊神经网络分类器设计过程中所遇到的样本采样与标记过程耗时长、代价大的问题，提出了一个新颖的模糊神经网络样本主动选择准则，以最小—最大边界法以及确定样本的不确定性阈值两个新概念来定义样本的选择标准，确保选择其中信息量尽可能大的样本进行标记，使得网络设计过程中对未标记样本的标记工作量和时间大为减少。4)未标记样本的模糊神经网络分类器设计：针对已标记和未标记样本的混合分类问题。提出了一种基于非刻度—多维度收缩的、新的排序—模糊神经网络分类器模型。该模型首先利用非刻度—多维度收缩法对输入的所有样本进行了排序，然后获得样本间的相似性测度值，并利用该相似性测度值指导随后的分类器超盒扩张与压缩过程，从而使得该模型不仅提高了对未标记样本进行有效分类的性能，而且无论是在网络结构方面，还是在训练时间方面都有所改进。