近年来,人工智能的兴起使得通过手势、姿态、语音和人脸等人体生物学特征进行交互取得了较大的进展。在众多趋于智能化的交互方式中,手势因其自然、容易理解、受种族影响较小等优点被越来越多的人关注。手势识别的意义就是使得计算机能够理解手势所表达的含义,将其转换为指令来对计算机完成一系列的操作,在智能家居、无人驾驶、交通指挥等领域都有广阔的应用场景。手势识别主要分为基于硬件设备的手势识别和基于视觉的手势识别,后者由于不需要用户佩戴额外的设备,更符合自然场景下的人机交互习惯,且具有更大的研究价值和应用市场。本论文针对基于视觉的手势识别进行研究,重点研究了应用人工神经网络技术实现手势识别,并深入探讨了基于教与学优化(Teaching&Learning based Optimization,TLBO)算法实现神经网络参数优化的原理和方法,以及针对教与学优化算法的改进。主要研究内容有如下三个方面:(1)提出了一种应用LVQ神经网络实现手势识别的方法,首先在YCr Cb空间下基于肤色信息对图片中的手势部分进行分割,经过形态学处理后利用主成分分析进行特征提取,最后将提取后的特征输入到LVQ神经网络中训练并实现手势识别。(2)为了克服LVQ神经网络对初始权值敏感的弱点,提出了一种改进TLBO算法进行参数寻优的技术。首先对TLBO算法的种群进行混沌初始化,以保证种群对解空间的覆盖。为了提高算法的解精度,在算法的迭代后期引入部分劣质个体的强化学习机制,强化对当前解周围空间的搜索。相关的实验表明,该算法能够寻找到LVQ神经网络更合理的初始权值参数,提高了手势识别的准确率。(3)为了克服TLBO算法在求解高维度问题时,表现出的容易过早收敛,后期收敛速度变慢,解精度较低的弱点,提出了一种引入文化优化算法框架的混合文化机制教与学优化算法。在该算法中,种群被划分为主群体空间和信仰空间两个子群体。主群体空间采用标准教与学优化算法进行迭代演化,并定期向信仰空间贡献代表此时知识水平最佳的精英个体。信仰空间的种群则采用反向学习算法提高种群的多样性并定期影响主群体空间。最后将改进后的算法用于LVQ神经网络初始参数寻优,并应用于手势识别任务中。实验结果表明,改进后的算法可以有效提高手势识别的准确率和鲁棒性。