脑-机接口(Brain Computer Interface，BCI)是一种人工搭建的不依赖于大脑外周神经细胞与肌肉组织的独立信息传输渠道，大脑可利用该通道实现与外部设备的信息交互。脑电信号（Electroencephalogram，EEG）是由大脑皮层大量神经细胞突触后电位同步综合而形成的生理电信号，能有效地反应大脑思维状态和神经元活动情况。基于EEG信号的BCI系统具有无创性与直观性的特点、重要的研究价值以及良好的应用前景，已成为脑-机接口研究领域一个重要的分支。在国家自然科学基金项目（61172134）的支持下，本文按照课题“基于多种运动想象脑电信号识别的虚拟现实系统控制方法研究”的要求，从脑电信号产生的机理与特点出发，对脑电信号的采集、预处理、特征提取、模式识别方法做了系统的分析和研究，同时结合虚拟现实技术，设计并实现了一个在线的基于四类运动想象脑电控制的虚拟现实BCI系统，利用该BCI系统完成了脑电信号控制虚拟场景运动及方向的实验，为脑-机接口系统在实际中的应用提供理论与技术支撑。本文研究的主要内容以及创新点如下：在脑电信号消噪方面，针对传统软阈值函数在脑电去噪过程中会丢失部分重要细节信息的问题，提出了一种基于双变量收缩阈值函数与HD离散小波相结合的消噪方法。首先采用HD离散小波对信号进行分解，再运用双变量阈值函数对系数作收缩处理。仿真结果表明，该方法可有效地抑制信号的噪声，并保留其边缘特征，相比与常用的阈值收缩去噪方法，具有更佳的细节刻画和信号还原能力。在脑电信号特征提取方面，针对离散小波变换存在抗混叠性差的缺陷，提出了一种基于归一化双树复小波能量的运动想象脑电信号特征提取方法。通过对仿真与实测信号的分析，证实双树复小波变换具有良好的混叠抑制能力和抗噪性，其提取的子带能量特征能更好地反应运动想象脑电的真实特性。同时结合脑电信号的非线性特征与ERS/ERD现象，利用双树复小波分解得到节律信号并提取α波和β波的排列组合熵以表征运动想象脑电的非线性特征，实验结果表明运动想象EEG信号的节律波排列组合熵特征的区分度要好于完整EEG信号的排列组合熵特征。在脑电信号的识别方法上，提出了一种基于遗传算法参数寻优的模糊支持向量机EEG信号分类方法。模糊支持向量通过选择一个适当的隶属度函数对训练样本进行模糊化，赋异值点或噪声样本以较小的隶属度，弱化其中部分野值点对分类模型的影响，进而提升系统的分类性能。同时采用遗传算法解决了支持向量机中最优分类参数组合（惩罚参数C与核函数变量γ）的搜索问题。本文选取与左手、右手、脚和舌运动想象相关的C3、C4、Cz、Cp4四个通道的脑电信号，提取各通道的归一化双树复小波能量和节律信号的排列组合熵作为联合特征向量，采用FSVM进行分类识别。离线实验结果表明，相比与普通的SVM，基于遗传算法模糊支持向量机的EEG信号分类正确率有较大的提升，其平均识别率为68.75%。成功搭建了基于运动想象脑电信号控制的虚拟现实平台。设计了该平台的总体实现方案，利用Matlab和C++混合编程完成了对BCI客户端，虚拟现实漫游系统等软件的改造，建立了以脑电信号采集模块、脑电信号处理与识别模块、虚拟现实场景运动控制模块组成的在线BCI模拟演示系统。利用受试者想象左手、右手、脚、舌头四种思维运动进行了运动想象脑电的在线控制实验，在虚拟现实场景中实现对应的运动控制。实验结果表明在线的分类正确率与离线分析的结果接近，最高的平均识别率为65%。同时本文尝试采用四种运动想象EEG实现在虚拟现实系统中的漫游，并对实验结果进行了分析。