非侵入式脑机接口是一种能够在人脑与外部设备之间直接建立通讯的人机交互技术,具有操作便捷、风险性小等优点,在医疗康复、教育、军事、娱乐和智能家居等领域具有重要的应用价值。多脑电模式混合的脑机接口有利于获得更高的识别率和精度,输出更加稳定。本文主要对脑机接口研究领域的运动想象(Motor Imagery,MI)和稳态视觉诱发电位(Steady-state visual evoked potential,SSVEP)两大方向展开相关研究,具体研究工作总结如下:(1)采用浅层卷积神经网络对运动想象脑电信号分类,利用单一特征层来挖掘脑电序列的内在特征,将脑电信号转换为二维图像数据,输入浅层卷积神经网络测试,可以验证轻量化卷积神经网络对脑电信号分类的可行性。(2)结合基于敏感度的范式选择方法和广义黎曼最小均值距离分类器,提出一种降低“脑机接口盲”影响的新方法。运用组合数公式增加范式类别之间组合的可能性,再使用敏感度指标进行范式选择;在黎曼最小均值距离分类器中的对数-欧几里德度量和黎曼斯坦散度之间加入权重因子,选择针对个体的分类器。实验结果显示“脑机接口盲”被试的分类效果得到明显的改善。(3)提出一种控制指令刺激频率新型控制策略,对稳态视觉诱发电位脑机接口进行研究。设计了一种基于召回率的视觉刺激选择方法,通过计算召回率指标,对控制指令的视觉刺激频率进行选择和确定,旨在提升在线实验的安全性能和可靠性。(4)搭建了一个基于MI+SSVEP的多模态脑机接口机器人在线控制系统。MI脑电信号的产生可以不依赖外部刺激,用于进行控制机器人的转动方向;SSVEP脑电信号的信号检测和处理方法较简单且分类准确率高,用于控制机器人的“前进、后退和停止”。该设计显著提高了“脑机接口盲”受试者的控制性能,扩充了脑机接口的控制指令多样性,有望应用在更丰富的场景中。