随着我国交通运输行业的蓬勃发展,交通基础设施规模日趋庞大,每年新增机动车数量位居世界前列。然而,现有城市道路交通供给水平仍旧难以满足快速增长的出行需求,交通拥堵所产生的一系列问题也亟待解决。当前道路交通流中人类驾驶员反应慢、易出错和随机性大等特点,成为了造成各类交通问题的直接原因。伴随第五代移动通讯技术的发展和自动驾驶技术的更新,兼具“信息互联互通”和“自动驾驶”两项技术优势的智能网联车辆即将成为智能交通系统中的重要组成部分。通过对其行驶轨迹进行规划,降低人工驾驶车辆行驶过程中的不确定因素,成为了缓解道路交通问题的新方向。考虑该技术未来投放初期,道路内部出现两类车辆混合行驶场景将对处于其中的智能车辆轨迹规划工作带来两方面的挑战:1)在混合交通流内部,人工驾驶车辆自身运行的不确定性以及这种不确定性的非线性叠加所造成的复杂环境特征,将直接提高智能车辆行动决策的难度,延长其最优行为的计算时间。2)两类车辆之间所产生的影响并非是单方面的,并且二者之间的互动关系及其产生的后续影响将在混合交通流内部随机和持续的出现,这同样提升了后继状态下智能车辆的最优行为决策难度。因此,如何应对这些挑战来进一步发挥智能车辆对于混合交通流提高通行效率、降低燃油消耗、提升安全指数的能力具有重要的研究意义。基于此,本论文主要内容包含以下几个方面:（1）首先提出了一种基本互动单元的拆分方式,来降低混合交通流内部人工驾驶车辆行为不确定性和车辆互动关系所产生的复杂性问题的分析难度。在此基础上构建了能够与智能网联车辆互动并即时反馈信息的混合交通流环境模型。将研究场景中所包含的状态特征信息、内部车辆运行动力学方程、优化目标函数和边界条件等要素融合到该环境模型的信息输入层、状态更新层和信息输出层三个层级当中。混合交通流环境模型是强化学习理论框架中进一步构建智能车辆决策模型的理论基础。（2）从智能车辆的决策视角出发,将混合交通流中智能网联车辆轨迹规划工作抽象为一系列的连续决策过程,提出了有限马尔可夫决策过程（FMDP）模型。该模型将连续时间等间隔离散化为时间序列,定义了智能车辆决策链中的中间状态和结束状态及其所包含的元素。之后从智能车辆自身行为出发,针对该行为对系统状态所可能造成的改变定义了FMDP状态转移概率。结合不同优化目标函数分析了环境模型输出效益值和FMDP奖励值之间的关系。最后结合混合交通流环境模型中的优化目标函数,定义了决策模型中所用到的奖励函数,并讨论了模型中衰减系数的功能。FMDP模型是后文两类在线轨迹规划算法开发的理论依据。（3）提出了灵活性较强的基于蒙特卡洛树搜索的智能车辆在线纵向轨迹规划算法（MCTS-MTF）,能够使智能网联车辆灵活应对混合车流中的复杂环境并即时决策最优轨迹。该方法结合具体研究场景重新将混合交通流状态、后继状态、智能车辆行为抽象为搜索树中根节点、叶节点、分枝等概念。由环境模型衍生的快速多步模拟过程以及基于平衡系数设置方法的置信上限函数组成了算法的主体结构。之后,所提出了树扩展决策模块和分枝生成判定条件进一步提升了算法整体运行效率。仿真测试环节验证了算法对多种优化目标的有效性和收敛性。在敏感性测试中该算法对不同的背景交通量都能发挥相应的作用。（4）提出了实时性较强的基于深度强化学习理论的智能车辆在线纵向轨迹规划算法（ADRL-MTF）,能够进一步缩短最优轨迹的决策时间。该方法引入状态价值逼近网络（Q网络）替代传统求解算法中的庞大状态价值存储表,同时结合领域知识选择对车辆行为影响最大的四个要素（当前信号灯色,剩余灯时,车辆剩余距离,车辆瞬时速度）作为该网络所需要的输入特征值。分析了算法框架中奖励值对训练过程中智能车辆行为的导向性,并设置了具体的奖励函数。仿真测试环节验证了该算法的有效性和实时应用潜力。稳定性测试发现该方法对于车流初始车头间距分布变化的较为稳定,对于车流中智能车辆比率变化呈正相关关系。敏感性测试则发现该方法对于较长路段的限速值变化较为敏感。