论文部分内容阅读
当下,我国已成为世界上风电装机容量最大的国家,风力发电已经成为调整发电能源结构的重要手段。同时新一轮的电力体制改革也在如火如荼的推进中,公平公正的电力市场机制正在逐步完善,风力发电作为发电商并网并进入电力市场追逐利润成为必然趋势。然而,风电和市场电价本身具有不确定性,这对电力系统经济调度带来了诸多挑战。在此背景下,如何协调风力发电作为被动电源和发电商的双重身份即如何在应对多重不确定性的同时追逐最大利益成为风力发电决策与控制急需解决的难题。储能系统和其他具有调节能力的备用作为风电场的调度对象能解决上述问题。目前面向风电场储能/备用的不确定性调度优化算法可以被分为两大类:一类以基于场景的随机优化、动态规划、机会约束等方法为代表,该类方法在进行优化前需要将风电或市场电价的不确定性人为地表征为已知的数学概率分布。然而假设的概率分布是否与实际的风电场不确定性规律匹配将直接影响整个优化算法的优化效果;另一类鲁棒优化方法将不确定性用考虑极端结果的区间来模糊表示,规避了对不确定性的人为假设,提升了计算效率。然而,该类方法未能有效挖掘不确定性规律,导致其决策结果具有保守性,在以收益为首要目标的电力市场环境中该类优化方法能否采纳值得商榷。本文对基于深度强化学习(deep reinforcement learning,DRL)的风电场发电策略进行研究。DRL是一种基于大数据挖掘的无模型(model-free)优化方法,其优点在于完全依靠数据完成了对风电功率与电价的多重不确定性规律的挖掘,能够充分利用大数据中的有效信息,摆脱传统数学优化方法的局限性。本文将风电场的连续最优控制描述为马尔科夫决策过程,并指出DRL能够天然应对不确定性。然后,提出一种基于DRL的风-储-备用联合发电方法,利用大数据直接驱动对控制器的优化,优化过程无需对不确定性进行人为假设。其中,储能系统和外部备用被首次同时作为风电场发电的调控手段。整个方法由大数据驱动,利用深度神经网络逼近含不确定性的最优控制策略,所用深度强化学习算法在Rainbow框架上实现。进而,本文对传统的调度框架进行改进,提出了基于DRL的风电场储能系统预测决策一体化调度方法,令含原始测量数据的高维度风电场状态直接驱动储能系统。同预测、决策相分离的传统调度模式相比,预测决策一体化调度模式将风电功率预测与储能系统动作决策相融合,避免了预测阶段中有效决策信息的损失。文章使用江苏风电场风机数据进行算例分析,并与多种基准方法进行对比,实验结果验证了深度强化学习在应对风电不确定性问题上的有效性和所提预测决策一体化调度模式的优越性。