大型企业对算法服务相关业务越来越多,算法也越来越复杂,对于算法服务的任务调度就显得尤为重要。在当今市场化激烈竞争中,如何实现算法的服务化和算法任务的最高效调度,成了企业急需解决的重点问题。论文选题来自于实习公司的实际工程项目,设计和实现了分布式综合任务的调度平台Autobots,用于作AI任务调度。平台的系统设计目标是在保证高效、稳定地接收业务端AI请求与各种AI服务运行时的基础上,尽可能提高系统资源的利用率,提高AI服务的效率和吞吐量,并为各个业务端和算法优化提供可信的数据反馈。该平台实现了在多计算服务器上进行任务处理调度,充分利用分布式计算机计算能力优势,支持和提供对于工作流、异步、同步服务任务的调度。用户通过Web界面可以直接对服务进行操作,可以对服务集群进行动态缩容扩容。该平台利用Promethus采集平台调度和服务数据的多重指标,能够及时给平台开发者和算法提供方有效的反馈来对调度平台和算法进行优化。在功能上,平台总共划分成了元数据管理、API网关、工作流引擎、同步任务调度、异步任务调度、结果回调和平台监控等七个大的模块。其中,元数据管理模块用来提供元数据管理服务,给用户提供可界面操作的管理平台;API网关是业务方的入口,负责全部任务请求的分发;工作流引擎配合异步任务调度和同步任务调度来对外提供工作流、异步,同步服务任务的调度功能;结果回调则负责将处理完的结果回调;最后的平台监控能够为平台和服务提供多种指标监控功能。在设计过程中,模块之间采用消息队列进行通信,极大提高调度平台的扩展性。笔者参与了项目的主要模块包括:API网关模块、工作流任务调度模块、同步任务注册和调度模块、监控和数据收集模块以及结果回调模块。目前综合任务调度平台已正式部署在企业生产环境中,承接了算法团队所有服务的任务调度需求,将算法服务化工作从脚本方式中解放了出来,在保证任务高效调度的基础上,利用监控的及时反馈,大大提高了企业生产效率。