自Alpha Go战胜李世石之后,人工智能技术便再次受到公众的密切关注。随着人工智能技术的广泛应用,它早已渗透到医疗、军事和经济等各个领域,其发展势头已然不可阻挡,但随之而来的却是人们对它的恐慌:如今的人工智能都已如此强大,那在不久的将来,它会控制人类吗?本文首先梳理了人工智能伦理的发展现状。在学者围绕道德主体和伦理框架的问题展开激烈的讨论之后,发现道德恐慌的问题确实存在,并且存在两个方面不足:一方面是缺少公众参与度;另一方面则是忽视人工智能技术本身。因此,需要论证人工智能的本质,并在此基础上建立正确的伦理引导。其次,论证人工智能理论的本质是算法。人工智能之所以智能,是因为其本质在于运用算法对人类的某些认知功能性模仿,因此,从人工智能理论本质和智能本质的角度来看,人工智能不会控制人类,人工智能伦理的道德主体对象还是人类。然后,再从道德恐慌的原因出发,说明两个问题:一是由于公众对人工智能的理论认知不够所带来的道德恐慌是不必要的;二是人工智能技术应该有伦理引导。紧接着引出道德对于科技的作用是:引导向善和适当干预。引导方面主要是倡导“负责任创新”的进路,建立原则,厘清责任;干预方面主要是对人工智能的危险等级进行区分,通过“负责任创新”的进路形成落地的伦理建制。再次,建立“负责任创新”的进路,从责任与控制的角度分析道德与人工智能之间的关系,明确人工智能伦理中的责任主体是人类。再根据责任伦理理论,建立以人为本、预防为主、分级管理等三个原则,并依据这三个原则分析无人驾驶汽车的伦理责任分配,从而细化人工智能伦理责任分配。它关系到使用者、设计者、生产者、监督者和政府管理者五个责任方。最后,根据人工智能按照价值输入输出情况和伦理行为主体的特征,将人工智能技术开发分为四个阶段:安全区、过渡区、发展区和危险区。同时,具体探讨这四个阶段相应的责任方,根据不同的情况进行干预,警惕技术异化。由此,我们可以建立技术和伦理实践良好的互动机制,从源头上出发,建立技术的道德科普引导机制,促进科学文化和人文文化的交融,逐步完善政策和法规,构建开放的人工智能伦理发展环境,让道德助力人工智能的“向善”发展。展望未来,与其深陷在科技盲的道德恐慌中,不如深耕新科技原理,成为新科技的支持者,积极建设“人机和谐”关系。