论文部分内容阅读
【摘 要】 致命性自主武器伴随着人工智能的快速发展而成为科学家和法学家们讨论的热点。尽管尚未形成统一的定义，目前也没有真正意义上的这种武器，但是绝大多数的学者们相信它的出现只是时间问题。它可能冲击现有的国际人道法的秩序，主要是区分原则、比例原则和预防原则，甚至给人类带来人道灾难。国际社会既有支持其发展的声音，也有反对的看法，甚至还有中间道路。中国应当积极应对，捍卫国家利益。
【关键词】 致命性自主武器 人工智能 国际人道法 应对态度
一、问题的提出
前景无限的人工智能应用到军事领域就引发了专家们的担忧：以霍金、马斯克等人为代表的科学家们对具有AI智慧的自主武器持否定态度，联合众多专家警告并抵制自主武器的发展。除了科学家们担心的“机器人可以杀人”的伦理危机外，国际法学界也对这个问题有了激烈的讨论。《特定常规武器公约》缔约国自2014年以来每年组织专家组会议讨论致命性自主武器可能引发的国际法问题，中英美俄德等大国积极参与，发表意见，阐述立场。虽然各国在众多问题上有分歧，但是最核心的疑问就是：此种将来会出现的装载人工智能的武器能否遵循现有的国际人道法规则呢？
二、有争论的定义
由于科技发展的不确定性和致命性自主武器的概念性，相关国际组织和学者以及各国政府对于这种武器都有各自的理解和定义，有的甚至非常悬殊。比如中国和英国政府认为，致命性自主武器是具有高度人工智能、在战场上不受人类控制，甚至可以发展出自我意识的武器，因此需要被禁止。国际红十字会认为，武器的关键功用具有自主性，且在没有人类的干预下能够选择并攻击目标的武器是自主武器。美国国防部给出的定义是：一旦启动，能够选择并攻击目标，不需要人类操作者的干预。
笔者认为，从字面意义上解释“致命性自主武器”，则需要采用拆解法，分别解释每个独立的概念。首先，“致命性”是形容该武器的特点，因此限定了这类武器的用途和范围，排除了那些侦查型的武器。第二，也是最主要的特点，“自主”，这里的理解是不需要传统意义上人类的操作，能够独立完成任务，否则像无人轰炸机那样仍然需要人类扣下扳机的武器就不是自主武器，更不是概念上的武器。最后，它是武器，本质属性和传统的枪、炮没有区别，只不过是可以自动找寻目标。强调这一点是因为不能因为它具有一部分战斗员的战斗智慧和特点就认为它在国际法上属于战斗员。
从学界主流的观点来看，将该武器定义为近似电影《终结者》中的机器人是过于夸张的，不被绝大多数学者接受。即使大家对于“自主性”的理解不同，在用语上有所差异，但是人们对致命性自主武器仍然有着共识：即该武器具有高度的人工智能，与传统武器相比，人类干预大大减少甚至为零。
三、它符合国际人道法吗？
反对发展这类武器的学者认为，存在于国际人道法现行的存在于日内瓦四公约中的區分原则、比例原则、预防原则，必然不能被致命性自主武器遵守。拥护致命性自主武器的学者则坚持，现行的国际人道法规则不会受到威胁和破坏。走中间道路的学者则强调，是否能够遵循战争法则需要个案分析，在有的情况下可以，在有的情况下未必。
区分原则要求战斗员和平民，军事物体和非军事物体需要在战场上被区分开来，主要目的是为了保护无辜的民众。比例原则强调战斗员在行动前应当对可获得的军事利益有所预判，所造成的损害或者平民伤亡不能超过可期待的军事利益，旨在禁止为了战争而不择手段，同样意在保护平民。预防原则要求战斗员时时刻刻在战场上保持判断能力，履行注意义务，避免伤害平民。反对派学者坚信致命性自主武器无法区分平民与战斗员，尤其是在复杂的战场状况下；同时，比例原则本身就是针对人设置的法律规则，人的主观判断在其中至关重要，因此脱离或几乎脱离了人类控制的自主武器从本质上不可能遵循比例原则；最后如何保证自主武器能时刻履行注意义务，避免误伤平民，这在反对派看来是几乎不可能的事情，因为致命性自主武器的目的就在于杀伤敌军。有意思的是，支持派的学者从相同的原则出发，分析出了相反的结论。他们认为基于现有的技术发展和合理的推论，人工智能大数据深度学习的能力在未来是可以有效区分平民与战斗员的，而比例原则也可以通过输入参数计算，数据比较来实现，至于预防原则，人类可以在自主武器中设置自我毁灭程序或者保障人类能够终止行动的权限，这样在紧急情况下就可以实现保护平民的目的。
四、应对策略
合法性的争论还在继续，似乎不等到致命性自主武器问世的那一天不会休止。但是一个不能等待的问题是我们应当以何种态度面对自主武器。军事强国如俄罗斯和美国积极支持它的发展，小国主要是发展中国家则表达了自己的忧虑，主张禁止其发展。然而现实问题在于美俄等军事强国要想积极探索人工智能在武器领域的发展，其他国家是阻止不了的。再加上以非法为理由完全禁止致命性自主武器难有技术支持，一部分学者于是采取折中办法，建议限制该武器的研发和使用。至于采取何种形式达到禁止，限制或支持发展致命性自主武器，宏观上来看目前有两种形式：硬法和软法。硬法即依托特定常规武器公约这个平台，制定出具有拘束力的附加议定书；软法即以“宣言”等文本出台不具有约束力的，而是倡导性质的文件。
不论目前的争论如何，在迎接武器革命的浪潮中，中国应当以积极的姿态面对挑战，主动参与国际性会议，充分表达观点，提升国际话语权，并坚定捍卫我国国家利益。
作者简介：胡天（1995.04-） 男 汉族 安徽六安 硕士研究生 武汉大学法学院 研究方向国际人道法
【关键词】 致命性自主武器 人工智能 国际人道法 应对态度
一、问题的提出
前景无限的人工智能应用到军事领域就引发了专家们的担忧：以霍金、马斯克等人为代表的科学家们对具有AI智慧的自主武器持否定态度，联合众多专家警告并抵制自主武器的发展。除了科学家们担心的“机器人可以杀人”的伦理危机外，国际法学界也对这个问题有了激烈的讨论。《特定常规武器公约》缔约国自2014年以来每年组织专家组会议讨论致命性自主武器可能引发的国际法问题，中英美俄德等大国积极参与，发表意见，阐述立场。虽然各国在众多问题上有分歧，但是最核心的疑问就是：此种将来会出现的装载人工智能的武器能否遵循现有的国际人道法规则呢？
二、有争论的定义
由于科技发展的不确定性和致命性自主武器的概念性，相关国际组织和学者以及各国政府对于这种武器都有各自的理解和定义，有的甚至非常悬殊。比如中国和英国政府认为，致命性自主武器是具有高度人工智能、在战场上不受人类控制，甚至可以发展出自我意识的武器，因此需要被禁止。国际红十字会认为，武器的关键功用具有自主性，且在没有人类的干预下能够选择并攻击目标的武器是自主武器。美国国防部给出的定义是：一旦启动，能够选择并攻击目标，不需要人类操作者的干预。
笔者认为，从字面意义上解释“致命性自主武器”，则需要采用拆解法，分别解释每个独立的概念。首先，“致命性”是形容该武器的特点，因此限定了这类武器的用途和范围，排除了那些侦查型的武器。第二，也是最主要的特点，“自主”，这里的理解是不需要传统意义上人类的操作，能够独立完成任务，否则像无人轰炸机那样仍然需要人类扣下扳机的武器就不是自主武器，更不是概念上的武器。最后，它是武器，本质属性和传统的枪、炮没有区别，只不过是可以自动找寻目标。强调这一点是因为不能因为它具有一部分战斗员的战斗智慧和特点就认为它在国际法上属于战斗员。
从学界主流的观点来看，将该武器定义为近似电影《终结者》中的机器人是过于夸张的，不被绝大多数学者接受。即使大家对于“自主性”的理解不同，在用语上有所差异，但是人们对致命性自主武器仍然有着共识：即该武器具有高度的人工智能，与传统武器相比，人类干预大大减少甚至为零。
三、它符合国际人道法吗？
反对发展这类武器的学者认为，存在于国际人道法现行的存在于日内瓦四公约中的區分原则、比例原则、预防原则，必然不能被致命性自主武器遵守。拥护致命性自主武器的学者则坚持，现行的国际人道法规则不会受到威胁和破坏。走中间道路的学者则强调，是否能够遵循战争法则需要个案分析，在有的情况下可以，在有的情况下未必。
区分原则要求战斗员和平民，军事物体和非军事物体需要在战场上被区分开来，主要目的是为了保护无辜的民众。比例原则强调战斗员在行动前应当对可获得的军事利益有所预判，所造成的损害或者平民伤亡不能超过可期待的军事利益，旨在禁止为了战争而不择手段，同样意在保护平民。预防原则要求战斗员时时刻刻在战场上保持判断能力，履行注意义务，避免伤害平民。反对派学者坚信致命性自主武器无法区分平民与战斗员，尤其是在复杂的战场状况下；同时，比例原则本身就是针对人设置的法律规则，人的主观判断在其中至关重要，因此脱离或几乎脱离了人类控制的自主武器从本质上不可能遵循比例原则；最后如何保证自主武器能时刻履行注意义务，避免误伤平民，这在反对派看来是几乎不可能的事情，因为致命性自主武器的目的就在于杀伤敌军。有意思的是，支持派的学者从相同的原则出发，分析出了相反的结论。他们认为基于现有的技术发展和合理的推论，人工智能大数据深度学习的能力在未来是可以有效区分平民与战斗员的，而比例原则也可以通过输入参数计算，数据比较来实现，至于预防原则，人类可以在自主武器中设置自我毁灭程序或者保障人类能够终止行动的权限，这样在紧急情况下就可以实现保护平民的目的。
四、应对策略
合法性的争论还在继续，似乎不等到致命性自主武器问世的那一天不会休止。但是一个不能等待的问题是我们应当以何种态度面对自主武器。军事强国如俄罗斯和美国积极支持它的发展，小国主要是发展中国家则表达了自己的忧虑，主张禁止其发展。然而现实问题在于美俄等军事强国要想积极探索人工智能在武器领域的发展，其他国家是阻止不了的。再加上以非法为理由完全禁止致命性自主武器难有技术支持，一部分学者于是采取折中办法，建议限制该武器的研发和使用。至于采取何种形式达到禁止，限制或支持发展致命性自主武器，宏观上来看目前有两种形式：硬法和软法。硬法即依托特定常规武器公约这个平台，制定出具有拘束力的附加议定书；软法即以“宣言”等文本出台不具有约束力的，而是倡导性质的文件。
不论目前的争论如何，在迎接武器革命的浪潮中，中国应当以积极的姿态面对挑战，主动参与国际性会议，充分表达观点，提升国际话语权，并坚定捍卫我国国家利益。
作者简介：胡天（1995.04-） 男 汉族 安徽六安 硕士研究生 武汉大学法学院 研究方向国际人道法