论文部分内容阅读
人们愿意派遣杀人机器到前线作战，而不愿让自己子女战死沙场。但是，人们却又不希望看到敌人派杀人机器来追杀自己。那么，人类到底要不要拥有这种“杀手机器人”（killer robots），即所谓的致命的自主武器（lethal autonomous weapons）？
对于这件事，特斯拉和SpaceX CEO埃隆·马斯克的立场可谓异常坚定：禁止。
“永远不应将人类生命的决定权委托给机器。”
“致命的自主武器，在没有人为干预的情况下选择和参与目标，将危及每个国家和个人的稳定。”
“我们既不参与也不支持致命自主武器的开发、制造、贸易往来或使用。”
近日，马斯克以及谷歌顶级人工智能研究团队Deep Mind创始人领衔的多家科技界大佬，与来自数百家公司的2000多名人工智能（AI）及机器人领域的科学家，在斯德哥尔摩国际AI联合会议上联名签署《致命性自主武器宣言》，誓言绝不将他们的技能用于开发自主杀人机器。
这已经不是马斯克第一次表达如上的忧虑了。
2017年7月，马斯克在出席一场由美国各州州長参加的会议时曾强调，“我一直在敲响警钟，等到哪天机器人真的走上街头、屠杀人类时，大家会不知所措。”
随后的8月，马斯克就与100多名AI领域领袖人物签署公开信，敦促联合国阻止这项技术改变我们所熟悉的冲突模式。
这封公开信中提到：“致命的自主武器有可能成为战争中的第三次革命。一旦它们发展起来，可能导致武装冲突以比以往任何时候更大的规模进行，而且速度比人类所能理解的还要快。”“这些自主武器可能成为恐怖武器，比如独裁者和恐怖分子可能对无辜人群使用。”
有分析认为，马斯克认为AI威胁人类文明的观点很大程度上可能是受畅销书《超级智能》作者尼克·博斯特罗姆的影响。2014年8月，马斯克读完《超级智能》，便在社交媒体Twitter上公开表示要慎用人工智能，称其比核武器还要危险。
彼时，他在参加《名利场》举办的活动时，称机器人可能像删除垃圾邮件一样“删除”人类。之后他又发表“机器人威胁论”，称机器人会在短短的5年内对人类造成严重威胁。
到2015年，马斯克、物理学家史蒂芬·霍金以及苹果联合创始人史蒂夫·沃兹尼亚克等3000多名AI研究人员签署公开信，要求禁止开发“超过人类控制意义之外的自主武器”。当时的研究人员们就说，AI军备竞赛是个“糟糕的主意”。
马斯克还捐赠1000万美元，用来研究懂得“伦理道德”的机器人，以确保他们不会毁灭人类。比如，帮助人工智能系统通过观察我们的行为，从而了解人类需求；教授人工智能如何向我们解释它们做出决定的理由，就像机器人电影《超能查派》中查派能够快速学习，吸取人类的教导那样。
2016年，马斯克成立了脑机接口公司Neuralink，追求一种叫做“神经织网”（neural lace）的技术，在人脑中植入微小的脑电极，有朝一日用来上传或下载人的思想。
“我认为可以通过改进大脑皮层和数字设备之间的神经元连接，来有效地把AI与人融合在一起，你将成为‘AI—人类’混合体。此外，如果这种形式可以得到普及的话，我们就不用担心一些邪恶的AI独裁者了，因为我们就是AI的集合。这是我能想到的最好的方法。”马斯克说。
现实中，先进智能化武器确实存在。据了解，美国不仅研发了UTAP-22“鲭鲨”、XQ-222“女武神”等智能化无人机，还先后研发了陆上“翼人”机器人车辆、海上水面无人攻击艇、潜射型机器人、多功能无人潜航器、由海向陆的MUX无人武装直升机等，形成以人工智能技术为基础、以集群智能技术为连接的无人兵团。俄罗斯也研发了“天王星”、“平台”小型无人战车等智能化作战平台……
据不完全统计，目前全球已超过60个国家的军队装备了军用机器人，种类超过150种。照此发展趋势，未来军用机器人在战场上成建制规模化作战也未必不可能。
在2017年底举行的联合国特定常规武器会议上，播放了一部血腥的微电影：影片中，人类发明了“机器杀人蜂”，它能自己“飞行”，也可以随机运动，用来反狙击，能够在瞬间杀死一群无辜的人。它自带广角摄像头、传感器、面部识别，且在其中部，还有3克炸药，一击即中，极端致命。
目前的武装无人机，还是由士兵操控的。而这种“机器杀人蜂”不用人类操控，能够根据预定条件，自主搜索和判断是否杀死人类。这是人工智能武器的厉害之处，也是它的可怕之处。
美国伯克利大学教授、AI领域资深专家斯图尔特·罗素警告说，“如果这些机器被赋予杀人的能力，将对我们的安全与自由造成毁灭性的打击。”
Facebook创始人扎克伯格一直被外界看作是马斯克在AI观点上的反对者。2017年7月，扎克伯格指责马斯克所描述的末日恐慌是消极的、不必要的，“在某种程度上，这是相当不负责任的行为。未来10年，人工智能将大幅改善人类的生活。”马斯克随后回应称，已和扎克伯格谈过，他对人工智能的理解有限。
谷歌母公司Alphabet执行董事长埃里克·施密特在2017年也反击过马斯克的AI威胁论是杞人忧天。
“如果你觉得人工智能在智商上超越人类后就将毁灭我们的种族，那你科幻电影一定是看多了——难道人类会傻到察觉不了AI造反的蛛丝马迹？直接断了它们的电源就好。”施密特如是说。
不过，《机器人的兴起：技术和失业未来的威胁》作者表示，对于人工智能对人类构成生存威胁这件事，马斯克的担忧是合理的，也不应该被忽视。但这种担忧要在至少50年之后才可能会出现。
2015年7月，德国大众汽车公司一家工厂里，一台新型协作机器人杀死了一名22岁的装配技术员。当时他与一名同事合作安置机器人，但被机器人击中胸部，并被抓起、重重摔在一块金属板上，最终因伤重不治身亡。当时，大众发言人推断事故是由人为错误导致，并不是机器人“蓄意杀人”。
尽管这可能只是一起安全事故，但关于“机器人杀人”的争论再度出现。未来机器人对人类的威胁，除了在工厂与人类抢夺饭碗外，还可能成为人类的敌人甚至是“终结者”。
对此，许多网友脑洞大开。比如，有的网友随即联想到《复仇者联盟2》里的奥创，刚一出世就对自己的创造者怀着莫名其妙的憎恨，一心想要消灭全人类。还有网友担心“这个世界上很多机器人其实已经有能力通过图灵测试（编者注：如果有超过30%的测试者不能确定出被测试者是人还是机器，那么这台机器就通过了测试，并被认为具有人类智能），只是他们在假装不能”。
责编：张璐晶
对于这件事，特斯拉和SpaceX CEO埃隆·马斯克的立场可谓异常坚定：禁止。
“永远不应将人类生命的决定权委托给机器。”
“致命的自主武器，在没有人为干预的情况下选择和参与目标，将危及每个国家和个人的稳定。”
“我们既不参与也不支持致命自主武器的开发、制造、贸易往来或使用。”
近日，马斯克以及谷歌顶级人工智能研究团队Deep Mind创始人领衔的多家科技界大佬，与来自数百家公司的2000多名人工智能（AI）及机器人领域的科学家，在斯德哥尔摩国际AI联合会议上联名签署《致命性自主武器宣言》，誓言绝不将他们的技能用于开发自主杀人机器。
马斯克：“杀手机器人”比核武器还危险
这已经不是马斯克第一次表达如上的忧虑了。
2017年7月，马斯克在出席一场由美国各州州長参加的会议时曾强调，“我一直在敲响警钟，等到哪天机器人真的走上街头、屠杀人类时，大家会不知所措。”
随后的8月，马斯克就与100多名AI领域领袖人物签署公开信，敦促联合国阻止这项技术改变我们所熟悉的冲突模式。
这封公开信中提到：“致命的自主武器有可能成为战争中的第三次革命。一旦它们发展起来，可能导致武装冲突以比以往任何时候更大的规模进行，而且速度比人类所能理解的还要快。”“这些自主武器可能成为恐怖武器，比如独裁者和恐怖分子可能对无辜人群使用。”
有分析认为，马斯克认为AI威胁人类文明的观点很大程度上可能是受畅销书《超级智能》作者尼克·博斯特罗姆的影响。2014年8月，马斯克读完《超级智能》，便在社交媒体Twitter上公开表示要慎用人工智能，称其比核武器还要危险。
彼时，他在参加《名利场》举办的活动时，称机器人可能像删除垃圾邮件一样“删除”人类。之后他又发表“机器人威胁论”，称机器人会在短短的5年内对人类造成严重威胁。
到2015年，马斯克、物理学家史蒂芬·霍金以及苹果联合创始人史蒂夫·沃兹尼亚克等3000多名AI研究人员签署公开信，要求禁止开发“超过人类控制意义之外的自主武器”。当时的研究人员们就说，AI军备竞赛是个“糟糕的主意”。
马斯克还捐赠1000万美元，用来研究懂得“伦理道德”的机器人，以确保他们不会毁灭人类。比如，帮助人工智能系统通过观察我们的行为，从而了解人类需求；教授人工智能如何向我们解释它们做出决定的理由，就像机器人电影《超能查派》中查派能够快速学习，吸取人类的教导那样。
2016年，马斯克成立了脑机接口公司Neuralink，追求一种叫做“神经织网”（neural lace）的技术，在人脑中植入微小的脑电极，有朝一日用来上传或下载人的思想。
“我认为可以通过改进大脑皮层和数字设备之间的神经元连接，来有效地把AI与人融合在一起，你将成为‘AI—人类’混合体。此外，如果这种形式可以得到普及的话，我们就不用担心一些邪恶的AI独裁者了，因为我们就是AI的集合。这是我能想到的最好的方法。”马斯克说。
联合国曾曝光“杀手机器人”视频：人脸识别，一击即中
现实中，先进智能化武器确实存在。据了解，美国不仅研发了UTAP-22“鲭鲨”、XQ-222“女武神”等智能化无人机，还先后研发了陆上“翼人”机器人车辆、海上水面无人攻击艇、潜射型机器人、多功能无人潜航器、由海向陆的MUX无人武装直升机等，形成以人工智能技术为基础、以集群智能技术为连接的无人兵团。俄罗斯也研发了“天王星”、“平台”小型无人战车等智能化作战平台……
据不完全统计，目前全球已超过60个国家的军队装备了军用机器人，种类超过150种。照此发展趋势，未来军用机器人在战场上成建制规模化作战也未必不可能。
在2017年底举行的联合国特定常规武器会议上，播放了一部血腥的微电影：影片中，人类发明了“机器杀人蜂”，它能自己“飞行”，也可以随机运动，用来反狙击，能够在瞬间杀死一群无辜的人。它自带广角摄像头、传感器、面部识别，且在其中部，还有3克炸药，一击即中，极端致命。
目前的武装无人机，还是由士兵操控的。而这种“机器杀人蜂”不用人类操控，能够根据预定条件，自主搜索和判断是否杀死人类。这是人工智能武器的厉害之处，也是它的可怕之处。
美国伯克利大学教授、AI领域资深专家斯图尔特·罗素警告说，“如果这些机器被赋予杀人的能力，将对我们的安全与自由造成毁灭性的打击。”
马斯克是杞人忧天吗
Facebook创始人扎克伯格一直被外界看作是马斯克在AI观点上的反对者。2017年7月，扎克伯格指责马斯克所描述的末日恐慌是消极的、不必要的，“在某种程度上，这是相当不负责任的行为。未来10年，人工智能将大幅改善人类的生活。”马斯克随后回应称，已和扎克伯格谈过，他对人工智能的理解有限。
谷歌母公司Alphabet执行董事长埃里克·施密特在2017年也反击过马斯克的AI威胁论是杞人忧天。
“如果你觉得人工智能在智商上超越人类后就将毁灭我们的种族，那你科幻电影一定是看多了——难道人类会傻到察觉不了AI造反的蛛丝马迹？直接断了它们的电源就好。”施密特如是说。
不过，《机器人的兴起：技术和失业未来的威胁》作者表示，对于人工智能对人类构成生存威胁这件事，马斯克的担忧是合理的，也不应该被忽视。但这种担忧要在至少50年之后才可能会出现。
德国大众“机器人杀人”事件
2015年7月，德国大众汽车公司一家工厂里，一台新型协作机器人杀死了一名22岁的装配技术员。当时他与一名同事合作安置机器人，但被机器人击中胸部，并被抓起、重重摔在一块金属板上，最终因伤重不治身亡。当时，大众发言人推断事故是由人为错误导致，并不是机器人“蓄意杀人”。
尽管这可能只是一起安全事故，但关于“机器人杀人”的争论再度出现。未来机器人对人类的威胁，除了在工厂与人类抢夺饭碗外，还可能成为人类的敌人甚至是“终结者”。
对此，许多网友脑洞大开。比如，有的网友随即联想到《复仇者联盟2》里的奥创，刚一出世就对自己的创造者怀着莫名其妙的憎恨，一心想要消灭全人类。还有网友担心“这个世界上很多机器人其实已经有能力通过图灵测试（编者注：如果有超过30%的测试者不能确定出被测试者是人还是机器，那么这台机器就通过了测试，并被认为具有人类智能），只是他们在假装不能”。
责编：张璐晶