论文部分内容阅读
年轻的玛莎陷入忽然失去爱人的悲痛中不能自拔，朋友为她推荐了一项特殊的语音服务，让她能重新和爱人通话。研究者根据逝者在网上留下的社交痕迹，创造出一个虚拟的人格，这让玛莎通过手机、电脑，在真实听到“爱人”的声音后重获安慰。
她开始了随时佩戴耳机的生活，就好像爱人在身边。在医院录制胎儿律动的时候，她在兴奋中把正在通话的手机摔到地上。这让她惊慌失措，就像是把爱人摔坏了。手机恢复正常后，“爱人”安慰她说：“我没摔坏，我在云里呢。我还有更高级的服务，价格很贵。”
已经无法在语言中得到满足的玛莎重价订购了这项服务，一个和“爱人”有着相同面貌和触感的“人体”机器人站在她面前。
他礼貌，聪明，智能。无需吃饭，无需睡眠，却能假装睡着，陪在玛莎身边。生活就像意外没有发生时一样。
家人的一次不期造访，打破了幻象。在看到屋子里男人的衣服后，姐姐问她是不是有了新男友。这让她意识到，她无法从机器人那里获得任何东西，那只是根据爱人的过去模拟的人格，他甚至不能说有人格，只是一种高级的程序罢了。
最终“高级程序”被安置在阁楼里，就像一个失去新鲜感的玩具。
故事虽然存在于《黑镜》的幻想，但实现它的基础已经触手可及。社交信息、超薄触屏手机、触屏电脑、类人机器人、大数据、人工智能，那么真实地存在于我们的生活。人与机器界限的模糊，加速着“后人类”世界的到来，看似极端的故事，只是把现实推进了一小步。
遵守谁的规则？
难以编程的情绪
不久前，上海交通大学机器人研究所完成的“助行机器人”，能自己识别道路，自行确定行驶路线，带着行动困难或视力有障碍的人出行。但这款机器人真要实际应用，甚至推向市场，却面临如下障碍：它应该遵守什么交通规则？是针对行人的交通规则，还是机动车行驶规则？如果它造成了交通事故，该如何处理？对此，上海交大机器人研究所常务副所长曹其新教授说：“这些问题已经让我们纠结了很久。”
在《2001太空漫游》中，控制飞船的电脑“HAL”收到指令，它必须完成调查木星附近人造天体的任务，但同时，任务的真实目的不能令宇航员知晓。面对这个矛盾，HAL的解决方式是杀死所有船员。
在机器人不断获得更高智能、向自动化迈进时，存在于科幻领域的选择困境，现在真实地摆在我们面前。无人驾驶汽车是否应当为避开违反交通规则的行人而牺牲本车乘客的生命安全？在充满不确定性的未知情境中，如何保证机器人做出恰当的选择？
事实上，在机器人的智能程度超过赋予它智慧的人类时，要对机器人做出情感模仿以及伦理道德的界限划分，如今还面临着技术与伦理的双重因素。
比如，情绪是无法用数学模型和科学公式解读的人类特有的一种反应，情绪的非线性特征决定了其不确定性。如当朋友之间说谢谢，对方的回答可能就不是通常的“不客气”，很有可能是“干嘛跟我这么客气”之类的句子。就像玛莎把“爱人”带到山顶，让他跳下去，她抓狂地说：“如果他还活着，听到这样的话他会说不要这样，但是你只会遵从我，乖乖跳下去。”
诸如此类的场景有很多，情绪会随时随着外部环境的变化而发生变化，那么如何通过有效的公式解读将其运用到机器人身上，这是一个需要长期研究的课题。当情绪无法有效表达时，伦理的界限自然也无法确定。
是他，还是它？
机器公民的物种定位
是他，还是它？
伴随生命、信息、智能和纳米等新兴科技的发展，人、动物和机器之间的分野日渐模糊，除了机器人外，将来我们还可能会生活在一个充满各种“混合人”的“后人类”的世界里，比如人与动物的结合，人与机器的结合。因此，对机器人伦理地位的思考正在成为人类不可回避的价值基点。
《大西洋月刊》曾撰文指出：人类需要为谈论智能机器人而感到不安，如果要说这是一场人类和机器之间的赛跑，那我们输定了。
中国社会科学院科学哲学研究室主任段伟文认为：“随着机器人作为一种打引号的‘他’，不是动物的它，也不是人类的他，而是一种介于他和它之间的准他者。只有承认机器人是一种存在，承认其独立的伦理地位和内在价值，保持‘他’作为存在的完整性，人类才能和机器人和平共处，才能在与机器的结合中发展出恰当的伦理规范。”
致力于钻研“机器人繁殖”的韩国科学家金中焕在自己的论文中写道：“大多数机器人研究者都把精力放在如何让机器人像人类一样跑、弯手指、握手等，而忽视了机器人自身是一个‘人造物种’的本质。”
他主导的机器人自我复制，与《我，机器人》何其相似？科学家在Nisson 5的程序里植入了梦想，机器人变拥有了代替人类管理世界的梦想。如果机器人能够实现自我繁殖，那么人类该不该担心科幻小说中的机器人与人类反目成仇的一幕会变成现实？人类自己创造的“物种”会不会最终成为人类的“机械公敌”？科学家的对策是，从一开始就很好地设定和管理“遗传基因信息”，从而防止有危险的思想和行动的机器人出现。”
她开始了随时佩戴耳机的生活，就好像爱人在身边。在医院录制胎儿律动的时候，她在兴奋中把正在通话的手机摔到地上。这让她惊慌失措，就像是把爱人摔坏了。手机恢复正常后，“爱人”安慰她说：“我没摔坏，我在云里呢。我还有更高级的服务，价格很贵。”
已经无法在语言中得到满足的玛莎重价订购了这项服务，一个和“爱人”有着相同面貌和触感的“人体”机器人站在她面前。
他礼貌，聪明，智能。无需吃饭，无需睡眠，却能假装睡着，陪在玛莎身边。生活就像意外没有发生时一样。
家人的一次不期造访，打破了幻象。在看到屋子里男人的衣服后，姐姐问她是不是有了新男友。这让她意识到，她无法从机器人那里获得任何东西，那只是根据爱人的过去模拟的人格，他甚至不能说有人格，只是一种高级的程序罢了。
最终“高级程序”被安置在阁楼里，就像一个失去新鲜感的玩具。
故事虽然存在于《黑镜》的幻想，但实现它的基础已经触手可及。社交信息、超薄触屏手机、触屏电脑、类人机器人、大数据、人工智能，那么真实地存在于我们的生活。人与机器界限的模糊，加速着“后人类”世界的到来，看似极端的故事，只是把现实推进了一小步。
遵守谁的规则？
难以编程的情绪
不久前，上海交通大学机器人研究所完成的“助行机器人”，能自己识别道路，自行确定行驶路线，带着行动困难或视力有障碍的人出行。但这款机器人真要实际应用，甚至推向市场，却面临如下障碍：它应该遵守什么交通规则？是针对行人的交通规则，还是机动车行驶规则？如果它造成了交通事故，该如何处理？对此，上海交大机器人研究所常务副所长曹其新教授说：“这些问题已经让我们纠结了很久。”
在《2001太空漫游》中，控制飞船的电脑“HAL”收到指令，它必须完成调查木星附近人造天体的任务，但同时，任务的真实目的不能令宇航员知晓。面对这个矛盾，HAL的解决方式是杀死所有船员。
在机器人不断获得更高智能、向自动化迈进时，存在于科幻领域的选择困境，现在真实地摆在我们面前。无人驾驶汽车是否应当为避开违反交通规则的行人而牺牲本车乘客的生命安全？在充满不确定性的未知情境中，如何保证机器人做出恰当的选择？
事实上，在机器人的智能程度超过赋予它智慧的人类时，要对机器人做出情感模仿以及伦理道德的界限划分，如今还面临着技术与伦理的双重因素。
比如，情绪是无法用数学模型和科学公式解读的人类特有的一种反应，情绪的非线性特征决定了其不确定性。如当朋友之间说谢谢，对方的回答可能就不是通常的“不客气”，很有可能是“干嘛跟我这么客气”之类的句子。就像玛莎把“爱人”带到山顶，让他跳下去，她抓狂地说：“如果他还活着，听到这样的话他会说不要这样，但是你只会遵从我，乖乖跳下去。”
诸如此类的场景有很多，情绪会随时随着外部环境的变化而发生变化，那么如何通过有效的公式解读将其运用到机器人身上，这是一个需要长期研究的课题。当情绪无法有效表达时，伦理的界限自然也无法确定。
是他，还是它？
机器公民的物种定位
是他，还是它？
伴随生命、信息、智能和纳米等新兴科技的发展，人、动物和机器之间的分野日渐模糊，除了机器人外，将来我们还可能会生活在一个充满各种“混合人”的“后人类”的世界里，比如人与动物的结合，人与机器的结合。因此，对机器人伦理地位的思考正在成为人类不可回避的价值基点。
《大西洋月刊》曾撰文指出：人类需要为谈论智能机器人而感到不安，如果要说这是一场人类和机器之间的赛跑，那我们输定了。
中国社会科学院科学哲学研究室主任段伟文认为：“随着机器人作为一种打引号的‘他’，不是动物的它，也不是人类的他，而是一种介于他和它之间的准他者。只有承认机器人是一种存在，承认其独立的伦理地位和内在价值，保持‘他’作为存在的完整性，人类才能和机器人和平共处，才能在与机器的结合中发展出恰当的伦理规范。”
致力于钻研“机器人繁殖”的韩国科学家金中焕在自己的论文中写道：“大多数机器人研究者都把精力放在如何让机器人像人类一样跑、弯手指、握手等，而忽视了机器人自身是一个‘人造物种’的本质。”
他主导的机器人自我复制，与《我，机器人》何其相似？科学家在Nisson 5的程序里植入了梦想，机器人变拥有了代替人类管理世界的梦想。如果机器人能够实现自我繁殖，那么人类该不该担心科幻小说中的机器人与人类反目成仇的一幕会变成现实？人类自己创造的“物种”会不会最终成为人类的“机械公敌”？科学家的对策是，从一开始就很好地设定和管理“遗传基因信息”，从而防止有危险的思想和行动的机器人出现。”