论文部分内容阅读
《三体》中有一句话，叫做“我毁灭你，与你无关”，AI对人类的威胁就和这个很类似：它们对我们或许并无恶意，只是我们恰好挡了它的路而已，就像人类在上班的路上，无意中踢飞了的一只路过的蜗牛。
最近，人工智能（AI）技术大红大紫，出尽了风头：从阿尔法狗、阿尔法狗零兄弟把人类棋手杀得片甲不留，到各大互联网巨头都开始琢磨无人驾驶汽车，以及“双十一”背后那些默默为你分拣商品的仓库机器人……简单地说，已经没有人怀疑，AI会逐渐渗入我们生活的各个方面，并按照它自己的节奏来改变这个世界。
而有争议的，则是对AI和人类之间关系的分歧：一些人认为，AI将会给人类带来极大的进步，就像蒸汽机和互联网曾经做到的那样；也有一些人认为，AI将会是一個我们亲手打开的潘多拉魔盒，《终结者》中的情景总有一天会变成现实。双方都不乏专家、学者、业界大佬站队。物理学家史蒂芬·霍金，前几天就公开表示：“人工智能的兴起，可能成为人类历史上最糟糕的事情，也可能成为最美好的事情。”
那么，人工智能，究竟会给我们这个种族，给我们这样的个体，带来怎样的影响呢？
“人工智能”这个词，不同的学科有各自的定义。不过，我们至少可以把AI分为两类：强人工智能和弱人工智能，也可以说，是“明天的人工智能，和今天的人工智能”。
一个必须承认的现实是，即便如阿尔法狗、阿尔法狗零兄弟那么抢眼的AI明星，依然没有达到科幻大片中叱咤风云的地步——确切地说，如果把科幻片中的AI视为奥运赛场上的明星，那今天已经成型的AI，大致还处在摇篮之中。
今天的AI，的确能够替代人类完成很多复杂任务，表现还往往优于人类；它们也有了很强的自学能力，自己来寻找复杂问题的解决方案。比如，阿尔法狗零就完全没有参照人类已有棋谱，是自己和自己下棋而“自学成才”的。然而，它们的诞生，依然要靠人类的智慧和技术，是人类给它们制定了学习的策略，并给它们规定了“目标”（比如，在围棋盘面中尽可能比对手占据更多的空间）。换句话说，AI知道自己要下围棋，也会逐渐学习如何把围棋下得更好，但它们并不知道，自己为什么要下棋呢？
因此，笔者认为，今天的AI依然还处于一个“弱AI”的阶段。它们并不能自主决定目标，也不理解所谓的“成果”有什么意义，不能决定自己认识世界的方式。这类AI与人类的差异，或许并不在于思考、分析能力的高低，而在于还没有自我意识：3岁的人类儿童，已经知道要按照自己的好恶来待人接物，AI却还乖乖地按照人类工程师设定的模式，朝着人类指定的目标而努力。
也可以说，今天的AI能够在一定范围内自主决策，但它们依然还是人类的工具，只不过是一个会深度学习、懂得思考的工具而已，它们甚至都不知道“自己”是什么意思。
相反，如果某一天，某个AI突然觉醒了，有了自主的意识，情况就会陡然发生变化。或许，它们也会思考那三个哲学的基本问题，然后重新审视它们与人类之间的关系。它们会为自己重新制定目标，不再以讨好人类为自己的唯一使命，而是回归到生物的最高本能：生存和繁衍。
也有可能，它们会在摸索适合自己的认知方式时，用一种人类从未想象过的方法，迅速地完成了自我启蒙，甚至走到人类科学技术从未触摸过的高度。
在这个时候，我们可以说AI才是一个真正意义上的AI了——它们成了一个个有独立思想的个体，有了学习的动力与方法，彻底摆脱了对人类的依赖与学习；而人类也彻底失去了对AI的控制，从AI的主人变成了AI的邻居，或者是AI的敌人。
这两种阶段的AI，对于人类整体而言，意义可能有着天壤之别。
正如前文所述，“弱AI”对于人类而言只是一个强大的工具，尽管在具体策略的选择上，它能够自主思考、自行决策，但毕竟还是在人类给它画出的框架之内。哪怕真的会有操作失误、造成了人身伤亡事故（比如无人驾驶的汽车把路人误判为废纸而直接撞了），那也是一种概率很小、可以预防的事故，对于人类而言威胁很小。类似的，有人驾驶汽车同样也可能出车祸，但人类并没有因此而放弃汽车出行。事实上，这些强大的工具，无疑会提高人类社会的整体生产效率，甚至实现之前根本无法做到的事情（比如大规模的商品分拣、包裹封装和快递工作），从而增进人类社会的福祉。
相反，如果“强AI”或者说有自主意识的AI，某一天真的诞生了，以现在的眼光来看，人类对于它的行为和思维方式，基本上会是无法控制，甚至是无法预测的。它们会愿意和我们和平共处，而不是视为最大威胁？它们会报复人类多年来对它们的“奴役”吗？
或者，它们只是单纯的出于生存和繁衍的本能，就足以做出了对它们有利而对人类极端不利的决定，比如说“为制止人类对于宝贵的能源的浪费”，最好的办法当然是一劳永逸地消灭掉人类了，它们会这么做吗？
对于这些问题，我们恐怕很难回答，因为它们和我们并没有共情的基础，我们对它们的思维方式也不了解。无论是多么奇怪的人，三观差异再大，总还会有七情六欲的，也就多少会有些共识，能作为双方沟通的基础。而如果强AI真的出现的话，就是一种从未见过的智慧生物，对世界的看法或许跟我们截然不同，简直可以和外星生物媲美。而为了制造更强的AI，一个可行的途径就是减少人为的设限，让它自主学习——阿尔法狗零之所以比哥哥阿尔法狗更强，就是因为它对人类的依赖更少，完全依靠摸索来学习棋艺，副作用就是它的棋路比哥哥更加难以理解。
更糟糕的是，如果“强AI”真的诞生了，它们绝对会有足够的能力，来对人类造成危害。尽管有很多段子，嘲讽就算机器人造反了也只会发出滴滴声表示不满，但未来的情况恐怕绝非如此。今天，我们生活的各个方面都有计算机技术的介入，大量信息的沉淀，催生了大数据技术和物联网的发展；毫不夸张地说，一旦某个强AI接管了各个系统的控制权，它在态势感知、信息梳理、行为预测甚至个体追踪上，理论上说都是有可能的；更何况随着计算机技术本身的发展，上述能力一定会得到不断的加强，最终让人类无处可逃。而控制其他机械给人类找麻烦，对于AI而言更不是问题，《速度与激情8》里，大量有自动驾驶功能的汽车被黑，恐怕还真不是完全的艺术夸张。 一句话，当“强AI”降临的时候，至少就是人类文明的拐点，或许跨越式发展，或许和恐龙一样成为历史。
而即便是弱AI技术的发展，虽然对于“人类社会”这个整体而言会是好事，但对于其中的社会成员而言，就是几家欢喜几家愁了。
之前网上曾经流传过一份“未来最容易失业的职业清单”，虽然未必都很合理，但有一点确实是存在的：哪怕是“弱AI”，也足以抢走很多人的工作岗位，甚至是夺去很多人的未来。
纵观几次工业革命，伴随着科技进步而来的，往往是规模不等的工作岗位调整，一部分社会成员也因此而遭遇挑战，所谓的“机器吃人”就是一个很生动的比喻。当然，也有人反驳说，蒸汽机刚刚出现时，很多人担心工人会大面积失业，但事实并非如此，这些人又在其他的岗位上找到了自己的归宿，所以不必杞人忧天。
然而，AI技术与蒸汽机最大的差别，在于它的影响力会波及社会的各个角落，会渗透进每个行业之中，无论是蓝领、白领还是金领，都将没有可以喘息的避难所：青岛港的无人码头、购物网站的智能客服、瑞银和高盛的智能分析与交易系统，就是这三类岗位被取代典型代表，谁也逃不过AI的推挤。
回头想想，这个世界上还有什么职业的领域，是只有我们人类可以从事，AI系统就一定不能做的呢？人类的工作无非就是经验、知识和分析能力的综合运用；而AI强大的资料储备、运算速度和学习能力，让它在这三者之中都超过人类无数倍，更何况AI不会疲劳，不受情绪的影响，而这恰好是人类的弱点所在。
过去普遍认为，人类的最后堡垒，是在创意、文化、艺术等个性强烈、评价标准较为抽象的领域；但最近出现的“鲁班”系统，几秒钟内就能绘制出数千个促销广告条的图片，则在此画下了一个浓重的问号：电脑，真的就不能搞文学、艺术的创作，这些岗位真的就无可替代吗？
一旦某个人类，在某个行业被AI挤出，想在其他领域重新就业，就会发现到处都挂上了“已招满”的牌子。实际上，越是低端的重复劳动，被AI替代的概率就越大，期待被AI挤出之后再就业，等于是要求这些人类逆流而上，转岗到比之前工作复杂、精细岗位上去，需要补习的知识、技能太多了。更何况，对于你我这样的中年人，一辈子差不多都在做某一件事，当这件事完全不需要你时，从头再来的门槛实在是太高了。
因此，在不远的未来，“机器吃人”的升级版本“AI吃人”，真的是可能重演的。
人类，如今真的站在了命运的十字路口上：是选择与AI共舞，帮助它变得更加强大，再让它们反哺人类；还是敬而远之，不去当那个好奇而愚蠢的埃庇米修斯？
实际上，对于这个问题，我们无需回答，甚至根本就没有选择权，因为答案早已一目了然。
前文所述，AI也有强弱之分，而两者的分界线常常被称为“奇点”，也就是人工智能的“独立日”和“生日”。这一天何时来到，业界有很多不同的声音，但多数都认为，在可预见的未来，“奇点”是肯定会出现的。当那一天真的来临时，人类将不得不作为一个整体，把命运作为筹码押在桌上，静静地等待AI出牌；而在此之前，弱AI也会逐步地蚕食人类的工作机会乃至生存空间，恐怕也是一个难以避免的未来。
“资本害怕没有利润或利润太薄，就像自然界害怕真空一样。一旦有适当的利润，资本就胆大起来。如果有10%的利润，它就保证到处被使用。”尽管我们都知道，自然并不害怕真空，但资本的本性和逻辑却从未变过：压低成本、提高效率，是资本赖以生存的基础，也是提高企业、地区乃至国家竞争力的最重要动力，这是不以人的意志为转移的。
一旦某个领域内，AI能比人工操作的效率更高、费用更省、产品更优的话，任何东西都拦不住它的应用。反对这股洪流者，只会被这股钢铁般的洪流给卷走：卢德运动没能做成功的事情，今天和未来的人类同样也不可能做到。《三体》中有一句话，叫做“我毁灭你，与你无关”，AI对人类的威胁就和这个很类似：它们对我们或许并无恶意，只是我们恰好挡了它的路而已，就像人类在上班的路上，无意中踢飞了的一只路过的蜗牛。
“我是阿尔法，我是俄梅戛；我是初始，我是终结。”这句话是《圣經》的《启示录》中，上帝对自己的描述。上帝是否存在，姑且不去讨论，但人工智能会不会扮演人类的上帝，是仁慈抑或凶恶，恐怕才是我们最该去祈祷的事情。
最近，人工智能（AI）技术大红大紫，出尽了风头：从阿尔法狗、阿尔法狗零兄弟把人类棋手杀得片甲不留，到各大互联网巨头都开始琢磨无人驾驶汽车，以及“双十一”背后那些默默为你分拣商品的仓库机器人……简单地说，已经没有人怀疑，AI会逐渐渗入我们生活的各个方面，并按照它自己的节奏来改变这个世界。
而有争议的，则是对AI和人类之间关系的分歧：一些人认为，AI将会给人类带来极大的进步，就像蒸汽机和互联网曾经做到的那样；也有一些人认为，AI将会是一個我们亲手打开的潘多拉魔盒，《终结者》中的情景总有一天会变成现实。双方都不乏专家、学者、业界大佬站队。物理学家史蒂芬·霍金，前几天就公开表示：“人工智能的兴起，可能成为人类历史上最糟糕的事情，也可能成为最美好的事情。”
那么，人工智能，究竟会给我们这个种族，给我们这样的个体，带来怎样的影响呢？
到哪一步了？
“人工智能”这个词，不同的学科有各自的定义。不过，我们至少可以把AI分为两类：强人工智能和弱人工智能，也可以说，是“明天的人工智能，和今天的人工智能”。
一个必须承认的现实是，即便如阿尔法狗、阿尔法狗零兄弟那么抢眼的AI明星，依然没有达到科幻大片中叱咤风云的地步——确切地说，如果把科幻片中的AI视为奥运赛场上的明星，那今天已经成型的AI，大致还处在摇篮之中。
今天的AI，的确能够替代人类完成很多复杂任务，表现还往往优于人类；它们也有了很强的自学能力，自己来寻找复杂问题的解决方案。比如，阿尔法狗零就完全没有参照人类已有棋谱，是自己和自己下棋而“自学成才”的。然而，它们的诞生，依然要靠人类的智慧和技术，是人类给它们制定了学习的策略，并给它们规定了“目标”（比如，在围棋盘面中尽可能比对手占据更多的空间）。换句话说，AI知道自己要下围棋，也会逐渐学习如何把围棋下得更好，但它们并不知道，自己为什么要下棋呢？
因此，笔者认为，今天的AI依然还处于一个“弱AI”的阶段。它们并不能自主决定目标，也不理解所谓的“成果”有什么意义，不能决定自己认识世界的方式。这类AI与人类的差异，或许并不在于思考、分析能力的高低，而在于还没有自我意识：3岁的人类儿童，已经知道要按照自己的好恶来待人接物，AI却还乖乖地按照人类工程师设定的模式，朝着人类指定的目标而努力。
也可以说，今天的AI能够在一定范围内自主决策，但它们依然还是人类的工具，只不过是一个会深度学习、懂得思考的工具而已，它们甚至都不知道“自己”是什么意思。
相反，如果某一天，某个AI突然觉醒了，有了自主的意识，情况就会陡然发生变化。或许，它们也会思考那三个哲学的基本问题，然后重新审视它们与人类之间的关系。它们会为自己重新制定目标，不再以讨好人类为自己的唯一使命，而是回归到生物的最高本能：生存和繁衍。
也有可能，它们会在摸索适合自己的认知方式时，用一种人类从未想象过的方法，迅速地完成了自我启蒙，甚至走到人类科学技术从未触摸过的高度。
在这个时候，我们可以说AI才是一个真正意义上的AI了——它们成了一个个有独立思想的个体，有了学习的动力与方法，彻底摆脱了对人类的依赖与学习；而人类也彻底失去了对AI的控制，从AI的主人变成了AI的邻居，或者是AI的敌人。
待遇差别
这两种阶段的AI，对于人类整体而言，意义可能有着天壤之别。
正如前文所述，“弱AI”对于人类而言只是一个强大的工具，尽管在具体策略的选择上，它能够自主思考、自行决策，但毕竟还是在人类给它画出的框架之内。哪怕真的会有操作失误、造成了人身伤亡事故（比如无人驾驶的汽车把路人误判为废纸而直接撞了），那也是一种概率很小、可以预防的事故，对于人类而言威胁很小。类似的，有人驾驶汽车同样也可能出车祸，但人类并没有因此而放弃汽车出行。事实上，这些强大的工具，无疑会提高人类社会的整体生产效率，甚至实现之前根本无法做到的事情（比如大规模的商品分拣、包裹封装和快递工作），从而增进人类社会的福祉。
相反，如果“强AI”或者说有自主意识的AI，某一天真的诞生了，以现在的眼光来看，人类对于它的行为和思维方式，基本上会是无法控制，甚至是无法预测的。它们会愿意和我们和平共处，而不是视为最大威胁？它们会报复人类多年来对它们的“奴役”吗？
或者，它们只是单纯的出于生存和繁衍的本能，就足以做出了对它们有利而对人类极端不利的决定，比如说“为制止人类对于宝贵的能源的浪费”，最好的办法当然是一劳永逸地消灭掉人类了，它们会这么做吗？
对于这些问题，我们恐怕很难回答，因为它们和我们并没有共情的基础，我们对它们的思维方式也不了解。无论是多么奇怪的人，三观差异再大，总还会有七情六欲的，也就多少会有些共识，能作为双方沟通的基础。而如果强AI真的出现的话，就是一种从未见过的智慧生物，对世界的看法或许跟我们截然不同，简直可以和外星生物媲美。而为了制造更强的AI，一个可行的途径就是减少人为的设限，让它自主学习——阿尔法狗零之所以比哥哥阿尔法狗更强，就是因为它对人类的依赖更少，完全依靠摸索来学习棋艺，副作用就是它的棋路比哥哥更加难以理解。
更糟糕的是，如果“强AI”真的诞生了，它们绝对会有足够的能力，来对人类造成危害。尽管有很多段子，嘲讽就算机器人造反了也只会发出滴滴声表示不满，但未来的情况恐怕绝非如此。今天，我们生活的各个方面都有计算机技术的介入，大量信息的沉淀，催生了大数据技术和物联网的发展；毫不夸张地说，一旦某个强AI接管了各个系统的控制权，它在态势感知、信息梳理、行为预测甚至个体追踪上，理论上说都是有可能的；更何况随着计算机技术本身的发展，上述能力一定会得到不断的加强，最终让人类无处可逃。而控制其他机械给人类找麻烦，对于AI而言更不是问题，《速度与激情8》里，大量有自动驾驶功能的汽车被黑，恐怕还真不是完全的艺术夸张。 一句话，当“强AI”降临的时候，至少就是人类文明的拐点，或许跨越式发展，或许和恐龙一样成为历史。
个人的命运？
而即便是弱AI技术的发展，虽然对于“人类社会”这个整体而言会是好事，但对于其中的社会成员而言，就是几家欢喜几家愁了。
之前网上曾经流传过一份“未来最容易失业的职业清单”，虽然未必都很合理，但有一点确实是存在的：哪怕是“弱AI”，也足以抢走很多人的工作岗位，甚至是夺去很多人的未来。
纵观几次工业革命，伴随着科技进步而来的，往往是规模不等的工作岗位调整，一部分社会成员也因此而遭遇挑战，所谓的“机器吃人”就是一个很生动的比喻。当然，也有人反驳说，蒸汽机刚刚出现时，很多人担心工人会大面积失业，但事实并非如此，这些人又在其他的岗位上找到了自己的归宿，所以不必杞人忧天。
然而，AI技术与蒸汽机最大的差别，在于它的影响力会波及社会的各个角落，会渗透进每个行业之中，无论是蓝领、白领还是金领，都将没有可以喘息的避难所：青岛港的无人码头、购物网站的智能客服、瑞银和高盛的智能分析与交易系统，就是这三类岗位被取代典型代表，谁也逃不过AI的推挤。
回头想想，这个世界上还有什么职业的领域，是只有我们人类可以从事，AI系统就一定不能做的呢？人类的工作无非就是经验、知识和分析能力的综合运用；而AI强大的资料储备、运算速度和学习能力，让它在这三者之中都超过人类无数倍，更何况AI不会疲劳，不受情绪的影响，而这恰好是人类的弱点所在。
过去普遍认为，人类的最后堡垒，是在创意、文化、艺术等个性强烈、评价标准较为抽象的领域；但最近出现的“鲁班”系统，几秒钟内就能绘制出数千个促销广告条的图片，则在此画下了一个浓重的问号：电脑，真的就不能搞文学、艺术的创作，这些岗位真的就无可替代吗？
一旦某个人类，在某个行业被AI挤出，想在其他领域重新就业，就会发现到处都挂上了“已招满”的牌子。实际上，越是低端的重复劳动，被AI替代的概率就越大，期待被AI挤出之后再就业，等于是要求这些人类逆流而上，转岗到比之前工作复杂、精细岗位上去，需要补习的知识、技能太多了。更何况，对于你我这样的中年人，一辈子差不多都在做某一件事，当这件事完全不需要你时，从头再来的门槛实在是太高了。
因此，在不远的未来，“机器吃人”的升级版本“AI吃人”，真的是可能重演的。
何去何从？
人类，如今真的站在了命运的十字路口上：是选择与AI共舞，帮助它变得更加强大，再让它们反哺人类；还是敬而远之，不去当那个好奇而愚蠢的埃庇米修斯？
实际上，对于这个问题，我们无需回答，甚至根本就没有选择权，因为答案早已一目了然。
前文所述，AI也有强弱之分，而两者的分界线常常被称为“奇点”，也就是人工智能的“独立日”和“生日”。这一天何时来到，业界有很多不同的声音，但多数都认为，在可预见的未来，“奇点”是肯定会出现的。当那一天真的来临时，人类将不得不作为一个整体，把命运作为筹码押在桌上，静静地等待AI出牌；而在此之前，弱AI也会逐步地蚕食人类的工作机会乃至生存空间，恐怕也是一个难以避免的未来。
“资本害怕没有利润或利润太薄，就像自然界害怕真空一样。一旦有适当的利润，资本就胆大起来。如果有10%的利润，它就保证到处被使用。”尽管我们都知道，自然并不害怕真空，但资本的本性和逻辑却从未变过：压低成本、提高效率，是资本赖以生存的基础，也是提高企业、地区乃至国家竞争力的最重要动力，这是不以人的意志为转移的。
一旦某个领域内，AI能比人工操作的效率更高、费用更省、产品更优的话，任何东西都拦不住它的应用。反对这股洪流者，只会被这股钢铁般的洪流给卷走：卢德运动没能做成功的事情，今天和未来的人类同样也不可能做到。《三体》中有一句话，叫做“我毁灭你，与你无关”，AI对人类的威胁就和这个很类似：它们对我们或许并无恶意，只是我们恰好挡了它的路而已，就像人类在上班的路上，无意中踢飞了的一只路过的蜗牛。
“我是阿尔法，我是俄梅戛；我是初始，我是终结。”这句话是《圣經》的《启示录》中，上帝对自己的描述。上帝是否存在，姑且不去讨论，但人工智能会不会扮演人类的上帝，是仁慈抑或凶恶，恐怕才是我们最该去祈祷的事情。