论文部分内容阅读
错误的推断，有限的想象力，以及一些其他常见的错误，这些都使得我们无法有效地思考未来。
我们都使用人们如何完成某些特定任务的情况来评估他们完成一些不同任务的状况。在一个外国城市里，我们向街上的一位陌生人寻路，然后她满怀信心的回答并指出似乎正确的方向，所以我们就认为当你想乘坐公交车时，也可以询问她当地的付费系统。
这并不意味着这些系统是无用的，对搜索引擎而言它们有巨大的价值。但这样问题来了：人们了解到一些机器人或者人工智能系统完成了一些任务，然后就将它们的表现归结于能力，即执行同样任务的人可能会有的能力。并且他们将其泛化应用到机器人或人工智能系统中。
如今，机器人和人工智能系统能做的事情仍然十分有限。人类的归纳推理方式对它们并不适用。
马文·明斯基将有着很多意义的单词叫做“行李箱词汇”。学习就是一个强大的行李箱词汇。它可以指代很多不同类型的经验。学习使用筷子是一种不同于学习新歌曲的体验。学着写代码更是与在城市里认路完全不同的体验。
当人们听说机器学习在一些新领域取得了巨大进步时，他们总会趋向于使用同人们学习新事物一样的心智模型。然而，机器学习却非常脆弱，它需要大量的准备工作，包括研究人员或工程师，专用编码，特殊训练数据集以及各个领域的自定义学习结构。现如今的机器学习并不像人类从事的那种像海绵一样的学习那样，无需专门的设计就能在一个新领域取得快速进步。
行李箱词汇在误导人们说机器可以在人类能做的事情上做的多么优秀。这在一定程度上是因为人工智能研究人员——更糟糕的是， 他们的新闻工作室——总是急于阐述行李箱概念的进步实例。这里的重点是“实例”。而这一细节很快就会消失。新闻标题大肆宣扬行李箱词汇，而这扭曲了人们对于人工智能在哪和它有多接近完成更多任务的广泛认知。
很多人正在深陷“指數主义”的窘境。
在半导体领域著名的摩尔定律似乎正在遭遇“失效”的危机，虽然在过去的 50 年的时间里同等尺寸的集成电路上所容纳的元器件在以每年翻一倍的速度增长，但近年来，这一速度已经延长到了两年多的时间才能翻番，似乎预示着定律即将被终结。
而之所以摩尔定律被高度重视，是因为芯片组件的指数增长意味着计算机运算速度的不断提高、内存容量的不断翻倍、数码相机将会有更高的分辨率，甚至液晶显示屏的像素都会以指数级增长。
但摩尔定律也有其受限的适用条件，随着芯片集成元器件越来越小，其已经逐渐逼近了物理的极限。此时此刻，科学家们不得不更换一条思路，于是，量子效应开始占据了主导，伴随着硅基芯片技术也开始流行开来。
不过，这也引起了人们的思考，当我们深陷“指数主义”的狂欢中时，可能会觉得这将会一直增长下去，但从现实来看，不论是摩尔定律还是其它的指数定律，似乎都将面临瓦解的风险，究其原因，也许从一开始将它们定义为“指数”定律就是错误的。
事实上，一旦设备的存储能力大到足够容纳任何音乐、视频或程序时，指数效应就会瞬间崩溃。而尤其是当存储能力的增长受到物理限制或失去经济价值的时候，摩尔定律这种指数增长也会难以为继。
恰巧在这个时候，深度学习技术的飞跃促使 AI 系统性能的急剧增长，于是很多人认为“摩尔定律”的传奇将在 AI 时代得以延续。不过，事实恐怕没有那么乐观，深度学习技术已经被发展了 30 多年，它的成功仅仅是一个个例。
或许在未来会有许多类似深度学习这样高增长技术的个例出现，当下火热的人工智能浪潮也使得大量相关的应用相继涌现。但遗憾的是，并没有证据表明这种现象将会成为一条定律而一直发挥作用。
许多好莱坞科幻电影给我们的感觉是，未来的世界就像今天并没有什么不同，除了某些新的桥段。
事实证明，许多 AI 研究人员和专家，特别是那些对 AI 失控和杀人充满想象力的悲观主义者，都忽略了一个事实——如果我们最终能够开发出足够智能的设备，那么世界将发生很大变化，我们也不会突然对这种超级智慧体的存在感到惊讶。
随着时间的推移，这些智能体将得到充分的技术发展，我们的世界将会充满各种各样的智能形态，我们会拥有大量如何和这些智能体相处和共存的经验。
在邪恶的超智能体出现并希望摆脱人类控制之前，肯定有一批不那么聪明和好战的机器。也就是说，在邪恶智能体出现之前，我们首先会大量接触那些脾气暴躁、令人懊恼或者傲慢的机器。在这个过程中，我们会改变这个世界，同时调整新技术和新技术所处的环境。我不是说人类不会遇到挑战。我是说，人类不会像大多数人想象的那样，以突然和被动的姿态遭遇那些意外。
在某些行业，软件版本的更新非常频繁。像 Facebook 这类软件平台甚至每小时都会加入新的功能。对于很多新功能来说，只要通过了整合测试，哪怕在实际部署后出现问题需要撤回，也不会在经济上造成什么影响。这是一种硅谷的科技公司以及 Web 开发者们习以为常的方式，而且这种方式之所以行得通是因为部署讯版本软件的边际成本近乎为零。
然而部署新硬件的边际成本就高得多了，其实我们在日常生活中就能感受到。比如我们现在购买的大部分汽车都不是自动驾驶车辆，也不是基于软件控制的，这类传统汽车甚至到 2040 年也会在路上行驶。这对自动驾驶车辆的普及无疑是一种限制。再比如，我们现在建一座房子，它 100 年后还会在那，我自己住的房子就建于 1904 年，而且这还不算最老的。
所以说即便有更高科技的替代方案，由于较多的资金投入，物理层面的硬件还是会有相对较长的使用周期。
现在美国空军的 B-52H 还在继续服役，它是 B-52 轰炸机的改进型。B-52H 于 1961 年加入美国空军，这已经是 56 年前的事了。目前看来，这种机型会继续服役到 2040 年，甚至有消息称军方想让 B-52H 飞满 100 年。
很多 AI 领域的研究者们认为，世界已经是数字化的了，全新的 AI 系统应该立即部署到供应链、工厂、产品设计中去。然而这种想法离事实还很远，几乎所有机器人和 AI 领域所取得的创新，要真正开始广泛部署，所花费的时间要比人们想象的长太多太多。（摘自美《深科技》）
（编辑/华生）
表现 VS 能力
我们都使用人们如何完成某些特定任务的情况来评估他们完成一些不同任务的状况。在一个外国城市里，我们向街上的一位陌生人寻路，然后她满怀信心的回答并指出似乎正确的方向，所以我们就认为当你想乘坐公交车时，也可以询问她当地的付费系统。
这并不意味着这些系统是无用的，对搜索引擎而言它们有巨大的价值。但这样问题来了：人们了解到一些机器人或者人工智能系统完成了一些任务，然后就将它们的表现归结于能力，即执行同样任务的人可能会有的能力。并且他们将其泛化应用到机器人或人工智能系统中。
如今，机器人和人工智能系统能做的事情仍然十分有限。人类的归纳推理方式对它们并不适用。
行李箱词汇
马文·明斯基将有着很多意义的单词叫做“行李箱词汇”。学习就是一个强大的行李箱词汇。它可以指代很多不同类型的经验。学习使用筷子是一种不同于学习新歌曲的体验。学着写代码更是与在城市里认路完全不同的体验。
当人们听说机器学习在一些新领域取得了巨大进步时，他们总会趋向于使用同人们学习新事物一样的心智模型。然而，机器学习却非常脆弱，它需要大量的准备工作，包括研究人员或工程师，专用编码，特殊训练数据集以及各个领域的自定义学习结构。现如今的机器学习并不像人类从事的那种像海绵一样的学习那样，无需专门的设计就能在一个新领域取得快速进步。
行李箱词汇在误导人们说机器可以在人类能做的事情上做的多么优秀。这在一定程度上是因为人工智能研究人员——更糟糕的是， 他们的新闻工作室——总是急于阐述行李箱概念的进步实例。这里的重点是“实例”。而这一细节很快就会消失。新闻标题大肆宣扬行李箱词汇，而这扭曲了人们对于人工智能在哪和它有多接近完成更多任务的广泛认知。
指数增长
很多人正在深陷“指數主义”的窘境。
在半导体领域著名的摩尔定律似乎正在遭遇“失效”的危机，虽然在过去的 50 年的时间里同等尺寸的集成电路上所容纳的元器件在以每年翻一倍的速度增长，但近年来，这一速度已经延长到了两年多的时间才能翻番，似乎预示着定律即将被终结。
而之所以摩尔定律被高度重视，是因为芯片组件的指数增长意味着计算机运算速度的不断提高、内存容量的不断翻倍、数码相机将会有更高的分辨率，甚至液晶显示屏的像素都会以指数级增长。
但摩尔定律也有其受限的适用条件，随着芯片集成元器件越来越小，其已经逐渐逼近了物理的极限。此时此刻，科学家们不得不更换一条思路，于是，量子效应开始占据了主导，伴随着硅基芯片技术也开始流行开来。
不过，这也引起了人们的思考，当我们深陷“指数主义”的狂欢中时，可能会觉得这将会一直增长下去，但从现实来看，不论是摩尔定律还是其它的指数定律，似乎都将面临瓦解的风险，究其原因，也许从一开始将它们定义为“指数”定律就是错误的。
事实上，一旦设备的存储能力大到足够容纳任何音乐、视频或程序时，指数效应就会瞬间崩溃。而尤其是当存储能力的增长受到物理限制或失去经济价值的时候，摩尔定律这种指数增长也会难以为继。
恰巧在这个时候，深度学习技术的飞跃促使 AI 系统性能的急剧增长，于是很多人认为“摩尔定律”的传奇将在 AI 时代得以延续。不过，事实恐怕没有那么乐观，深度学习技术已经被发展了 30 多年，它的成功仅仅是一个个例。
或许在未来会有许多类似深度学习这样高增长技术的个例出现，当下火热的人工智能浪潮也使得大量相关的应用相继涌现。但遗憾的是，并没有证据表明这种现象将会成为一条定律而一直发挥作用。
好莱坞式情景
许多好莱坞科幻电影给我们的感觉是，未来的世界就像今天并没有什么不同，除了某些新的桥段。
事实证明，许多 AI 研究人员和专家，特别是那些对 AI 失控和杀人充满想象力的悲观主义者，都忽略了一个事实——如果我们最终能够开发出足够智能的设备，那么世界将发生很大变化，我们也不会突然对这种超级智慧体的存在感到惊讶。
随着时间的推移，这些智能体将得到充分的技术发展，我们的世界将会充满各种各样的智能形态，我们会拥有大量如何和这些智能体相处和共存的经验。
在邪恶的超智能体出现并希望摆脱人类控制之前，肯定有一批不那么聪明和好战的机器。也就是说，在邪恶智能体出现之前，我们首先会大量接触那些脾气暴躁、令人懊恼或者傲慢的机器。在这个过程中，我们会改变这个世界，同时调整新技术和新技术所处的环境。我不是说人类不会遇到挑战。我是说，人类不会像大多数人想象的那样，以突然和被动的姿态遭遇那些意外。
部署速度
在某些行业，软件版本的更新非常频繁。像 Facebook 这类软件平台甚至每小时都会加入新的功能。对于很多新功能来说，只要通过了整合测试，哪怕在实际部署后出现问题需要撤回，也不会在经济上造成什么影响。这是一种硅谷的科技公司以及 Web 开发者们习以为常的方式，而且这种方式之所以行得通是因为部署讯版本软件的边际成本近乎为零。
然而部署新硬件的边际成本就高得多了，其实我们在日常生活中就能感受到。比如我们现在购买的大部分汽车都不是自动驾驶车辆，也不是基于软件控制的，这类传统汽车甚至到 2040 年也会在路上行驶。这对自动驾驶车辆的普及无疑是一种限制。再比如，我们现在建一座房子，它 100 年后还会在那，我自己住的房子就建于 1904 年，而且这还不算最老的。
所以说即便有更高科技的替代方案，由于较多的资金投入，物理层面的硬件还是会有相对较长的使用周期。
现在美国空军的 B-52H 还在继续服役，它是 B-52 轰炸机的改进型。B-52H 于 1961 年加入美国空军，这已经是 56 年前的事了。目前看来，这种机型会继续服役到 2040 年，甚至有消息称军方想让 B-52H 飞满 100 年。
很多 AI 领域的研究者们认为，世界已经是数字化的了，全新的 AI 系统应该立即部署到供应链、工厂、产品设计中去。然而这种想法离事实还很远，几乎所有机器人和 AI 领域所取得的创新，要真正开始广泛部署，所花费的时间要比人们想象的长太多太多。（摘自美《深科技》）
（编辑/华生）