论文部分内容阅读
时至今日，我依然记得第一次观看系列科幻电影《终结者》时的震撼感。在那故事里，“天网”的面目是铺天盖地的计算机网络，用来忠实地控制美国的核武器库，直到它自己的意识忽然觉醒。天网的人类设计者们忽然发现他们的创造物活了起来，试图将它关闭，但为时已晚。天网为了保护自己，发动了一场毁灭性的核战争，并且释放出杀人的机器人，用来屠杀残存者。现代文明被粉碎了，剩下一小群悲惨的反抗者。
这不算最糟，更糟糕的是《黑客帝国》中的世界。在那里，人类甚至愚昧到发现不了机器已经将自己取而代之。他们进行着日常的工作和生活，把一切看成正常的，忘记了他们实际上是生活在一个虚拟的世界之中。人类的“存 在”仅仅是装在这些生活在营养舱里的人类大脑中的程序，由一个大型的计算机进行操作和管理，而机器需要这些人的惟一理由是要用他们作为生物电池。
当然，好莱坞为了把观众吓得目瞪口呆，什么故事都编得出来， 我们所生活的世界距离电影中的还很遥远。但这些电影也提出了一个合理的科学问题：“当机器人变得和人一样聪明时会发生什么？当机器人醒来后有了意识会怎 样？ ”按照一些专家的观点，机器人将沿着进化树逐渐攀升。今天它们像蟑螂一样聪明，在将来，就会像老鼠、兔子、狗和猫、猴子一样聪明，然后和它们的对手人类一 样聪明。这需要几十年缓慢的攀登，但机器在智力上超过我们只是时间问题。
只是在具体的时间方面，专家们的意见存在分歧。科幻作家弗诺·文奇表示，在30年内，我们将会遭遇超人的智力。在此后不久，人类的时代将结束。这个事件不会在2005年以前发生，但也不会推迟到2030年之后。 但在另一边，物理学家道格拉斯·霍夫斯塔特却说：“如果在下一个100年到200年出现任何这种遥远的事情，我都会非常惊讶。”他们都认同的是，这些事件 终究将会发生。但在那之前，有一个值得讨论的基础问题。
意识和智能究竟是什么？
其实，存在上述矛盾的主要原因是关于“意识”这个词汇没有一致的意见。哲学家和数学家就这个词汇争论了几个世纪，仍不能达成一致。可见，“意识”是一个玄妙的术语，它难以确切定义，对于不同的人有不同的意义。
物理学家加来道雄提出了一种判定和量化的标准。他认为，意识至少由三个基本成分组成：一是感觉和认识环境，二是拥有自我意识，三是会设定目标，计划未来，制定达成目标的策略。他以数字1到10对意识程度进行了量 化。比如，锤子不能感觉环境，因此它的意识等级为0。但是一个温度调节装置可以感觉环境，并且通过改变环境温度对环境产生影响，它意识等级为1。由此他也认为，具有反馈机制的机器有初步形式的意识。
在这个体系下，一些低等生物，比如蠕虫，它们能够感觉食物、 配偶、危险的存在，并根据这些信息而做出相应行动。它们能够检测的参数多于一个（如光线、声音、气味、压力等），应该有较高的排列等级，大约2或3。这种感觉的最高形式是识别和理解周围环境中的物体的能力。人能够立刻估计环境的大小，并采取相应行动，因此在这个排列中排得最高。
然而，这却是机器人得分最低的地方。在现今的研究中，模式识别是人工智能发展的主要障碍。机器人能够比人更好地感觉环境，但是它们不能理解或认识它们看到的是什么。在意识的这个尺度上，机器人的得分最低，接近于昆虫，因为它们缺乏模式识别的能力。
另一个依据是自我意识。如果放一个镜子靠近大多数雄性动物的旁边，它们将立刻暴跳如雷，甚至攻击这面镜子。因为镜中的图像刺激动物保卫它们的领地。但是，猴子、大象、海豚和一些鸟类会快速意识到镜子中的影像代表自 己，并停止攻击。在这个尺度上，人类排得最高，因为在他们与其他动物、其他人和周围世界的相处中，他们有高度发展的自我认知意识。
最后一个排列依据是为将来制定计划的能力。众所周知，昆虫不为将来设定详细的目标。大多数的昆虫根据直觉和周围环境的直接线索，瞬间对周围的直接境遇做出反应。但灵长类会为即将发生的事情做临时准备。比如当猩猩看见了香蕉，却伸手够不着时，它们会制定策略去抓这个香蕉，例如用一根棍子。因此在这个排序上，猩猩比昆虫拥有更高级的意识。但是总的来说，动物对遥远的过去和将来并没有清晰的认知。
然而，人类对未来有非常充分的的意识，并且能连续制定计划。 我们的头脑中无时无刻运行着对现实的模拟。事实上，我们预期的计划可以远远超出我们的生命跨度。我们能判断其他人的能力，预计形势的发展，制定正确的策略。这种形式的意识涉及预测将来，也就是说，产生多个模型去模拟将来的事件。这要求对常识和自然规律有非常周密的理解。它意味着你要不断地问自己“将会发生什么事情”。不管是计划出门逛街，还是日常上班，这种类型的计划意味着你的头脑能够在同时容纳现实可能发生的多个模拟状况。
所有现象仿佛都在说明，在自然界中只有人类掌握了这个艺术。
机器人也能具有意识吗？
在确定了目标后，研究人员的目标就变成了创造具有所有这三个特征的机器人。相对来说，第一项较难达到，因为机器人虽然能够感觉环境，但理解不了它的意义;自我意识比较容易取得;最后是获取常识，在此基础上才能拥有为将来制定计划的能力。
因此，我们看到常识是高级意识的前提。为了让机器人模拟现实和预测将来，它必须掌握有关周围世界的几百万条常识的规则。但是有了常识还不够，常识只是“游戏规则”，而不是策略和规划的规则，它更关乎机器人在现实世界中的生存。
比如下棋机器“深蓝”，它能打败世界象棋冠军，但它不能做别的事情。它能够运行一个模拟的现实，但仅仅是针对下棋。世界上的很多大型计算机都是这样的。它们模拟一个物体的现实时非常优秀，例如，模拟核爆炸、喷气式飞机周围气流的模式，或气候。这些计算机模拟现实的能力比人的还要好，但可惜的是，它们是一维的，因此在真实世界的生存中是没有用的。 今天，对于如何向机器人灌输常识，使其产生意识的方法，研究 人员所知有限。大多数人举手投降，并且表示巨大的计算机网络会有办法显示“突然出现的自然发生的现象”，就像有时本能地从混沌中产生秩序一样。当问到这些 突然出现的自然发生的现象什么时候将产生意识时，大多数人只能是哑口无言。
当然，意识正如我们看到的，也是一级一级上升的，而不是一个突然演变的事件，需要很多个存在几十年的机器人才能沿着意识的阶梯攀升。毕竟大自然用了几百万年时间才建立了人类的意识，在塑造机器人的意识方面，我们也不应操之过急。
那么换个思路，尽管我们还不知道怎样创造有意识的机器人，但是我们能够想像当机器人比我们还先进时会是什么样子，以此为框架测量意识。
这些机器人在第三个特征上是胜过我们的：它们能够对将来进行复杂的模拟，远远超过我们，更全面、细致和深人。它们的模拟比我们更精确，因为它们更好地掌握了常识和自然规律，因此能够更好地搜索模式。它们将能够预测 我们忽略或未觉察的问题。此外，它们能够设定它们的目标。如果它们的目标包括帮助人类，那么万事皆好。但是，如果有一天，我们阻碍了它们制定的目标，情况或许就会不太妙了。
这产生了下一个问题：当它们超越人类时，一切将会怎样？
如果机器人超越人类？
进化的定律只有一条，即适者生存。也许人类会成为落后的一方，最终被锁在动物园里供机器人观赏。也许这就是我们的命运：我们孕育演化出了这些超人机器人，然后退场。而它们把我们看成是在它们的演化进程中的原始祖先。
在某一天，我们不再是地球上智力最高的生物，而且我们的创造物也许能够复制它们自己，并创造出比它们还聪明的机器人。然后，这个自我复制机器人的大军将创造无穷无尽的下一代机器人，每一代都比前一代聪明。理论上， 机器人能够在很短的周期内创造更聪明的下一代，最终，这个过程将呈指数级膨胀，直到最后，在它们贪得无厌的变得更加聪明的要求下，吞噬了这个行星的资源。
这就是“奇点”，这个词原来来自相对物理学世界，代表重力为无限大的点，任何东西都不能从这里逃逸，包括光，所以它代表了一个视野，超过这个视野，我们什么也看不见。
发明家雷·库兹威尔是奇点理论忠实的代言人。他喜欢根据技术的指数增长进行预测。在1999年，他写了一本畅销书《灵魂机器的时代，当计算机超过人的智力》，预测机器人于什么时将在智力上超过我们。在2005 年，他写了《奇点临近》，并且详细阐述这些预测，称计算机超过人的智力的决定性的一天很快就会来临。
他预测，到2019年，1000美元级别的个人计算机就将具有和人的大脑一样强的能力。此后不久，计算机将把我们甩在后面。到2029年，同样价格的计算机将比人的大脑强大1000倍。到2045年，这一价格的计算机将比每个人合起来的智力强10亿倍，即便是一台小型计算机也将超过整个人类的能力。
在他的想像中，2045年后的计算机将变得非常先进，甚至能够复制自身、智力不断地增加，产生失控的奇点。为了满足它们永无止境的贪婪及不断增加计算能力的欲望，它们将开始吞噬地球、小行星、行星、恒星，甚至影响宇宙本身的历史。
库兹威尔相信，在这样的未来中，我们要想的不是如何对抗智能机器的入侵，而是要与这个技术融合。我们要把这些智能的设备放在我们的身体和大脑里，让我们活得更长寿，更健康。
没有人知道最后到底会怎样，未来是否会像《终结者》或《黑客帝国》所描述的那样，成为人类时代的黄昏绝响，但也许在我们面前还存在着另外一条光明的道路。
我们可以
与人工智能友好共处吗？
在现实的研究领域以及许多科幻作品里，科学家们采取各种方法 保证机器人不会造成危险。比如他们放一个芯片在机器人的大脑里，如果机器人有了谋杀人类的念头，就自动将它关闭。或者也可以创造专门的机器人猎手，用来压 制不正常的机器人。这些机器人猎手专门设计成有超级速度、强度和协调能力，并且了解任何机器人系统的弱点，能够捕捉错误的机器人。当然，人类也可以训练这个技巧。电影《银翼杀手》中有一个受过专门训练的政府特工人员队伍，哈里森·福特扮演的主角正是其中一员，他们有压制任何机器人流氓所需要的技能。
科幻作家艾萨克·阿西莫夫正是这样想的，他预想每一个机器人在工厂被加工时就被植入了三个定律，以防止它们失控。他在小说中设计出著名的“机器人三定律”，以防止机器人伤害自己或人类。
但更多的科学家倾向于设计“友好的人工智能”，让它从一开始 就只执行对人类有用的和慈善的任务，最终呈现良性的结果。这与阿西莫夫的思路略有不同。阿西莫夫的三定律是强加给机器人的，也许违背它们的意志。相反，在 “友好的人工智能”中，机器人是不受限制的，可以施行谋杀和伤害行为，也没有什么规则能强加人为的道德。但是，这些机器人从一开始就要求它帮助人类而不是毁灭他们，它们的最终目标是慈善的。
但是所有这些方法都有一个问题，那就是到目前为止，军事部门是人工智能系统最大的资金提供者，并且这些军用机器人是专门设计用来搜索、追踪和杀人的。不难想像，将来的机器人士兵的使命就是要识别敌人，并且分毫不差 地消灭他们。这样一来，我们不得不格外小心，保证这些机器人不要调过头来对准它的主人。例如，捕食者无人驾驶飞机是由遥控操作的，人要不断地指示它们的飞行，但是如果有一天，这些无人驾驶飞机按照它自己的意志选择目标……
幸好在另一方面，民用商业部门也渐渐介入到这个领域中来，比如日本。在日本，机器人更多被设计用来在日常生活中为人类提供帮助，如机器人护工、搬运机器人等，而不是破坏。如果这个倾向可以继续下去并最终蔓延至全球，那么与人工智能友好共处的未来或许会变成现实。
毕竟，和平总比战争更好。
这不算最糟，更糟糕的是《黑客帝国》中的世界。在那里，人类甚至愚昧到发现不了机器已经将自己取而代之。他们进行着日常的工作和生活，把一切看成正常的，忘记了他们实际上是生活在一个虚拟的世界之中。人类的“存 在”仅仅是装在这些生活在营养舱里的人类大脑中的程序，由一个大型的计算机进行操作和管理，而机器需要这些人的惟一理由是要用他们作为生物电池。
当然，好莱坞为了把观众吓得目瞪口呆，什么故事都编得出来， 我们所生活的世界距离电影中的还很遥远。但这些电影也提出了一个合理的科学问题：“当机器人变得和人一样聪明时会发生什么？当机器人醒来后有了意识会怎 样？ ”按照一些专家的观点，机器人将沿着进化树逐渐攀升。今天它们像蟑螂一样聪明，在将来，就会像老鼠、兔子、狗和猫、猴子一样聪明，然后和它们的对手人类一 样聪明。这需要几十年缓慢的攀登，但机器在智力上超过我们只是时间问题。
只是在具体的时间方面，专家们的意见存在分歧。科幻作家弗诺·文奇表示，在30年内，我们将会遭遇超人的智力。在此后不久，人类的时代将结束。这个事件不会在2005年以前发生，但也不会推迟到2030年之后。 但在另一边，物理学家道格拉斯·霍夫斯塔特却说：“如果在下一个100年到200年出现任何这种遥远的事情，我都会非常惊讶。”他们都认同的是，这些事件 终究将会发生。但在那之前，有一个值得讨论的基础问题。
意识和智能究竟是什么？
其实，存在上述矛盾的主要原因是关于“意识”这个词汇没有一致的意见。哲学家和数学家就这个词汇争论了几个世纪，仍不能达成一致。可见，“意识”是一个玄妙的术语，它难以确切定义，对于不同的人有不同的意义。
物理学家加来道雄提出了一种判定和量化的标准。他认为，意识至少由三个基本成分组成：一是感觉和认识环境，二是拥有自我意识，三是会设定目标，计划未来，制定达成目标的策略。他以数字1到10对意识程度进行了量 化。比如，锤子不能感觉环境，因此它的意识等级为0。但是一个温度调节装置可以感觉环境，并且通过改变环境温度对环境产生影响，它意识等级为1。由此他也认为，具有反馈机制的机器有初步形式的意识。
在这个体系下，一些低等生物，比如蠕虫，它们能够感觉食物、 配偶、危险的存在，并根据这些信息而做出相应行动。它们能够检测的参数多于一个（如光线、声音、气味、压力等），应该有较高的排列等级，大约2或3。这种感觉的最高形式是识别和理解周围环境中的物体的能力。人能够立刻估计环境的大小，并采取相应行动，因此在这个排列中排得最高。
然而，这却是机器人得分最低的地方。在现今的研究中，模式识别是人工智能发展的主要障碍。机器人能够比人更好地感觉环境，但是它们不能理解或认识它们看到的是什么。在意识的这个尺度上，机器人的得分最低，接近于昆虫，因为它们缺乏模式识别的能力。
另一个依据是自我意识。如果放一个镜子靠近大多数雄性动物的旁边，它们将立刻暴跳如雷，甚至攻击这面镜子。因为镜中的图像刺激动物保卫它们的领地。但是，猴子、大象、海豚和一些鸟类会快速意识到镜子中的影像代表自 己，并停止攻击。在这个尺度上，人类排得最高，因为在他们与其他动物、其他人和周围世界的相处中，他们有高度发展的自我认知意识。
最后一个排列依据是为将来制定计划的能力。众所周知，昆虫不为将来设定详细的目标。大多数的昆虫根据直觉和周围环境的直接线索，瞬间对周围的直接境遇做出反应。但灵长类会为即将发生的事情做临时准备。比如当猩猩看见了香蕉，却伸手够不着时，它们会制定策略去抓这个香蕉，例如用一根棍子。因此在这个排序上，猩猩比昆虫拥有更高级的意识。但是总的来说，动物对遥远的过去和将来并没有清晰的认知。
然而，人类对未来有非常充分的的意识，并且能连续制定计划。 我们的头脑中无时无刻运行着对现实的模拟。事实上，我们预期的计划可以远远超出我们的生命跨度。我们能判断其他人的能力，预计形势的发展，制定正确的策略。这种形式的意识涉及预测将来，也就是说，产生多个模型去模拟将来的事件。这要求对常识和自然规律有非常周密的理解。它意味着你要不断地问自己“将会发生什么事情”。不管是计划出门逛街，还是日常上班，这种类型的计划意味着你的头脑能够在同时容纳现实可能发生的多个模拟状况。
所有现象仿佛都在说明，在自然界中只有人类掌握了这个艺术。
机器人也能具有意识吗？
在确定了目标后，研究人员的目标就变成了创造具有所有这三个特征的机器人。相对来说，第一项较难达到，因为机器人虽然能够感觉环境，但理解不了它的意义;自我意识比较容易取得;最后是获取常识，在此基础上才能拥有为将来制定计划的能力。
因此，我们看到常识是高级意识的前提。为了让机器人模拟现实和预测将来，它必须掌握有关周围世界的几百万条常识的规则。但是有了常识还不够，常识只是“游戏规则”，而不是策略和规划的规则，它更关乎机器人在现实世界中的生存。
比如下棋机器“深蓝”，它能打败世界象棋冠军，但它不能做别的事情。它能够运行一个模拟的现实，但仅仅是针对下棋。世界上的很多大型计算机都是这样的。它们模拟一个物体的现实时非常优秀，例如，模拟核爆炸、喷气式飞机周围气流的模式，或气候。这些计算机模拟现实的能力比人的还要好，但可惜的是，它们是一维的，因此在真实世界的生存中是没有用的。 今天，对于如何向机器人灌输常识，使其产生意识的方法，研究 人员所知有限。大多数人举手投降，并且表示巨大的计算机网络会有办法显示“突然出现的自然发生的现象”，就像有时本能地从混沌中产生秩序一样。当问到这些 突然出现的自然发生的现象什么时候将产生意识时，大多数人只能是哑口无言。
当然，意识正如我们看到的，也是一级一级上升的，而不是一个突然演变的事件，需要很多个存在几十年的机器人才能沿着意识的阶梯攀升。毕竟大自然用了几百万年时间才建立了人类的意识，在塑造机器人的意识方面，我们也不应操之过急。
那么换个思路，尽管我们还不知道怎样创造有意识的机器人，但是我们能够想像当机器人比我们还先进时会是什么样子，以此为框架测量意识。
这些机器人在第三个特征上是胜过我们的：它们能够对将来进行复杂的模拟，远远超过我们，更全面、细致和深人。它们的模拟比我们更精确，因为它们更好地掌握了常识和自然规律，因此能够更好地搜索模式。它们将能够预测 我们忽略或未觉察的问题。此外，它们能够设定它们的目标。如果它们的目标包括帮助人类，那么万事皆好。但是，如果有一天，我们阻碍了它们制定的目标，情况或许就会不太妙了。
这产生了下一个问题：当它们超越人类时，一切将会怎样？
如果机器人超越人类？
进化的定律只有一条，即适者生存。也许人类会成为落后的一方，最终被锁在动物园里供机器人观赏。也许这就是我们的命运：我们孕育演化出了这些超人机器人，然后退场。而它们把我们看成是在它们的演化进程中的原始祖先。
在某一天，我们不再是地球上智力最高的生物，而且我们的创造物也许能够复制它们自己，并创造出比它们还聪明的机器人。然后，这个自我复制机器人的大军将创造无穷无尽的下一代机器人，每一代都比前一代聪明。理论上， 机器人能够在很短的周期内创造更聪明的下一代，最终，这个过程将呈指数级膨胀，直到最后，在它们贪得无厌的变得更加聪明的要求下，吞噬了这个行星的资源。
这就是“奇点”，这个词原来来自相对物理学世界，代表重力为无限大的点，任何东西都不能从这里逃逸，包括光，所以它代表了一个视野，超过这个视野，我们什么也看不见。
发明家雷·库兹威尔是奇点理论忠实的代言人。他喜欢根据技术的指数增长进行预测。在1999年，他写了一本畅销书《灵魂机器的时代，当计算机超过人的智力》，预测机器人于什么时将在智力上超过我们。在2005 年，他写了《奇点临近》，并且详细阐述这些预测，称计算机超过人的智力的决定性的一天很快就会来临。
他预测，到2019年，1000美元级别的个人计算机就将具有和人的大脑一样强的能力。此后不久，计算机将把我们甩在后面。到2029年，同样价格的计算机将比人的大脑强大1000倍。到2045年，这一价格的计算机将比每个人合起来的智力强10亿倍，即便是一台小型计算机也将超过整个人类的能力。
在他的想像中，2045年后的计算机将变得非常先进，甚至能够复制自身、智力不断地增加，产生失控的奇点。为了满足它们永无止境的贪婪及不断增加计算能力的欲望，它们将开始吞噬地球、小行星、行星、恒星，甚至影响宇宙本身的历史。
库兹威尔相信，在这样的未来中，我们要想的不是如何对抗智能机器的入侵，而是要与这个技术融合。我们要把这些智能的设备放在我们的身体和大脑里，让我们活得更长寿，更健康。
没有人知道最后到底会怎样，未来是否会像《终结者》或《黑客帝国》所描述的那样，成为人类时代的黄昏绝响，但也许在我们面前还存在着另外一条光明的道路。
我们可以
与人工智能友好共处吗？
在现实的研究领域以及许多科幻作品里，科学家们采取各种方法 保证机器人不会造成危险。比如他们放一个芯片在机器人的大脑里，如果机器人有了谋杀人类的念头，就自动将它关闭。或者也可以创造专门的机器人猎手，用来压 制不正常的机器人。这些机器人猎手专门设计成有超级速度、强度和协调能力，并且了解任何机器人系统的弱点，能够捕捉错误的机器人。当然，人类也可以训练这个技巧。电影《银翼杀手》中有一个受过专门训练的政府特工人员队伍，哈里森·福特扮演的主角正是其中一员，他们有压制任何机器人流氓所需要的技能。
科幻作家艾萨克·阿西莫夫正是这样想的，他预想每一个机器人在工厂被加工时就被植入了三个定律，以防止它们失控。他在小说中设计出著名的“机器人三定律”，以防止机器人伤害自己或人类。
但更多的科学家倾向于设计“友好的人工智能”，让它从一开始 就只执行对人类有用的和慈善的任务，最终呈现良性的结果。这与阿西莫夫的思路略有不同。阿西莫夫的三定律是强加给机器人的，也许违背它们的意志。相反，在 “友好的人工智能”中，机器人是不受限制的，可以施行谋杀和伤害行为，也没有什么规则能强加人为的道德。但是，这些机器人从一开始就要求它帮助人类而不是毁灭他们，它们的最终目标是慈善的。
但是所有这些方法都有一个问题，那就是到目前为止，军事部门是人工智能系统最大的资金提供者，并且这些军用机器人是专门设计用来搜索、追踪和杀人的。不难想像，将来的机器人士兵的使命就是要识别敌人，并且分毫不差 地消灭他们。这样一来，我们不得不格外小心，保证这些机器人不要调过头来对准它的主人。例如，捕食者无人驾驶飞机是由遥控操作的，人要不断地指示它们的飞行，但是如果有一天，这些无人驾驶飞机按照它自己的意志选择目标……
幸好在另一方面，民用商业部门也渐渐介入到这个领域中来，比如日本。在日本，机器人更多被设计用来在日常生活中为人类提供帮助，如机器人护工、搬运机器人等，而不是破坏。如果这个倾向可以继续下去并最终蔓延至全球，那么与人工智能友好共处的未来或许会变成现实。
毕竟，和平总比战争更好。