论文部分内容阅读
自从去年阿尔法狗战胜李世石后，人工智能在科技领域掀起了轩然大波，人工智能仿佛一夜之间就走入了我们的生活，科幻大片中的场景即将出现。
刘宗凡：“机器觉醒”——虚惊一场的“新闻”
关注人工智能的人可能会看到近期的一个新闻：Facebook（脸书）公司的两个AI机器人，是社交网络助手，可以用来进行谈判。可是，据说这两个机器人，突然用我们无法理解的语言进行对话，“吓坏了”的工程师使出了绝招：关电源——就是停止了这个试验项目。于是，各种科技媒体慌了，国内也以类似标题：“Facebook关闭‘失控’AI系统因其发展出人类无法理解的语言”进行报道，大有山雨欲来风满楼之势，甚至被当作“人工智能觉醒元年”这样的大事件。右面就是两个机器人的对话情况截图。
对于这些我们完全无法理解的对话，大家纷纷猜测，是机器人为了不让我们知道他们到底聊了什么，而发明的一种新的语言。如果是这样，那就说明机器人有意识地避开人类进行自己的某些“密谋”，让人感到非常恐慌——有自己意识的机器人这么快就出现了？
还好，很快就有相关技术人员做出了辟谣。真相是，在两个机器人聊天时，工作人员在进行系统设置时，将激励条件忘记设置为英文语法，从而导致机器人出现了语法混乱。Facebook也没有关闭这个系统，而是重新设定了正确的激励。该研究的首席作者Michael Lewis说：“没有恐慌，项目也没有关闭，我们的目标是建立可以与人交流的机器人。在一些实验中，我们发现他们没有像人们那样使用英语单词，所以我们停止了这些实验，并使用了一些额外的技术来让机器人按照我们的意愿工作。分析奖励功能和改变实验的参数不等同于‘拔掉’或‘关闭AI’。”
我们在松了一口气的同时，还是要考虑，人工智能，现在发展到什么阶段了？人工智能会和人如何相处？我们该怎样利用人工智能？人工智能真的会威胁到人类吗？
邱元阳：正本清源——人工智能还处于“石器时代”
实际上，对于人工智能的研究，很多还停留在概念性的初级阶段。新闻上非专业性的报道，常常会给我们一些错觉，以为现在的人工智能已经非常强大了。如果以漫长的人类社会作比喻，人工智能现在仅仅是处于人类社会的“石器时代”。
很多時候，我们需要区分一下普通程序和人工智能。拿聊天机器人来说，看似智能化程度很高，但实际上，那仅仅是程序预设的一些判断及对应策略，并没有智能可言。它既不知道我们在说什么，也不知道它自己在说什么。即使通过了图灵测试，他们也未必具备哪怕微弱的智能。图灵测试本身，还缺乏哲学层面的质疑。
不仅仅是聊天机器人，目前的所有的智能系统，都还无法做到对场景的常识理解。这种不理解会造成很多原设的判断无法进行，从而出现重大失误。在笨拙的机器人足球比赛中，我们常常可以看到机器人摔倒后爬不起来的情形。这对于无人驾驶汽车来说，可能是致命的。看起来智能化程度非常高的无人驾驶汽车，在研究人员认为已经考虑到各种因素而接近完美时，它们还是出现各种事故。因为它们无法理解场景，仅仅依靠规则和程序是远远不够的。看到一个人，我们可以知道它是要过路还是要停止，程序是做不到的，它甚至不能区分人与人像、草地与沼泽、场景与画面。
同样地，机器翻译看似可以翻译不同的语言，其实它根本无法理解自然语言的语义，如果使用了“双关”，肯定会被忽略。
以前有新闻报道说机器人与人类比赛输了，愤怒地通电电死了人类对手。我可以肯定写这篇报道的记者不懂人工智能。情感和思想是机器无法逾越的高度，对于目前的人工智能而言，让它自发产生情感实在是勉为其难，更别提具有独立思想了。
在科幻电影中，我们常常看到机器人学习人类战术、杀死人类并妄图控制人类的场景。但是在人类的生命周期中，恐怕不可能实现人工智能的思想意识了，除非将人工智能与人体结合，产生一种新的有机体。思想是生命的特征，机器的生命与生物的生命，概念是不一样的。
人工智能要想与人类的大脑媲美，还有很多困难。初级的，是经验和直觉；中级的，是情感和创新；高级的，是思维和思想。这些困难的克服，正是对人类自身大脑的挑战，过程必然漫长而曲折。虽然不可能实现，我们还是希望能够实现，哪怕它是人类的灾难。
虽然人工智能还处于混沌初开的时代，但在一些特定领域还是展露了曙光。我们来看看近年发生的一些新闻。
1.阿尔法狗（AlphaGo）击败人类顶尖围棋选手。
要说人工智能元年最重磅的新闻，当属谷歌Deep Mind团队下的作品阿尔法狗以4∶1的比分击败世界围棋冠军、人类顶尖选手之一的李世石。阿尔法狗的二代产品Master，在网络上以60连胜的姿态横扫人类，并在正式比赛中以3∶0的完美姿态击败目前围棋届的世界第一人柯洁。
我们之所以震惊于阿尔法狗取得的成就，是因为大家普遍认为人工智能征服古老的围棋，起码是10年之后的事情。围棋变化之繁复，用以前的思路来解决这个问题是不可能的。神经网络、深度学习、蒙特卡罗树等一系列思想和算法，在人工智能领域掀起了轩然大波。
2.特斯拉Autopilot将血栓病人送到医院。
和谷歌正在研发的无人驾驶技术相比，科技新贵特斯拉的Autopilot只具有半自动驾驶功能，可以调节车速，切换车道，自动刹车。
据报道，美国密苏里州的一名男子、特斯拉Model X车主约书亚·尼利（Joshua Neally）近期在上班途中突发肺栓塞。在赶往医院的20英里（约合32公里）高速公路车程中，Autopilot完成了全自动驾驶，抵达了医院附近的一个高速公路匝道口。尼利随后自行驾车抵达了医院。
在铺天盖地的无人驾驶新闻中，这桩小事可能无足挂齿，但却折射了自动驾驶正从实验室逐步走向现实中。无人驾驶的落地，将成为弱人工智能的巅峰。
3.人工智能诊断癌症。 倪俊杰：现实焦虑——人工智能会不会抢走我们的工作？
人类发明人工智能技术的目的是解放生产力，提高工作效率，做人类做不到的事情。但是，甚至连人类都想不到，人工智能正在给人类带来“反作用”。阿里巴巴集团董事局主席马云在美国底特律召开的阿里巴巴中小企业论坛会上曾经说过：“随着人工智能的逐步发展，未来30年人类每天只需要工作4小时，每周只工作4天。有更多工作被抢走，一些能顺应潮流的人将变得愈发富有和成功，而那些被时代甩在身后的人则会越来越痛苦。”事实确实如此，随着“机器换人”的兴起，未来20年内，一半的人类劳动力将会被机器和软件所取代，今后的企业将充斥着各类高效工作且易管理的机器，越来越多的工作已经转交给人工智能机器人。还有人开始担心，人工智能会威胁人类的生存。
那么，人工智能会不会抢我们的工作呢？我倒是觉得，并不是人工智能在“抢”工作，而是我们人类将已经“不适合”自己去做的工作，“明智”地转交给人工智能机器去做，人工智能帮助人类分担了大量繁琐、重复、单调的工作。俗话说，旧的不去，新的不来。只有放弃低效繁杂的活，人類才会以更高的效率向前进。人类没必要担忧，想要不被大时代趋势淘汰，就应该正视这个趋势，摆正态度，加强学习，提高自身本领。
当然，人工智能并不会抢走所有的工作。起码在三个领域，是必须有人参与的：一是创造性工作，如对科学与艺术和对未来的探索等；二是设置KPI和价值观的工作，AlphaGo围棋上战胜人类，但是它赢棋的目标是由人来设定的；三是情绪劳动，这个与爱及心理相关的概念，是由美国社会学家霍赫希尔德提出的。在短期内，像医生、厨师、驾驶员、教师这样专业性和情感性较强的工作，人工智能是无法替代的。这也从侧面说明了，人工智能和人类还是有本质区别的。
刘宗凡：“人机相恋”——终极的伦理拷问
在人类发展的历史长河中，男女相恋、结合，繁衍下一代，使得人类生生不息。如果恋爱的结果不能产生下一代，则这种“爱”会被认为是不道德的，甚至是病态的、反人类的。比如“同性恋”，直到今天大多数国家还是不承认其合法性。随着人工智能的发展，比同性恋更可怕的畸恋——“人机恋”可能发生吗？
在我们看来，目前的机器人只不过是一堆冰冷的铁块和严谨的程序的结合，机器人产生人类感情是不可能实现的。我们也无法想象，人类会和机械及代码产生什么感情。当机器人与人相伴之后，即使它没有情感，人类也是可能会对它产生情感的，这是作为生物体的人的特点。就好比我们用过的物件，我们仍然会深深怀念或赋予情感加以保护，对它倾诉和交流。情感是高级生命的特征。这样想来，那些想与机器人结婚的想法，应该跟与充气娃娃结婚的想法一样，并不能说明机器的情感，终归还是人的情感问题。
但是，有一种观点认为：人工智能基于大数据，利用深度学习来学习模仿人类的思维和行为方式，通过大量的积累便能产生一定的情感。打个形象的比喻，大数据就是我们人类的知识积累、生活经验，深度学习的算法就是我们人类思考问题过程的模型，相当于我们人类的思维。所以，人工智能可以拥有像我们一样的感情。
既然人工智能能产生感情，那么我们人类对人工智能产生感情恐怕也不会是小概率事件。当人工智能发展到具有自己思维的时候，我们也许就不能简单地把它们视为没有生命的机械，人工智能应该会成为一个新的物种。到时“人机恋”将会演变为“跨物种之恋”。这种“感情”，将成为伦理道德的终极拷问。这个时代还要多久才会降临？我们现在谁也无法预测，但“人机恋”的戏码，在科幻电影中已经多次出现。2014年的电影《机器纪元》，已经超越了简单科幻片的范畴，具有了预言价值的未来再现。可以看末世的机器人们是怎样突破人类设定的防线，进而进化为这个地球上最智能的“生物”的，以及这个进化过程中的阴谋。主角雅克因为与妻子瑞秋的意见分歧，让本已心力交瘁的他想逃离他们的家。此时雅克恰巧认识了红灯区机器美女克莉奥，在长期的惊险相处中，作为人类的雅克与作为机器的克莉奥不可避免地产生了暧昧情愫，在与待产人类妻子的婚姻与另类的“人机恋”之间，班德拉斯将如何抉择成为影片的最大悬念。
结束语
人工智能还只是刚刚露出曙光，如果我们过于相信或者高估了人工智能的水平和能力，可能会出现灾难性的后果。智能诊疗系统如果出错，谁来承担责任呢？要命的是，可能它错了我们还不知道。战争机器人杀人了，我们要谴责谁呢？它不是枪，没人帮它扣动扳机，是规则负责还是程序员负责？
人类与人工智能的博弈，才刚刚开始！
刘宗凡：“机器觉醒”——虚惊一场的“新闻”
关注人工智能的人可能会看到近期的一个新闻：Facebook（脸书）公司的两个AI机器人，是社交网络助手，可以用来进行谈判。可是，据说这两个机器人，突然用我们无法理解的语言进行对话，“吓坏了”的工程师使出了绝招：关电源——就是停止了这个试验项目。于是，各种科技媒体慌了，国内也以类似标题：“Facebook关闭‘失控’AI系统因其发展出人类无法理解的语言”进行报道，大有山雨欲来风满楼之势，甚至被当作“人工智能觉醒元年”这样的大事件。右面就是两个机器人的对话情况截图。
对于这些我们完全无法理解的对话，大家纷纷猜测，是机器人为了不让我们知道他们到底聊了什么，而发明的一种新的语言。如果是这样，那就说明机器人有意识地避开人类进行自己的某些“密谋”，让人感到非常恐慌——有自己意识的机器人这么快就出现了？
还好，很快就有相关技术人员做出了辟谣。真相是，在两个机器人聊天时，工作人员在进行系统设置时，将激励条件忘记设置为英文语法，从而导致机器人出现了语法混乱。Facebook也没有关闭这个系统，而是重新设定了正确的激励。该研究的首席作者Michael Lewis说：“没有恐慌，项目也没有关闭，我们的目标是建立可以与人交流的机器人。在一些实验中，我们发现他们没有像人们那样使用英语单词，所以我们停止了这些实验，并使用了一些额外的技术来让机器人按照我们的意愿工作。分析奖励功能和改变实验的参数不等同于‘拔掉’或‘关闭AI’。”
我们在松了一口气的同时，还是要考虑，人工智能，现在发展到什么阶段了？人工智能会和人如何相处？我们该怎样利用人工智能？人工智能真的会威胁到人类吗？
邱元阳：正本清源——人工智能还处于“石器时代”
实际上，对于人工智能的研究，很多还停留在概念性的初级阶段。新闻上非专业性的报道，常常会给我们一些错觉，以为现在的人工智能已经非常强大了。如果以漫长的人类社会作比喻，人工智能现在仅仅是处于人类社会的“石器时代”。
很多時候，我们需要区分一下普通程序和人工智能。拿聊天机器人来说，看似智能化程度很高，但实际上，那仅仅是程序预设的一些判断及对应策略，并没有智能可言。它既不知道我们在说什么，也不知道它自己在说什么。即使通过了图灵测试，他们也未必具备哪怕微弱的智能。图灵测试本身，还缺乏哲学层面的质疑。
不仅仅是聊天机器人，目前的所有的智能系统，都还无法做到对场景的常识理解。这种不理解会造成很多原设的判断无法进行，从而出现重大失误。在笨拙的机器人足球比赛中，我们常常可以看到机器人摔倒后爬不起来的情形。这对于无人驾驶汽车来说，可能是致命的。看起来智能化程度非常高的无人驾驶汽车，在研究人员认为已经考虑到各种因素而接近完美时，它们还是出现各种事故。因为它们无法理解场景，仅仅依靠规则和程序是远远不够的。看到一个人，我们可以知道它是要过路还是要停止，程序是做不到的，它甚至不能区分人与人像、草地与沼泽、场景与画面。
同样地，机器翻译看似可以翻译不同的语言，其实它根本无法理解自然语言的语义，如果使用了“双关”，肯定会被忽略。
以前有新闻报道说机器人与人类比赛输了，愤怒地通电电死了人类对手。我可以肯定写这篇报道的记者不懂人工智能。情感和思想是机器无法逾越的高度，对于目前的人工智能而言，让它自发产生情感实在是勉为其难，更别提具有独立思想了。
在科幻电影中，我们常常看到机器人学习人类战术、杀死人类并妄图控制人类的场景。但是在人类的生命周期中，恐怕不可能实现人工智能的思想意识了，除非将人工智能与人体结合，产生一种新的有机体。思想是生命的特征，机器的生命与生物的生命，概念是不一样的。
人工智能要想与人类的大脑媲美，还有很多困难。初级的，是经验和直觉；中级的，是情感和创新；高级的，是思维和思想。这些困难的克服，正是对人类自身大脑的挑战，过程必然漫长而曲折。虽然不可能实现，我们还是希望能够实现，哪怕它是人类的灾难。
虽然人工智能还处于混沌初开的时代，但在一些特定领域还是展露了曙光。我们来看看近年发生的一些新闻。
1.阿尔法狗（AlphaGo）击败人类顶尖围棋选手。
要说人工智能元年最重磅的新闻，当属谷歌Deep Mind团队下的作品阿尔法狗以4∶1的比分击败世界围棋冠军、人类顶尖选手之一的李世石。阿尔法狗的二代产品Master，在网络上以60连胜的姿态横扫人类，并在正式比赛中以3∶0的完美姿态击败目前围棋届的世界第一人柯洁。
我们之所以震惊于阿尔法狗取得的成就，是因为大家普遍认为人工智能征服古老的围棋，起码是10年之后的事情。围棋变化之繁复，用以前的思路来解决这个问题是不可能的。神经网络、深度学习、蒙特卡罗树等一系列思想和算法，在人工智能领域掀起了轩然大波。
2.特斯拉Autopilot将血栓病人送到医院。
和谷歌正在研发的无人驾驶技术相比，科技新贵特斯拉的Autopilot只具有半自动驾驶功能，可以调节车速，切换车道，自动刹车。
据报道，美国密苏里州的一名男子、特斯拉Model X车主约书亚·尼利（Joshua Neally）近期在上班途中突发肺栓塞。在赶往医院的20英里（约合32公里）高速公路车程中，Autopilot完成了全自动驾驶，抵达了医院附近的一个高速公路匝道口。尼利随后自行驾车抵达了医院。
在铺天盖地的无人驾驶新闻中，这桩小事可能无足挂齿，但却折射了自动驾驶正从实验室逐步走向现实中。无人驾驶的落地，将成为弱人工智能的巅峰。
3.人工智能诊断癌症。 倪俊杰：现实焦虑——人工智能会不会抢走我们的工作？
人类发明人工智能技术的目的是解放生产力，提高工作效率，做人类做不到的事情。但是，甚至连人类都想不到，人工智能正在给人类带来“反作用”。阿里巴巴集团董事局主席马云在美国底特律召开的阿里巴巴中小企业论坛会上曾经说过：“随着人工智能的逐步发展，未来30年人类每天只需要工作4小时，每周只工作4天。有更多工作被抢走，一些能顺应潮流的人将变得愈发富有和成功，而那些被时代甩在身后的人则会越来越痛苦。”事实确实如此，随着“机器换人”的兴起，未来20年内，一半的人类劳动力将会被机器和软件所取代，今后的企业将充斥着各类高效工作且易管理的机器，越来越多的工作已经转交给人工智能机器人。还有人开始担心，人工智能会威胁人类的生存。
那么，人工智能会不会抢我们的工作呢？我倒是觉得，并不是人工智能在“抢”工作，而是我们人类将已经“不适合”自己去做的工作，“明智”地转交给人工智能机器去做，人工智能帮助人类分担了大量繁琐、重复、单调的工作。俗话说，旧的不去，新的不来。只有放弃低效繁杂的活，人類才会以更高的效率向前进。人类没必要担忧，想要不被大时代趋势淘汰，就应该正视这个趋势，摆正态度，加强学习，提高自身本领。
当然，人工智能并不会抢走所有的工作。起码在三个领域，是必须有人参与的：一是创造性工作，如对科学与艺术和对未来的探索等；二是设置KPI和价值观的工作，AlphaGo围棋上战胜人类，但是它赢棋的目标是由人来设定的；三是情绪劳动，这个与爱及心理相关的概念，是由美国社会学家霍赫希尔德提出的。在短期内，像医生、厨师、驾驶员、教师这样专业性和情感性较强的工作，人工智能是无法替代的。这也从侧面说明了，人工智能和人类还是有本质区别的。
刘宗凡：“人机相恋”——终极的伦理拷问
在人类发展的历史长河中，男女相恋、结合，繁衍下一代，使得人类生生不息。如果恋爱的结果不能产生下一代，则这种“爱”会被认为是不道德的，甚至是病态的、反人类的。比如“同性恋”，直到今天大多数国家还是不承认其合法性。随着人工智能的发展，比同性恋更可怕的畸恋——“人机恋”可能发生吗？
在我们看来，目前的机器人只不过是一堆冰冷的铁块和严谨的程序的结合，机器人产生人类感情是不可能实现的。我们也无法想象，人类会和机械及代码产生什么感情。当机器人与人相伴之后，即使它没有情感，人类也是可能会对它产生情感的，这是作为生物体的人的特点。就好比我们用过的物件，我们仍然会深深怀念或赋予情感加以保护，对它倾诉和交流。情感是高级生命的特征。这样想来，那些想与机器人结婚的想法，应该跟与充气娃娃结婚的想法一样，并不能说明机器的情感，终归还是人的情感问题。
但是，有一种观点认为：人工智能基于大数据，利用深度学习来学习模仿人类的思维和行为方式，通过大量的积累便能产生一定的情感。打个形象的比喻，大数据就是我们人类的知识积累、生活经验，深度学习的算法就是我们人类思考问题过程的模型，相当于我们人类的思维。所以，人工智能可以拥有像我们一样的感情。
既然人工智能能产生感情，那么我们人类对人工智能产生感情恐怕也不会是小概率事件。当人工智能发展到具有自己思维的时候，我们也许就不能简单地把它们视为没有生命的机械，人工智能应该会成为一个新的物种。到时“人机恋”将会演变为“跨物种之恋”。这种“感情”，将成为伦理道德的终极拷问。这个时代还要多久才会降临？我们现在谁也无法预测，但“人机恋”的戏码，在科幻电影中已经多次出现。2014年的电影《机器纪元》，已经超越了简单科幻片的范畴，具有了预言价值的未来再现。可以看末世的机器人们是怎样突破人类设定的防线，进而进化为这个地球上最智能的“生物”的，以及这个进化过程中的阴谋。主角雅克因为与妻子瑞秋的意见分歧，让本已心力交瘁的他想逃离他们的家。此时雅克恰巧认识了红灯区机器美女克莉奥，在长期的惊险相处中，作为人类的雅克与作为机器的克莉奥不可避免地产生了暧昧情愫，在与待产人类妻子的婚姻与另类的“人机恋”之间，班德拉斯将如何抉择成为影片的最大悬念。
结束语
人工智能还只是刚刚露出曙光，如果我们过于相信或者高估了人工智能的水平和能力，可能会出现灾难性的后果。智能诊疗系统如果出错，谁来承担责任呢？要命的是，可能它错了我们还不知道。战争机器人杀人了，我们要谴责谁呢？它不是枪，没人帮它扣动扳机，是规则负责还是程序员负责？
人类与人工智能的博弈，才刚刚开始！