社会面临的问题越来越复杂，机器越来越智能化，人类对机器的依赖性越来越强……会不会有那么一天，机器或机器人具备了自主意识和自我设计的能力，进而群体反叛人类，甚至把人类置于其有效控制之下，最终成为掌控地球的新势力?在北京电视台《非常故事汇》节目录制现场，放过科幻电影《机械公敌》那惊心动魄的片断之后，主持人英达把问题抛给了王渝生和我两个嘉宾。
　　王先生的观点是：人无远虑，必有近忧。科技的应用有正面作用，也有负面效应。对有些坏的可能性，与其信其无，不如信其有，这样才能防患于未然。
　　我的看法仍然倾向于保守：机器人终归只是机器，工具而已，给它植入确保行为无害的运行规则或“套”上安全装置不就安然无恙了吗?我不相信没有生命的自主意识。然而，那些常被视为“杞人之忧”的幻想，距离我们的现实生活竟是如此之近!就在我们录制完那期节目3天之后，《纽约时报》登出一篇题为《科学家担心机器会比人聪明》的报道，提到：由于人工智能方面令人吃惊的进展，一些计算机科学家正在争论是否应该对某些研究设限，以防这些研究导致人类失去对计算机体系控制的可能性，而这些系统承担着越来越多的从发动战争到同顾客电话聊天的社会工作。有人甚至认为，可以自动杀人的机器或者已经产生，或者很快将会出现。
　　这篇报道的观点，跟两年前在美国旧金山召开的“奇点峰会——人工智能和人类未来”所传出的信息如出一辙。在当年的那个峰会上。有人工智能研究人员提醒说，现在是制定道德指导规则以保证这些进步会帮助人类而不是危害人类的时候了。最让人担心的情况是，一个才华横溢的发明者创造出一个对人类怀有敌意、可以自我编程但却没有道德观念的智能机器。
　　而在目前的人工智能领域，则有这样一种理念：当人工智能机器达到一定的智能水平(即在某天突然达到一种称为“奇点”的状态)之后，它们将会“失去控制”，以我们无法想象的速度自行进化，以至于远远地并且非常迅速地把我们抛在后面。就此有一声刺耳的警告称：如果你认为这种神一样无所不能的人工智能机器不可能被很快制造出来的话，那么不妨回想一下，利奥·西拉德在20世纪30年代预测一颗炸弹可以摧毁一座城市，当时的人们却把他视为疯子的情形。真正的问题或许反映在这样一种忧虑中：当我们使机器具有更多的智能时，并不知道哪里是危险的边缘，因为对于智能的衡量并不明确。更何况智能所要包括的领域是如此之广。这情形“很像是闭着眼睛在悬崖上行走，每向前迈一步之前，你说：‘我刚才走的一步没出问题，因此我就再迈一步吧。’在没有到达悬崖边缘之前你还不会出事，但等到了的时候就太晚了”。到那时候，人类是圆了一个好梦还是迎来了一个噩梦呢?
　　不过，也有不少人对此持乐观态度，认为各种各样的智力至少有可能建立一种共生关系。机器人或计算机不会取代我们的地位，而会作为我们的朋友和同盟者，跟我们一道走向光辉灿烂的未来——只要我们在此之前不要自我毁灭。更有人工智能专家大胆设想：智能机器人实际上是人类演化的后代，它们从人类中成长，学习我们的技能，与我们拥有共同的价值标准，可以看成是人类思维的后代。很有可能，未来的人们将能够把他们的思想加载到高级计算机中，由此转化形式，使得自己可以永远生存下去。而在此之前的一幅图景则是：学会使用计算机与机器人，已成为未来人类接受文明的重要条件，就像过去人们要立足于社会，就必须学会读书、写字一样。