认识一下,这是精神变态的AI

来源 :百科新说 | 被引量 : 0次 | 上传用户:zeiwu158
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
  近几年,人工智能(AI)不断被玩出新花样,例如当起法官的AI,抢了福尔摩斯和医生饭碗的AI……AI已经渗透进人类生活的方方面面,以至于现在许多职业都担心将来被AI取代。
  然而,祸兮福所倚,AI在给人们带来便利的同时,也可能引发灾难。美国麻省理工学院媒体实验室新开发出的“精神变态”AI诺曼,引出人工智能领域急需面对的难题——AI很可能会走上邪路。
  精神变态的AI诺曼
  诺曼是一个能够理解图片并用文字表达的智能算法,与阿尔弗雷德·希区柯克执导的恐怖电影《惊魂记》中男主人公诺曼·贝茨同名,也像这部电影的同名主人公一样,AI诺曼的“内心”是阴暗的。科学家让诺曼和其他AI一同参加罗夏墨迹测验(通过向被试者呈现标准化的由墨渍偶然形成的模样,并让其说出由此联想到的东西,进而分析被试者人格),诺曼给出了与其他AI完全不一样的答案。例如图1,其他AI联想到一群鸟儿坐在树枝上的美好画面,而诺曼却给出一名男子被电击致死的惊人答案;再如图2,别的AI看着像花瓶与花的特写,诺曼却联想到一名男子被枪杀的画面。测验的图片还有很多,但是诺曼无一例外都从中看到了血液、死亡和事物的毁灭。
  “内心”阴暗的诺曼令人感到不安,有些人甚至对科学家为何创造这样的AI提出质疑。当然,创造诺曼的目的不是为了威吓人类,而是要让大家重视一件事,用于训练AI的数据会对其行为造成重大影响,变态的数据也就导致了精神变态的诺曼。诺曼的开发团队给诺曼输入的数据,大多是从美国一家社交新闻网站上挑选的,内容大多与死亡、尸体等有关。而反观与诺曼一同参与罗夏墨迹测验的AI,此前它接受的都是与动物、人类等相关的正面数据。
  诺曼开发团队成员之一的伊亚德教授指出,诺曼如此阴暗的“想法”说明机器人学习正处于一个严峻的局面,数据选择比算法更重要,我们用来训练AI的数据会在它的“思想”和行为方式上体现出来。
  有偏见的AI
  由于诺曼接收的数据都与死亡和破坏有关,所以它的认知里充满了阴暗。如果生活中的AI被输入了带有偏见的数据,那么它也会变得有偏见。
  2016年,微软公司在社交媒体上发布聊天机器人Tay,受种族主义者和一些搬弄是非言论的影响,机器人Tay捍卫白人至上主义,倡导种族屠杀并表现出对希特勒的喜爱。2017年5月的一份报道指出,美国法院用于风险评估的AI生成计算机程序对黑人囚犯有偏见,认为黑人罪犯的再犯率是白人的两倍。美国使用的预测性警务算法也存在類似的偏见。此外,还有研究表明,接收谷歌资讯的AI拥有了性别歧视的观念,例如,当被问到“男人是电脑程序员,就像女人是什么职业”这个问题时,AI给出的答案是“家庭主妇”。
  如此看来,诺曼似乎不是唯一一个容易受到不良信息影响的AI,而种族主义同样存在于人工智能的“思想”中。因为AI被输入一些有偏见的信息和历史犯罪数据,才会导致这样的结果。
  发现问题,迎难而上
  英国巴斯大学计算机科学系的乔安娜·布莱森教授表示,机器对事物的看法往往会和其制造者的看法保持一致。在我们怀疑AI的可靠性和安全性之前,首先要了解它们的工作机制。我们用教育人类的方式教育机器人,当制造者用自己所知的信息去训练AI时,也必然会给它输入一些较为片面的看法或观点,那么机器人也可能像人类一样会犯错、有偏见。
  AI会出现性别歧视可能是因为其编程人员主要是来自加州的白人单身汉,其中有些人带有性别歧视。这个问题或许可以通过提高员工多样性适当解决。
  布莱森教授还指出,没有任何数学方法可以创造一个能实现完全公平的AI,偏见在学习过程中也不算坏事,这意味着AI正在学习事物发展的规律。真正令人担心的是,有些程序员会故意给机器输入带有偏见的信息,教唆它变坏。为了避免这种情况,布莱森教授认为应提高AI创建过程的监督力度和透明度。
  诺曼开发团队的伊亚德教授则指出,诺曼的情况确实说明了程序员急需想办法解决数据缺陷的问题,AI仍有很多东西需要学习和改进,但是管理机器人学习的重任不应只落在程序员肩上。随着机器人逐渐渗透进人们生活的方方面面,人类将能更好的发现并消除机器人输入数据中的偏见。其实,某些人类行为研究方法同样适用于机器人,就像对人类采用心理干预手段一样,科学家开始对正在开发的AI系统进行定期审核。在我们不断发现问题的同时,也代表着我们离完善AI更近一步。
其他文献
各类媒体上,虚假广告屡见不鲜,各国政府对待虚假广告的态度空前一致:曝光、惩罚。  在英国,英国广告标准局曾因广告在制作时有意美化模特,误导消费者,对两个化妆品品牌的平面广告发布过禁令;美国联邦贸易委员对一家声称自家的游戏能延缓老年痴呆的公司处以200万美元的罚款;2018年初,中央电视台曝光了大批的虚假广告。然而,虚假广告却像是野草一般,一把火烧过,过了不久,又开始冒芽。这些屡禁不止的虚假广告误导
期刊
对于许多居住在国外的人来说,结交新朋友可以有效缓解国外新生活所带来的压力。但是由于当地文化和言语包容性的不同,不同地方的好客程度也有所差异。  为了选出让居住在国外的人认为最容易融入当地生活的国家,全球社区网络 InterNations(外籍人士社区)最近做了一项年度外籍人士内部調查,结果显示以下五个国家是世界上最热情好客的国家。  乌干达的友好程度最高  这个东非国家因友好而广受好评。“外籍人士
期刊
人类的大脑一直是世界上最不寻常的东西。它把一些简单的成分混合在一起,就会得到神经元、神经递质等物质,这些神经元结合在一起,便连接成复杂的惊人的结构,帮助人类快速地处理各种信息。至今,人类仍无法完全揭开大脑的奥秘。但是,大脑看起来其实很普通,它大部分不过是水而已。下面几组数据可以让我们更加了解神秘的大脑。  1  人类的大脑这么厉害,那么它到底能存储多少东西?要量化大脑的信息量是很难的。据神经学家估
期刊
散步提升脑力  你是否愿意相信世界上存在着这样一种活动:它不仅能提振你的情绪,让大脑更有活力,让你的工作和学习更有质量,同时还能激发你的创造力?更令人惊喜的是,它通常只需要20分钟,不依赖昂贵的电子设备,几乎没有任何学习成本,而且是免费的。“它”指的就是把一只脚放在另一只脚前面的动作,用专业术语来解释就是“行走”。  当然,我们日常中的“行走”或“散步”,可以归为一种极简的健康运动。它既可以放松身
期刊
最近发表在《科學》杂志上的一项新的视错觉研究提出了一个有趣的问题:科学家们呈现出的一串彩色圆点究竟是紫色还是蓝色的?实验的结果为我们揭示了一个发人深省的事实:人类总会根据过去的直接经验调整对事物本来面目的认识,也许我们脑中的“想当然”根本就是错的。  错把紫色当蓝色  不久前,来自哈佛大学、达特茅斯大学和纽约大学的一组科学家向几组美国大学生志愿者展示了一组依照非常蓝到非常紫这种色彩序列构成的点阵,
期刊
秉持着吓死人不偿命的原则,游乐园里的鬼屋都被布置得阴森恐怖,让人恐惧。可是,一大群人仍乐此不疲。据统计,2015年仅10月一个月,美国光顾各地鬼屋的人数就超过了2800万人次。这些人不是不害怕,他们害怕。然而,正是恐惧带来的快乐令他们欲罢不能。  虽然恐惧外表看起来有点儿糟糕,但是科学家说,它其实没那么差劲。不仅如此,刚体会到恐惧的那一刻,一个人还会感觉异常地爽。  为了应对外界强大的威胁力量,人
期刊
坐公交要排队,出门吃飯要排队,买各种门票要排队……无论是什么队列,排队等待总是一件让人觉得很煎熬的事情。如果让你散步或者跑步30分钟,你或许乐意接受,而且完成任务后你不但不会觉得腰腿酸痛,反而得到身心放松的效果。如果让你排30分钟的队呢?你估计就要抓狂了。在一个队列里站立30分钟且几乎不怎么移动,就像个木头人一样,慢慢地你会觉得腿脚越来越酸痛。  明明站立比走路或跑步消耗的能量要少,应该让人觉得更
期刊
主题统觉测验(Thematic Apperception Test,简称TAT)属于投射法个人测验,是美国心理学家亨利·默瑞于1935年发明的。TAT通过素描图像激发测试者投射出内心的幻想和精神活动,无意中成为呈现测试者内心和自我的X光片。目前,TAT也是心理学家在心理咨询和心理治疗工作中比较常用的测试量表之一,对鉴定诊断起到了重要的辅助作用。  下面这个测试就是利用TAT的原理进行的内心X光测试
期刊
杂货店里奶制品区域可能不得不为一种新的超级食品腾出位置,这种超级食品即“蟑螂奶”。虽说这名字听起来可能会让你产生一些心理上的不适,但这些在其丰富的营养价值面前是不值一提的。  2016年,印度研究人員发现,一种特殊的蟑螂会产生富含蛋白质的“晶体”来喂养幼崽,这种微小晶体中所含的蛋白质是牛奶的13倍以上。南非一家食品公司已经开始使用这种“晶体”来制做溶液或“牛奶”,显然它比牛奶更有营养。  这一新奇
期刊
住在什么地方最有益健康?从直觉上说,很多人会想到森林、绿地……或许不同的人有不同答案,但一般不会是城市。不过从科学角度看,直觉不总是对的。  乡下  对于生活在现代都市的人们来说,城里的汽车尾气、噪音等污染可以说都是挥之不去的噩梦,对人体健康造成很大的影响。于是,很多城里人向往宁静、清新、绿意盎然的乡下生活,那些有条件的城里人纷纷去乡下购买第二套房,以便享受大自然。  一般来说,满眼的绿色环境对长
期刊