论文部分内容阅读
“你是什么垃圾?”这样的灵魂拷问,或许将被人工智能技术终结。
今年8月,一款名为“火星男孩”的智能厨余垃圾分类机出现在长沙市岳麓区望城坡街道长华社区。居民扫描人脸后,可将垃圾放到拍照处识别,若垃圾识别成功,垃圾桶开启,完成垃圾分类。
不仅是垃圾分类,随着以人脸识别为代表的生物识别技术迅速普及,行业投融资日益活跃,各种“刷脸”应用不断涌现:火车站刷脸检票进站、高考考生刷脸进考场、城市救助管理刷脸寻人……
但如火如荼的发展盛景背后,生物特征数据的安全风险也随之凸显,乱象渐增。
一方面是虚火渐旺。CB Insights“2019 年全球AI企业100强榜单”中,排在前11位的5家中国公司成立年限仅3~8年,多为5年内催熟而成,在基础研究领域普遍缺乏深度和定力。
另一方面,数据裸奔导致隐私泄露现象渐重。阿里首席风险官邵晓峰测算,我国相关黑产从业人员超150万,市场规模达千亿元级别,但却难有法律跟进——网络安全法尚缺落地细则;行业、企业标准较多但缺乏强制效力,致使监管缺少抓手,执法层面困惑。
如此背景下,不少行业人士呼吁,构建与之相适应的市场环境和监管机制,迫在眉睫。
风险 生物特征一旦被非法窃取利用,导致身份认证系统大规模隐私泄露,或致系统性风险。
攻防持久战
当下,生物识别技术逐步向深度学习进化,协助各行业各领域从业人员将经验数字化,节省人力,提高效率。
例如,生物识别技术的应用场景已逐渐从最初的员工考勤、小区门禁等延伸至智慧医疗、智能家居等诸多领域。维护社会治安、识别侵入人员、保证财产安全、人证核验、监控安防、线上支付等方向的技术应用,已经大范围落地。
然而,技术升级必然伴随着攻击手段的升级,攻与防、正与邪始终处在持久战之中,“反人脸识别技术”“反生物识别产业”等黑科技、黑产业也随之渐火。
例如,硅谷Bellus3D公司研制出Face Camera相机,能从各个角度捕捉人脸轮廓,然后3D打印出一张逼真的人脸面具;美国卡耐基梅隆大学开发的CMU眼镜可干扰计算机视觉,混淆佩戴者的性别、年龄等绝大部分面部特征;线上换脸工具Deepfake能把上百张人物样图输入一个算法中完成“换脸”,生成普通人无法辨识的假视频。
因此,防御机制也必须持续升级。
“光流分析、3D结构光、飞时测距(TOF)等技术日益成熟,使用微纹理、多光谱、运动信息等可有效抵御2D及3D假体攻击。此外,虹膜识别、静脉识别、步态识别等其他的生物识别技术也取得积极进展。”中国人民银行科技司司长李伟介绍。
此外,为应对近来全国多地出现的基于“反人脸识别技术”的资金盗刷案件,金融机构开始叠加“声纹+语音”技术系统来识别欺诈行为。
“刷脸之后,还可让消费者面对屏幕读出随机出现的几个数字。”清华大学信息技术研究院语音语言技术中心主任郑方介绍,“一是每人的声音各异,二是通过这种活体检测可识别其转账行为的真伪。”
架构 围绕覆盖全国的人口数据库、管理平台、申请领证(申领)平台、认证平台和追溯平台,构建起“一库四平台”的顶层管理架构。
这一安全防护技术也可用于多个社会化服务领域。远鉴科技投资总监王秋明以自己公司的应用举例说,要进入远鉴科技有限公司的办公区,就需要“人脸+声纹+语音”的验证方式,每位员工在刷脸之后还须读出屏幕上随机产生的八位数字,才能算考勤打卡成功。
“通过手机端的APP就实现了打卡,APP只有在进入办公区范围内才能够启用,这样的考勤方式既便捷又安全。”王秋明说。
数据在“裸奔”
“生物识别技术在大步快进,难免会重速度不重安全,这或许会造成一些不可逆转的风险。”信联智慧创始人杨楠认为。
这已经成为全球性难题——在世界经济论坛2018年和2019年的《全球风险报告》中,排名三四位的是网络攻击、数据诈骗及数据泄露风险。全球范围内,数据及网络安全已连续两年成为除自然因素以外的最严重风险。
而生物特征数据的泄露危害尤甚。
李伟表示,生物特征数据具有唯一性,通常不随个人主观意愿而变化,因此难以针对不同业务、不同渠道、不同场景進行安全隔离。生物特征一旦被非法窃取利用,基于此特征的身份认证系统均可被轻易绕过,导致大规模隐私泄露,或致系统性风险。
“由于采集难度、硬件需求等不同,各种生物识别技术的防攻击性差别各异。虹膜、指静脉等生物特征相对安全,人脸、指纹则完全暴露于外,过度采集、过度存储的现象非常普遍。”杨楠表示。
如今,人脸识别技术被广泛用于高铁、飞机、红绿灯监控等公共场所,识别和采集范围最远可至10公里。不法分子可通过远程、非接触方式,在本人毫无察觉之下“无声无息”地批量采集生物特征数据,手段极具隐蔽性。 一些开展相关采集业务的第三方技术商以及各类手机APP运营商,也常在用户不授权、未授权情况下偷采、存储数据,造成泄露风险。
比如Facebook就在2018年因“未经照片主体同意的情况下,定期对照片进行扫描和生物特征匹配”而遭到起诉;今年2月,深圳深网视界公司发生大规模用户信息泄露事件,超过250万用户的身份证号码、人脸图像及拍摄地点等信息外泄。
面对这一系列问题,当前的治理手段却相对有限。
数据行业专家隋欣池分析,首先,大多数企业维护数据库安全的意识薄弱,且这一安防能力需要长期的技术积累,企业水平参差不齐。其次,企业大多将算法而非数据当作自己的核心资产,倒卖数据的行为很普遍,防不胜防。
虚火渐旺时
“不仅是一些企业发展‘重量难重质’,更有大批跟风现象和资本簇拥,已致使一些领域陷入恶性竞争,造成劣币驱逐良币。”郑方说。
他以售卖一款基于人脸识别技术的身份核验系统举例,去年有少数技术公司给银行出价8万元,已经算是亏本了,今年更是有公司提出为银行免费服务,“大家都是先抢市场再说”。
这种情况自2018年产业规模开始井喷就已经出现。
CVSource报告显示,2018年上半年AI创业公司融资事件骤增至130次,总额402亿元,超过了2017年全年。而2013年,进行融资的AI创业公司数量还只有21家。
此景象颇为眼熟——与2015年网贷行业“大爆发”如出一辙。当年,红杉、IDG、老虎等投资人先后进驻111家网贷平台,共发生总额为188亿元的121次融资事件,海尔、链家、恒大、绿地等产业巨头,也纷纷以并购和设立子公司的方式迅速占位。
如今,当年大手笔“催熟”网贷的资本方纷纷转战AI,掀起另一股热潮。胡润数据显示,截至2018年年底,红杉资本共捕获了49家AI企业,在投资企业数量上高居榜首,IDG、老虎等机构也相当活跃,恒大、联想、海尔等公司也大笔砸钱。
但沸沸扬扬之下,中国的AI产业实力却并不能与之匹配,无论是AI公司的成长质量、数量还是研发能力,均与发达国家存有一定差距。
郑方分析,中国AI创业公司与西方国家一些优秀企业的差距主要在于:中国机构重在应用层面投入,对芯片、硬件、算法等基础技术有所忽略。相比之下,欧美一些企业的投资更加全面和立体,不仅重视商业应用,还有大批实力雄厚的企业投身于基础研发,并高度重视知识产权保护。
“一些企业急于求成,并无核心技术,只是利用开源软件对各路数据进行简单训练,形成一些不成熟的解决方案,却最终因为‘会讲故事’而获得资本青睐造成市场估值畸高,挤兑了一些‘良币’的生存空间。”郑方为此忧虑。
多位受访人士警示,网贷行业早前就是在经历了乱象丛生、监管整顿、破产爆雷之后大幅缩水,至2019年一季度已不足200家平台仍能良性运营。“新技术、新产业应以此为戒。”
立法防走偏
在不少受访专家看来,数字经济时代,新技术、新产业正深刻改变经济发展方式和轨迹,亟待对此建立多维度、立体式的管理体系,防止数字经济业态“走偏”。
当前我国并无生物识别领域的专项法,对其规范更多依托于个人隐私保护的相关法律法规,但目前我国直接涉及个人数据保护的相关法律法规相对分散,在执行上也羁绊颇多。
对此,有专家认为可适当借鉴欧美经验。
去年3月,比利时出台法规禁止私人使用人脸识别等基于生物特征的视频分析摄像机,全面整顿视频监控市场;
去年5月,欧盟实施《通用数据保护条例》(GDPR),将生物识别数据纳入监管,任何收集、传输、保留或处理涉及到欧盟所有成员国内个人信息的机构均受该条例约束;
今年2月,俄罗斯央行以去年出臺的第4859-U号条例为参考颁布了新规,降低个人生物识别数据收集和处理过程中的风险。
简单的“拿来主义”在中国显然行不通。“我们可以选择GDPR中适合国情的部分予以借鉴。比如从业机构处理和使用数据需要征得用户同意”,郑方认为,GDPR规定“控制者需证明数据主体已经同意对其个人数据进行处理,且数据主体应当有权随时撤回其同意。”因此,用户有权要求互联网服务商停止信息采集,也有权选择不被营销广告打扰。
同时,尽快完善国民生物特征数据库也是良策之一。
郑方认为,首先应建立覆盖全国的人口数据库,并适时升级为居民身份核验库,逐步建立管理平台、申请领证(申领)平台、认证平台和追溯平台,构建起“一库四平台”的顶层架构。由国家有关部门统一管理,杜绝数据泄露。
“国家级的居民身份核验库建立之后,有需求的机构可以在相关部门的管理和督导下,与核验库的运营机构建立合作关系,研发和输出经由脱敏、加工、过滤后的产品,将一切纳入监管之中。”杨楠说。
旷视科技副总裁谢忆楠认为,在这一过程中,要深化政企合作,加强行业组织、科研机构等作用,推动头部企业成为相关数据库及其使用标准的积极响应者、贯彻者。
李伟认为,要处理好安全与创新的关系,既不能盲目冒进,神化生物识别技术的作用;也不能裹足不前,漠视其优势。要加强技术研究,深入分析不同技术在效率、安全性上的优劣,尤其要重视技术中性对公众隐私、国家安全的影响,趋利避害。在风险可控的前提下选取较为成熟、安全性高的技术稳妥应用。