论文部分内容阅读
本期接上期继续介绍美国“预测性警务”的争议与困境及出路等。
三、争议与困境
“预测性警务”在美国一度受到执法机关和媒体的热烈追捧，并被美国《时代周刊》列入2011年的50项最佳发明之一。在媒体的推波助澜下，很多人相信“预测性警务”所使用的技术工具能够“自动”对犯罪和罪犯做出“预言”，一时间一些人寄希望于用高科技武装到牙齿的超级警察来拯救美国，另一些人则恐惧像科幻电影《少数派报告》中所描述的笼罩一切的数字强权即将到来。
2013年，美国兰德公司的报告将“预测性警务”的现实应用拉下神坛。通过对美国警察机关的详尽调查，该报告破除了有关“计算机知道未来”“计算机能做一切”“预测犯罪等于阻止犯罪”的神话，报告中指出虽然数据科学必然成为警务活动不可或缺的组成部分，而科技发展将使其发挥越来越重要的作用，但至少在目前和可预见的未来，各种“预测性警务”工具的有效性仍取决于人们能否发现、确定并为其提供可靠且有效的数据，其“预测”范围也局限于有限的功能设定之内。而即便在一定程度上实现了准确的“预测”，能否实现打击和预防犯罪的目标仍取决于警察的业务素质和工作方法。报告强调，迷信和依赖技术工具，不能正确认识数据产生的背景和内涵，忽视或误解影响预测的非技术因素，自恃强大技术而轻视维护社区公众关系的重要性甚至践踏公民权利，必将导致实践中的失败。
在技术进步的兴奋逐渐消退后，“预测性警务”的发展必须面对越来越复杂的舆论环境和来自多方面的质疑与批评，特别是在美国长期存在基于种族、宗教等因素的执法不公的情况下，一些问题具有高度的政治敏感性，迫使警察机关及其合作方必须谨慎应对。
2013年斯诺登事件后，美国公众越来越关心互联网时代的公民隐私保护和数据权属问题，对政府不受限制地获取和利用数据保持高度警惕。此后，美国警察机关利用社交媒体监控和数据挖掘公司“吉欧菲迪亚”（公司名GeoFeedia，音译）等提供的网络爬虫工具，从“脸书”（Facebook）“推特”（Twitter）和“照片墙”（Instagram）等社交媒体平台广泛挖掘数据以用于“预测性警务”的情况被不断披露，美国公民自由联盟（American Civil Liberties Union）等民权组织抗议警察机关在此类工作中将特定短语（如黑人民权运动口号“黑人的命也是命”，即“BlackLivesMatter”等）作为检索目标，称这种做法无异于将特定种族或文化背景的人群与犯罪相联系，并成功迫使主流社交媒体平台关闭了警方使用的网络爬虫工具访问其后端数据权限。但即便如此，很多美國人仍担忧警察机关获取像美国国家安全局等情报机关那样强大和不受监督的数据挖掘能力，并认为即便不能访问后端数据，警方仍能获取大量有关个人隐私的信息。
在公众的焦虑之外，专业人士和组织则对美国警察机关的工作进行了更深入的审视。一些人类学家和社会学家反对“社会物理学”学派提出的概念，认为相对于人类行为和人类社会的复杂性，至少现有的数据科学手段过于粗糙和简易，只能应用于一些极其有限的场合，对认识和解决复杂社会问题没有太高的价值。一些犯罪学家和统计学家指出，对迄今为止显示出“预测性警务”神奇效果的那些统计数据缺乏认真评估，很少在合适的监督下由独立且严肃的研究机构开展。他们认为，一些确实存在的治安好转和犯罪率下降是由于多方面因素导致的，如随着互联网经济的发展在全世界范围内普遍存在街头侵财类犯罪大幅下降的现象;还有一些成果则是由于像前洛杉矶警察局长布拉顿那样的强势警察机关领导人能够调动更多资源而实现的，“预测性警务”等先进技术在其中更多起到了宣传作用。一些人工智能专家则提醒公众，当前用于“训练”人工智能的“算法”本质上是“黑箱”，即便是发明者也无法解释其内在的运作逻辑，将这种无法监督和不受控的工具用于政府的公共服务中，其合法性是值得怀疑的。更严厉的指责则在于一些学者认为作为“预测性警务”实现基础的数据本身已经被过往警察执法中的偏见和歧视性做法所“污染”，建立在其基础上的“预测”也只能是过往错误的重复，或是用“科学”的外衣掩饰美国的种族主义警务传统。宾夕法尼亚大学研究人员克里斯蒂安·卢姆（Kristian Lum）和人工智能公司“深度思考”（Deep Mind）的专家威廉·艾萨克（William Isaac）通过模拟研究发现，“预测警务”公司提供的犯罪预测软件在目标犯罪类型应呈平均分布的情况下，以大约两倍于白人社区的规模向黑人社区调配警力。“预测警务”公司表示应注意避免带有偏见的执法，但仍争辩说，其开发的犯罪预测软件并不依赖经过警方主观挑选或与个人身份相关的数据。但学者们表示，在美国社会，偏见与歧视绝非仅仅是个人的主观意志所决定的，而是根植于整个社会结构的系统性压迫，要“洗刷”干净并不容易。美国学界对“预测性警务”的批评不断掀起新的高潮，在2020年5月发生黑人弗洛伊德遭警察“跪杀”事件后，6月15日，在美国数学家学会的倡导下，约1500多名科学家加入了抵制“预测性警务”，拒绝与警察机关合作的运动;7月，《麻省理工大学技术评论》（MIT Technology Review）发表了题为“废除种族主义的预测性警务算法”（Predictive policing algorithms are racist. They need to be dismantled）的文章。美国“预测性警务”的发展正面临来自它最迫切需要的智力资源的强烈反对。
不利的舆论环境迫使美国警察机关公开其有关“预测性警务”的技术和工作方法的细节，并接受更多元化的监督和评估，以求得到公众的谅解，但目前看来事与愿违。反“预测性警务”团体“停止洛杉矶警察局间谍活动联盟”（Stop LAPD Spying Coalition）于2017年和2018年要求洛杉矶警察局公布其“激光”行动的详细信息且诉诸司法诉讼，迫使该警察局公开了数百份相关文件，并在2019年初对“激光”行动进行了内部审查，发现在被归类为“活跃的长期犯罪者”的233人中，拉美裔或非裔美国人占84%，似乎“证实”了有关执法偏见的质疑，从而引起了更强烈的反弹。无独有偶，经过《芝加哥太阳报》的呼吁和诉诸司法诉讼，芝加哥警察局被迫公开了“战略对象清单”的详情，民权团体在经过梳理后，对其中所体现的难以理解的算法逻辑表示质疑：在总数约40万的被标注者中，约29万人被标注为“高风险”，而其中9万人从未被捕或曾成为犯罪受害者，批评者据此指出警方正在缔造基于算法的新的执法歧视体系。 四面楚歌之下，近年来美国“预测性警务”屡遭“滑铁卢”。2019年，一向在警务创新中居于前沿的美国洛杉矶警察局对其“预测性警务”项目进行全面审查，最终认为就“预测警务”公司提供的犯罪预测软件对减少犯罪的总体有效性“无法得出有意义的结论”;并决定结束“激光”行动，认为需要对其效果进行重新评估。2020年初，芝加哥警察局悄然结束了“战略对象清单”行动，并承认2019年的一项研究表明没有充分证据证实该行动对减少暴力犯罪有显著作用。2020年6月，“预测警务”公司总部所在地——美国加利福尼亚州圣克鲁斯县成为全美第一个由于“了解到预测性警务和面部识别对有色人种产生不成比例的偏见”而正式宣布禁止使用这些技术的行政区。
四、症结与出路
毫无疑问，美国“预测性警务”的发展当前正面临自其诞生以来最严峻的挑战，在极端不利的舆论环境下面对针对其目标、技术路径、实际成效、道德标准和合法性的全方位质疑与批评。但与此同时，无论是“预测性警务”的拥护者抑或反对者，都承认基于数据科学和人工智能的警务技术革新难以避免，美国人必须学会使用或面对这些陌生、可疑且难以控制的社会治理工具。
美国公众对该国警察体制根深蒂固的不信任有其深刻根源。从1619年第一批黑人奴隶被贩卖到北美，直至20世纪60年代的民权运动终结了种族隔离，美国有300多年的极端的、制度化的种族压迫历史，在此期间，包括警察在内的国家暴力机器是种族压迫最直接和残酷的执行者。此后，虽然种族压迫的制度被终止，但其造成的社会撕裂和其他灾难性后果，以及始终萦绕不去的种族主义文化氛围，使种族压迫仍然系统性存在，只不过变得隐晦，而警察普遍性地带有种族偏见的执法行为，则早已成为社会痼疾。美国公众有理由相信，种族压迫将成为人工智能通过“机器学习”所接受的训练的组成部分，从而将这一丑恶的傳统延续下去，并为其披上科学的外衣。
美国行政机关的“自治”模式导致在全美约18000个执法机构之上并不存在总的监督机制，使公众长期以来对如何运用“预测性警务”技术掌握在执法机关管理层和出售这些技术的商业机构手中的状况倍感忧虑，一直在呼吁让更多的专业机构和社会团体，特别是那些深受警察歧视性执法之害的弱势群体的代表，参与到对警方决策的评估和审查中;要求供应商将其用于训练人工智能的数据集公开并提交专门机构审核，以使政府治理更符合民主原则。面对压力，自奥巴马执政时期开始，美国政府推动了“警察数据计划”，鼓励警察部门提供更多的档案以供公众审查，但参与的机构数量仍十分有限。此外，“预测性警务”使用的技术手段也被应用在改善警察与社区关系，以及监督警察执法等方面。美国斯坦福大学在2015年启动了“法律秩序与算法”项目，通过对上亿条高速公路执法巡逻站数据的分析和发布，建立对社会开放的警民互动数据库。高技术公司对此也反响积极，试图为人工智能树立更加友善和“政治正确”的形象。在苏格拉塔（公司名Socrata，音译）等公司的帮助下，美国政府正在研究通过对警察使用武力、被投诉、出警响应时间等数据的分析排除“不良”执法数据的技术。但无论如何，无论是医治美国社会种族歧视的痼疾，抑或减少犯罪，都绝非通过技术手段或警察以及刑事司法部门的努力所能解决的，其将是持久、全面而深刻社会变革的组成部分。
另一方面，在今天的信息化社会，互联网和数据空间承载了越来越多的，甚至某种意义上的大部分人类活动，但就法律与道德规范而言，则在很大程度上仍是一片空白。“预测性警务”所使用的技术工具不可避免地涉及互联网个人隐私和数据权属等敏感而无法在短期内取得共识的议题。对此，美国学界呼吁警方应在合理利用数据资源的同时促进互联网与数据道德、法规建设的良性发展。美国印第安纳大学教授弗里德·凯特（Fried Cate）指出，公众更关注信息被如何使用而非如何收集，警方应注意到这一点，并对此时刻保持谨慎。此外，技术进步也可能带来一些更深层次的问题。如美国宪法第四修正案规定“人民的人身、住宅、文件和财产不受无理搜查和扣押的权利，不得侵犯。除依照合理根据，以宣誓或代誓宣言保证，并具体说明搜查地点和扣押的人或物，不得发出搜查和扣押状”。然而，当警察或司法机关基于人工智能的判断，或在受到人工智能影响的情况下作出诸如搜查或扣押的决定，应如何审视其合法性？当今科学技术的发展已经远远走在了人类对环境适应能力的前面，如何使科学技术始终为人类社会发展服务，始终坚持以人为本而不再迷失在盲目技术崇拜、技术恐惧或对工具性目标的偏执中，美国“预测性警务”的发展与困境或将是一个很好的启示。（全文完）■
（责任编辑：冯苗苗）
三、争议与困境
“预测性警务”在美国一度受到执法机关和媒体的热烈追捧，并被美国《时代周刊》列入2011年的50项最佳发明之一。在媒体的推波助澜下，很多人相信“预测性警务”所使用的技术工具能够“自动”对犯罪和罪犯做出“预言”，一时间一些人寄希望于用高科技武装到牙齿的超级警察来拯救美国，另一些人则恐惧像科幻电影《少数派报告》中所描述的笼罩一切的数字强权即将到来。
2013年，美国兰德公司的报告将“预测性警务”的现实应用拉下神坛。通过对美国警察机关的详尽调查，该报告破除了有关“计算机知道未来”“计算机能做一切”“预测犯罪等于阻止犯罪”的神话，报告中指出虽然数据科学必然成为警务活动不可或缺的组成部分，而科技发展将使其发挥越来越重要的作用，但至少在目前和可预见的未来，各种“预测性警务”工具的有效性仍取决于人们能否发现、确定并为其提供可靠且有效的数据，其“预测”范围也局限于有限的功能设定之内。而即便在一定程度上实现了准确的“预测”，能否实现打击和预防犯罪的目标仍取决于警察的业务素质和工作方法。报告强调，迷信和依赖技术工具，不能正确认识数据产生的背景和内涵，忽视或误解影响预测的非技术因素，自恃强大技术而轻视维护社区公众关系的重要性甚至践踏公民权利，必将导致实践中的失败。
在技术进步的兴奋逐渐消退后，“预测性警务”的发展必须面对越来越复杂的舆论环境和来自多方面的质疑与批评，特别是在美国长期存在基于种族、宗教等因素的执法不公的情况下，一些问题具有高度的政治敏感性，迫使警察机关及其合作方必须谨慎应对。
2013年斯诺登事件后，美国公众越来越关心互联网时代的公民隐私保护和数据权属问题，对政府不受限制地获取和利用数据保持高度警惕。此后，美国警察机关利用社交媒体监控和数据挖掘公司“吉欧菲迪亚”（公司名GeoFeedia，音译）等提供的网络爬虫工具，从“脸书”（Facebook）“推特”（Twitter）和“照片墙”（Instagram）等社交媒体平台广泛挖掘数据以用于“预测性警务”的情况被不断披露，美国公民自由联盟（American Civil Liberties Union）等民权组织抗议警察机关在此类工作中将特定短语（如黑人民权运动口号“黑人的命也是命”，即“BlackLivesMatter”等）作为检索目标，称这种做法无异于将特定种族或文化背景的人群与犯罪相联系，并成功迫使主流社交媒体平台关闭了警方使用的网络爬虫工具访问其后端数据权限。但即便如此，很多美國人仍担忧警察机关获取像美国国家安全局等情报机关那样强大和不受监督的数据挖掘能力，并认为即便不能访问后端数据，警方仍能获取大量有关个人隐私的信息。
在公众的焦虑之外，专业人士和组织则对美国警察机关的工作进行了更深入的审视。一些人类学家和社会学家反对“社会物理学”学派提出的概念，认为相对于人类行为和人类社会的复杂性，至少现有的数据科学手段过于粗糙和简易，只能应用于一些极其有限的场合，对认识和解决复杂社会问题没有太高的价值。一些犯罪学家和统计学家指出，对迄今为止显示出“预测性警务”神奇效果的那些统计数据缺乏认真评估，很少在合适的监督下由独立且严肃的研究机构开展。他们认为，一些确实存在的治安好转和犯罪率下降是由于多方面因素导致的，如随着互联网经济的发展在全世界范围内普遍存在街头侵财类犯罪大幅下降的现象;还有一些成果则是由于像前洛杉矶警察局长布拉顿那样的强势警察机关领导人能够调动更多资源而实现的，“预测性警务”等先进技术在其中更多起到了宣传作用。一些人工智能专家则提醒公众，当前用于“训练”人工智能的“算法”本质上是“黑箱”，即便是发明者也无法解释其内在的运作逻辑，将这种无法监督和不受控的工具用于政府的公共服务中，其合法性是值得怀疑的。更严厉的指责则在于一些学者认为作为“预测性警务”实现基础的数据本身已经被过往警察执法中的偏见和歧视性做法所“污染”，建立在其基础上的“预测”也只能是过往错误的重复，或是用“科学”的外衣掩饰美国的种族主义警务传统。宾夕法尼亚大学研究人员克里斯蒂安·卢姆（Kristian Lum）和人工智能公司“深度思考”（Deep Mind）的专家威廉·艾萨克（William Isaac）通过模拟研究发现，“预测警务”公司提供的犯罪预测软件在目标犯罪类型应呈平均分布的情况下，以大约两倍于白人社区的规模向黑人社区调配警力。“预测警务”公司表示应注意避免带有偏见的执法，但仍争辩说，其开发的犯罪预测软件并不依赖经过警方主观挑选或与个人身份相关的数据。但学者们表示，在美国社会，偏见与歧视绝非仅仅是个人的主观意志所决定的，而是根植于整个社会结构的系统性压迫，要“洗刷”干净并不容易。美国学界对“预测性警务”的批评不断掀起新的高潮，在2020年5月发生黑人弗洛伊德遭警察“跪杀”事件后，6月15日，在美国数学家学会的倡导下，约1500多名科学家加入了抵制“预测性警务”，拒绝与警察机关合作的运动;7月，《麻省理工大学技术评论》（MIT Technology Review）发表了题为“废除种族主义的预测性警务算法”（Predictive policing algorithms are racist. They need to be dismantled）的文章。美国“预测性警务”的发展正面临来自它最迫切需要的智力资源的强烈反对。
不利的舆论环境迫使美国警察机关公开其有关“预测性警务”的技术和工作方法的细节，并接受更多元化的监督和评估，以求得到公众的谅解，但目前看来事与愿违。反“预测性警务”团体“停止洛杉矶警察局间谍活动联盟”（Stop LAPD Spying Coalition）于2017年和2018年要求洛杉矶警察局公布其“激光”行动的详细信息且诉诸司法诉讼，迫使该警察局公开了数百份相关文件，并在2019年初对“激光”行动进行了内部审查，发现在被归类为“活跃的长期犯罪者”的233人中，拉美裔或非裔美国人占84%，似乎“证实”了有关执法偏见的质疑，从而引起了更强烈的反弹。无独有偶，经过《芝加哥太阳报》的呼吁和诉诸司法诉讼，芝加哥警察局被迫公开了“战略对象清单”的详情，民权团体在经过梳理后，对其中所体现的难以理解的算法逻辑表示质疑：在总数约40万的被标注者中，约29万人被标注为“高风险”，而其中9万人从未被捕或曾成为犯罪受害者，批评者据此指出警方正在缔造基于算法的新的执法歧视体系。 四面楚歌之下，近年来美国“预测性警务”屡遭“滑铁卢”。2019年，一向在警务创新中居于前沿的美国洛杉矶警察局对其“预测性警务”项目进行全面审查，最终认为就“预测警务”公司提供的犯罪预测软件对减少犯罪的总体有效性“无法得出有意义的结论”;并决定结束“激光”行动，认为需要对其效果进行重新评估。2020年初，芝加哥警察局悄然结束了“战略对象清单”行动，并承认2019年的一项研究表明没有充分证据证实该行动对减少暴力犯罪有显著作用。2020年6月，“预测警务”公司总部所在地——美国加利福尼亚州圣克鲁斯县成为全美第一个由于“了解到预测性警务和面部识别对有色人种产生不成比例的偏见”而正式宣布禁止使用这些技术的行政区。
四、症结与出路
毫无疑问，美国“预测性警务”的发展当前正面临自其诞生以来最严峻的挑战，在极端不利的舆论环境下面对针对其目标、技术路径、实际成效、道德标准和合法性的全方位质疑与批评。但与此同时，无论是“预测性警务”的拥护者抑或反对者，都承认基于数据科学和人工智能的警务技术革新难以避免，美国人必须学会使用或面对这些陌生、可疑且难以控制的社会治理工具。
美国公众对该国警察体制根深蒂固的不信任有其深刻根源。从1619年第一批黑人奴隶被贩卖到北美，直至20世纪60年代的民权运动终结了种族隔离，美国有300多年的极端的、制度化的种族压迫历史，在此期间，包括警察在内的国家暴力机器是种族压迫最直接和残酷的执行者。此后，虽然种族压迫的制度被终止，但其造成的社会撕裂和其他灾难性后果，以及始终萦绕不去的种族主义文化氛围，使种族压迫仍然系统性存在，只不过变得隐晦，而警察普遍性地带有种族偏见的执法行为，则早已成为社会痼疾。美国公众有理由相信，种族压迫将成为人工智能通过“机器学习”所接受的训练的组成部分，从而将这一丑恶的傳统延续下去，并为其披上科学的外衣。
美国行政机关的“自治”模式导致在全美约18000个执法机构之上并不存在总的监督机制，使公众长期以来对如何运用“预测性警务”技术掌握在执法机关管理层和出售这些技术的商业机构手中的状况倍感忧虑，一直在呼吁让更多的专业机构和社会团体，特别是那些深受警察歧视性执法之害的弱势群体的代表，参与到对警方决策的评估和审查中;要求供应商将其用于训练人工智能的数据集公开并提交专门机构审核，以使政府治理更符合民主原则。面对压力，自奥巴马执政时期开始，美国政府推动了“警察数据计划”，鼓励警察部门提供更多的档案以供公众审查，但参与的机构数量仍十分有限。此外，“预测性警务”使用的技术手段也被应用在改善警察与社区关系，以及监督警察执法等方面。美国斯坦福大学在2015年启动了“法律秩序与算法”项目，通过对上亿条高速公路执法巡逻站数据的分析和发布，建立对社会开放的警民互动数据库。高技术公司对此也反响积极，试图为人工智能树立更加友善和“政治正确”的形象。在苏格拉塔（公司名Socrata，音译）等公司的帮助下，美国政府正在研究通过对警察使用武力、被投诉、出警响应时间等数据的分析排除“不良”执法数据的技术。但无论如何，无论是医治美国社会种族歧视的痼疾，抑或减少犯罪，都绝非通过技术手段或警察以及刑事司法部门的努力所能解决的，其将是持久、全面而深刻社会变革的组成部分。
另一方面，在今天的信息化社会，互联网和数据空间承载了越来越多的，甚至某种意义上的大部分人类活动，但就法律与道德规范而言，则在很大程度上仍是一片空白。“预测性警务”所使用的技术工具不可避免地涉及互联网个人隐私和数据权属等敏感而无法在短期内取得共识的议题。对此，美国学界呼吁警方应在合理利用数据资源的同时促进互联网与数据道德、法规建设的良性发展。美国印第安纳大学教授弗里德·凯特（Fried Cate）指出，公众更关注信息被如何使用而非如何收集，警方应注意到这一点，并对此时刻保持谨慎。此外，技术进步也可能带来一些更深层次的问题。如美国宪法第四修正案规定“人民的人身、住宅、文件和财产不受无理搜查和扣押的权利，不得侵犯。除依照合理根据，以宣誓或代誓宣言保证，并具体说明搜查地点和扣押的人或物，不得发出搜查和扣押状”。然而，当警察或司法机关基于人工智能的判断，或在受到人工智能影响的情况下作出诸如搜查或扣押的决定，应如何审视其合法性？当今科学技术的发展已经远远走在了人类对环境适应能力的前面，如何使科学技术始终为人类社会发展服务，始终坚持以人为本而不再迷失在盲目技术崇拜、技术恐惧或对工具性目标的偏执中，美国“预测性警务”的发展与困境或将是一个很好的启示。（全文完）■
（责任编辑：冯苗苗）