“事前规制”画“红线”

　　今年3月，国家网信办和公安部依法约谈11家互联网企业，督促其加强对语音社交软件和涉及“深度伪造”技术的互联网新技术、新应用的安全评估，完善风险防控机制和措施，并对发现的安全隐患及时采取有效的整改措施。
　　不同于“事后监管”，此次安全评估和约谈给有关的互联网新技术、新应用提前画下“红线”。“事前规制”有利于企业及时发现安全隐患，整改安全问题。
　　下一步，国家网信办、公安部将继续指导各地网信部门和公安机关，加大巡查检查力度，督促属地互联网企业严格遵守相关法律法规，积极主动尽到安全管理义务，切实履行企业主体责任，共同维护网络传播秩序，营造良好的网络生态。
　　这不是国家有关部门首次关注网络虚拟现实技术所引发的问题。早在2019年12月，国家网信办、文化和旅游部、广播电视总局就联合印发了《网络音视频信息服务管理规定》（简称《规定》）。《规定》中多次提及基于“深度学习”“虚拟现实”等新技术、新应用的音视频。
　　《规定》强调，网络音视频信息服务提供者和使用者，利用“深度学习”“虚拟现实”等新技术、新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识，不得利用“深度学习”“虚拟现实”等新技术、新应用制作、发布、传播虚假新闻信息。
　　监管部门针对涉及“深度伪造”技术的新应用频频出手，让更多的公众意识到这一技术背后潜藏的安全隐患。

侵犯公民合法权益

　　科学技术的发展必须坚持以人为本这一基本原则，一旦偏离这一主轴，就有可能陷入伦理危机，甚至是合法性危机。就“深度伪造”技术而言，其滥用将对公民个人的合法权益产生不利影响，主要体现在以下几个方面：
　　一是侵犯公民的隐私權。在司法实践中，通过个案裁决的方式使得一些具体的隐私利益得到保护，如个人的电话号码、生理缺陷、身体隐私等。另外，曾经被公开的隐私仍可获得隐私保护。
　　“深度伪造”技术被滥用，尤其是用于制作色情视频，将直接侵犯公民的性隐私。
　　二是侵犯公民的名誉权。名誉权是一种非财产性权利，受害人可以主张精神损害赔偿。在我国的司法实践中，侵害名誉权的构成要件包括：一是行为人的行为违法，包括侮辱行为、诽谤行为及其他违法行为;二是受害人确有名誉被损害的事实，即受害人社会评价的降低;三是违法行为与损害后果之间有因果关系;四是行为人主观上有过错。
　　“深度伪造”技术被滥用，无论是伪造色情视频，还是伪造虚假新闻，都可能造成个人的社会评价降低，对名誉权产生侵害。
　　三是侵犯公民的肖像权。肖像权是一种重要的人格权，我国《民法典》《妇女权益保障法》《侵权责任法》等皆对肖像权保护作出了明文规定。
　　“深度伪造”技术被滥用，主要是将人脸进行“移花接木”，无论是色情视频还是虚假新闻、虚假广告，都可能对公民的肖像权造成侵害。
　　随着“深度伪造”技术的廉价化和易用化，其对肖像权和隐私权的侵害不断被放大。借助一些低价乃至免费的软件，人们不需要具备专业知识和技术能力，即可通过终端实现调整播放速度、优化视频效果、更换背景、“换脸”等操作。这在一定程度上成为色情视频的源头。

　　在国外就有这样的案例：2019年，美国出现了一键生成裸照软件DeepNude，只要输入一张完整的女性照片，就可自动生成其裸照。受害者通常难以防范，照片上传到网络之后会很快传播。这种极易生成的色情内容将在很大程度上损害女性的职业前途、人际关系、名誉和心理健康，污名化女性，成为不法分子实施色情报复的工具。
　　四是侵犯公民的声音权。目前我国涉及声音利益保护的主要是《民法典》人格权编，即“其他人格权的许可使用和自然人声音的保护，参照适用本章的有关规定”。
　　“深度伪造”技术的滥用，除了前文提到的人脸替换以外，还有声音替换或合成的情况出现，这明显妨害了个人对于其声音利益的支配，且有可能引发更多的风险。

损害企业商业信誉

　　信用是市场经济得以正常运行的基础。企业要在激烈的市场竞争中立于不败之地，就必须努力提高并维持自身的商业信誉。所谓商业信誉，是指社会对企业之生产、产品、销售、服务等多方面的综合评价，反映的是企业的总体商业形象。从法学角度看，企业商业信誉保护往往关涉法人权利这一议题，理论界通常将其称为商誉权。
　　“深度伪造”技术所体现的高度真实性，可能使其成为个人或组织抹黑企业的重要工具。“深度伪造”视频可能描述企业的某位高管实施诸多违反法律、道德的行为，或发表歧视性言论、与他人发生不正当关系、贿赂官员等。包含不良信息的“深度伪造”视频，可能在企业经营过程中的一些关键时刻被发布，例如并购谈判、首次公开募股、参与招投标等。即使这些“深度伪造”视频最终被证实是假的，但是一旦企业的合作伙伴采取“宁可信其有，不可信其无”的态度，那么对于企业而言不仅会造成商业信誉的损害，更会导致商业机会的流失，甚至使企业资产大幅缩水。
　　目前在国内外尚未出现因“深度伪造”视频导致企业商业信誉受损的案例。但这不能说明不法分子没有把目光投向企业。据美国《华尔街日报》报道，2019年3月，有犯罪分子利用“深度伪造”技术成功模仿英国某能源公司CEO的声音，诈骗了22万欧元。这是一起利用“深度伪造”技术侵害企业利益的典型案例，这种技术被滥用的破坏性可见一斑。

威胁社会公共安全

　　公共安全治理是社会治理的重要内容，也是对政府执政能力的重要考验。无论是推进国家治理能力和治理体系现代化，还是构建政治、自治、德治、法治、智治“五治融合”的社会治理格局，其重要目标均是全力推进平安中国建设。
　　近年来，随着互联网、AI的快速发展，公共安全治理的范围已经发生了巨大的变化，网络空间的安全与公共安全的碰撞和融合也越来越频繁，越来越重要。
　　“深度伪造”技术以互联网为重要依托，将现实与虚拟融合在一起，既是网络安全治理的重要内容，也是公共安全治理的重要对象。
　　“深度伪造”具备高效率、低门槛、高质量的技术优势，使得普通人能够轻松地进行声音、图像、视频的伪造，再加上互联网提供的高速传播通道，很容易引发公共安全风险，主要体现在以下两个方面：
　　一是破坏社会信任。社会信任是公共安全的重要条件。一个社会要平稳有序地运行，就必须建立起坚实的信任体系。信任一旦崩塌，将会使社会生态恶化。
　　“深度伪造”技术可以让虚假的信息以“高度可信”的方式呈现给社会公众，从而操纵公众的情绪反应，引发社会上广泛的不信任。
　　美国学者切斯尼认为，当网络信息环境与个人的认知偏见以有害的方式相互作用时，真相就会逐渐在思想市场中衰退。“深度伪造”技术将使这一问题更加严重。当社会公众意识到“深度伪造”被大范围滥用，而个人又无从辨别真假时，将可能形成对任何图像、视频的不信任，这无疑会极大地冲击新闻媒体、政府机构的公信力，引发严重的社会信任危机，进而危及公共安全。
　　二是加剧社会分化。社会分化是影响公共安全的重要因素。“深度伪造”技术的滥用，将有可能加剧社会分化。某些“深度伪造”视频可能描述不同阶层之间的冲突。“深度伪造”的技术优势，让社会公众很难辨别这些视频或信息的真伪，再加上某些领域信任度下降的现实，原有的社会问题可能被放大，最终危及社会公共安全。