深度伪造技术攻击从四个方面颠覆网络安全

　 第 1 页 共 10 页 深度伪造技术攻击从四个方面颠覆网络安全

　摘要 深度伪造技术(Deepfake)的出现，使得篡改或生成高度逼真且难以甄别的音视频内容成为可能。这被美国等西方国家视为重大的国家安全威胁，美国已在推动相关立法，以期阻止该项技术的不当利用。对此，可以通过研发鉴伪和溯源技术、教育提升社会公众素养、合理配置法律责任等举措包容审慎监管和治理，避免该项技术的滥用，并促进该项技术在教育、文创、娱乐等方面的积极作用。

　关键词：深度伪造技术；生成对抗网络；国家安全；鉴伪技术；公众意识培养

　目录

　摘要................................................................................................................................ 1 目录................................................................................................................................ 1 前言................................................................................................................................ 2 1. 深度伪造攻击从四个方面颠覆网络安全 .............................................................. 2 1.1. 深度伪造即服务 ........................................................................................... 2 1.2. 基于深度伪造内容的网络钓鱼 ................................................................... 3 1.3. 绕过生物识别 ............................................................................................... 3 1.4. 数字现实失真 ............................................................................................... 3

　??深度伪造的出现和应用 ......................................................................................... 3

　 ??深度伪造是人工智能技术进步的产物 ...................................................... 3

　 ??深度伪造在教育、文创、客服、娱乐等诸多领域具有积极应用价值 .. 4 ????深度伪造的滥用风险 ............................................................................................ 4 ?? ??给国家安全带来新的挑战 ......................................................................... 4 ?? ??威胁个人和企业的合法权益 ..................................................................... 6 ????深度伪造的美国立法探索 .................................................................................... 6 ????深度伪造的应对之策 ............................................................................................ 7

　 第 2 页 共 10 页 ?? ??鼓励研发鉴伪和溯源技术并加强对社会各界的教育宣传 ..................... 7 ?? ??加强研判和打击外国势力利用深度伪造技术实施的网络破坏活动 ..... 8 ??????按照分级分类的思路包容审慎监管深度伪造技术 ................................ 8 参考文献........................................................................................................................ 9

　前言 VMware 的事件响应团队调查了数位全球知名公司的 CISO，将他们目睹的，以及最担心的深度伪造攻击汇总为以下四种。

　今年 3 月，美国联邦调查局发布了一份报告指出，未来 12-18 个月内，将会出现利用“合成内容”的网络攻击行动。而这种所谓的“合成内容”，包括由人工智能或机器学习完全创建或更改的深度伪造(DeepFake)音频或视频，这些深度伪造内容足以以假乱整，让人误以为某人做过他根本没有做过的事。

　事实上，对于网络安全行业来说，深度伪造技术已经不是“期货”，而是现实威胁。早在 2019 年，福布斯就曾报道过攻击者通过深度伪造 CEO 的讲话音频成功诈骗到 24.3 万美元电汇的真实案例。如今，这种威胁的严重性正在不断累积。远程办公时代，全球的分布式劳动力和繁忙的视频会议已经创造了丰富的音频和视频数据，人们只需将这些数据输入机器学习系统就足以制作出逼真的伪造内容。攻击者显然已经注意到了这一“机遇”。深度伪造技术在整个暗网中的热度也急剧蹿升，基于深度伪造技术的网络攻击距离泛滥只是时间问题。

　近日，VMware 的事件响应团队调查了数位全球知名公司的 CISO，将他们目睹的，以及最担心的深度伪造攻击汇总为以下四种：

　1. 深度伪造攻击从四个方面颠覆网络安全 1.1. 深度伪造即服务 一家事件响应公司指出，威胁行为者已转向暗网提供的定制服务和教程，这些服务和教程结合了能够绕过和击败安全措施的视觉和音频深度伪造技术。正如勒索软件演变成勒索软件即服务(RaaS)模型一样，深度伪造也正在走这条路。来自Recorded Future的这一情报展示了攻击者如何比FBI今年早些时候警告的由深度伪造的影响力行动更进一步。不法分子的新目标是使用合成音频和视频来逃避

　 第 3 页 共 10 页 安全控制和检测。此外，威胁行为者正在使用暗网以及论坛和即时通信等许多明网资源，来共享深度伪造技术相关的工具和最佳实践。

　1.2. 基于深度伪造内容的网络钓鱼 多家企业安全团队的 CISO 表示，他们已经观察到深度伪造被用于网络钓鱼尝试或入侵 Slack 和 Microsoft Teams 等企业电子邮件和通信平台。网络犯罪分子正在利用劳动力分布式转移的历史性机会，通过模仿与老板相同的说话节奏的适时语音邮件或 Slack 消息来操纵员工。通过电子邮件或商业通信平台进行的网络钓鱼活动是深度伪造内容的完美传递机制，因为企业和用户默认信任此类渠道。

　1.3. 绕过生物识别 深度技术的普及也为身份识别打开了潘多拉魔盒。身份是跨网络、端点和应用程序的常见变量，关注您正在验证的人或内容对于组织在零信任之旅中的安全性至关重要。但是，当存在可以模仿身份以欺骗身份验证因素(例如生物识别技术)的技术时，被入侵的风险就会变得更大。益博睿的一份报告概述了今年企业面临的五大威胁，其中之一的合成身份欺诈，即网络犯罪分子使用深度伪造的面孔来欺骗生物识别验证，已经被确定为增长最快的金融犯罪类型。这将不可避免地给依赖面部识别软件作为其身份和访问管理策略一部分的企业带来重大挑战。

　1.4. 数字现实失真 在当今世界，攻击者可以操纵一切。不幸的是，他们也是一些先进技术的率先采用者，例如深度伪造。随着网络犯罪分子不再仅仅为了影响操作或虚假信息而使用深度伪造，他们将开始使用这项技术来危害组织并获得对其环境的访问权限。这应该是对所有 CISO 和安全专业人员的警告。我们正在进入被攻击者“支配”的，缺乏信任和恐慌的时代。

　深度伪造的出现和应用

　深度伪造是人工智能技术进步的产物 近两年来，随着以机器学习为代表的人工智能技术的发展，人工智能自动生成内容取得了显著的进步，不仅内容的质量得到了提高，而且内容的形式日益多元化，例如生成文字、图像、声音、视频等。在此背景下，深度伪造技术“应运而生”，可以实现图像、声音、视频的篡改、伪造和自动生成，产生高度逼真且

　 第 4 页 共 10 页 难以甄别的效果。深度伪造的最常见方式是AI换脸技术，例如deepfake、face2face等；此外，还包括语音模拟、人脸合成、视频生成等，以下统称深度伪造技术。

　作为人工智能技术发展到一定阶段的产物，深度伪造的兴起主要归功于生成对抗网络(GAN)的出现和进步。GAN 算法上同时搭载着两个神经网络——生成器，基于一个数据库自动生成模拟该数据库中数据的样本；识别器，评估生成器生成的数据的真伪。两者在互相博弈学习中产生大规模和高精确度的输出。随着 GAN算法的不断成熟和日益复杂化，无论是图像还是声音、视频都可以被伪造或自动合成，并可达到几乎不能辨别真伪的程度。

　深度伪造在教育、文创、客服、娱乐等诸多领域具有积极应用价值 深度伪造技术或者说内容合成技术具有很大的正向应用潜力。在教育方面，逼真的虚拟教师让数字教学更具互动性和趣味性。此外，借助深度伪造技术，可以以充满想象力和更具吸引力的方式向学生传播知识；例如，合成的历史人物演讲视频可以再现历史场景，让受众更具代入感;借助深度伪造技术修改电影素材，以更灵活生动的形式呈现教学内容。

　在娱乐方面，深度伪造技术使得对一个人的自我进行逼真的模拟成为可能，从而可为个人创造虚拟化身(avatar)，并能通过虚拟化身参与媒体中各类社交活动，创造出超越现实的个性化体验和化身体验。此外，深度伪造技术可以让电影、纪录片等艺术创作突破时空限制，以更真实的方式呈现，也能实现替身演员演出等效果；可以给通过视频进行的批评、讽刺、戏仿等提供新的表达形式；可以创造虚拟主播来播报新闻、天气预报等内容；也可以给医疗、零售、娱乐等领域提供更具亲和力的人形问诊机器人、虚拟客服、虚拟偶像等。而一旦这一技术被滥用，则可能给国家安全和公民、企业权益带来新的风险。

　??. 深度伪造的滥用风险 ??.1. 给国家安全带来新的挑战 深度伪造技术对国家安全的潜在影响已经引起了美国国家高层的高度重视。美国情报界发布的研究报告《2019 年全球威胁评估》认为，深度伪造技术已经对美国国家安全构成威胁，敌对势力和战略竞争对手很有可能企图利用深度伪造技术或类似的机器学习技术，创造出高度可信但却完全虚假的图片、音频和视频

　 第 5 页 共 10 页 资料，以加强针对美国及其盟友和合作伙伴的影响渗透运动。美国国会为此已经提出了相关的法案，探讨可能的应对措施。

　整体而言，深度伪造技术对国家安全甚至世界秩序都可能产生不可估量的影响，具体表现为：

　(1)激发社会矛盾，挑战公共安全。不法分子借助易于获取的深度伪造技术，可以制作并散布真伪难辨的虚假视频，激发社会矛盾，煽动暴力和恐怖行动。例如，2018 年印度各地共有 20 多人因为在即时通讯软件 WhatsApp 上被谣传绑架小孩或涉及其他罪案而被暴力打死。深度伪造的视频内容还可能造成社会恐慌，破坏社会秩序。例如，2018 年初美国夏威夷紧急事务管理局的一名员工因失误向公众发出关于核弹来袭的公告，短时间内引发了巨大的骚乱。如果不法分子利用深度伪造技术发布类似虚假信息，会给信息安全治理带来极大挑战;如果敌对国家或组织利用深度伪造技术进行暴力、极端和恐怖煽动，不具备辨别能力和技术的普通民众很容易被煽动，将给维稳工作和恐怖主义防控带来新的风险。

　(2)挑拨国家关系，影响外交安全。例如，2017 年 5 月，卡塔尔的官方推特(Twitter)账号遭遇黑客攻击，并散布卡塔尔元首关于伊朗和伊斯兰的虚假讲话内容，虽然卡塔尔政府快速澄清以正视听，但虚假内容经新闻和社交媒体大肆传播已经造成不良影响，且引发了海湾邻国的愤怒。之后爆发的中东外交危机也被认为与此虚假信息事件有一定关系。借助深度伪造技术，类似的伪造视频等虚假信息将“如虎添翼”，将给世界秩序增加不安定因素。

　(3)威胁国家安全，破坏国际秩序。随着深度伪造技术的发展，“深度伪造的虚假情报”或将成为继“网络战”之后又一重大国家安全威胁，不仅可用于干扰竞争国家的情报机构，甚至能制造出限制其行动范围的条件，例如通过投放深度伪造内容来误导目标国家在军事部署、科技战略、经济布局等方面做出错误的战略决策。哈佛大学肯尼迪政府学院下属的 Belfer 研究中心发布的报告《人工智能与国家安全》指出，敌对国家和战略竞争国家的网络间谍在窃取一国的真实机密文件后，同时泄露该真实文件和一些相应的伪造文件，再利用深度伪造技术合成相应的音、视频材料来佐证相关的伪造文件，该伪造文件的可信度将极大提升，由此操纵公众舆论，影响国家政权稳定，破坏国家安全和国际秩序。

　 第 6 页 共 10 页 ??.2. 威胁个人和企业的合法权益 此外，深度伪造技术也可能给个人和企业带来人身财产损害。利用深度伪造技术可以轻易绑架或盗用他人的身份，让人“言”所未言、“行”所未行，达到以假乱真的效果。更进一步，深度伪造技术可能成为实施色情报复、商业诋毁、敲诈勒索、网络攻击和犯罪等非法行为的新工具。

　例如，利用 AI 换脸技术制作虚假的色情视频，以达到污蔑或报复他人的目的；制作、散播关于商业竞争对手的深度伪造信息，损害其商誉等；借用合成的虚假内容对他人实施敲诈勒索或施加精神压力；借助深度伪造技术破解人脸识别等验证系统，非法盗刷他人支付账户、获取他人个人信息或从事其他冒名的违法活动；深度伪造技术也给法院鉴别声音、视频等证据材料的真伪带来挑战，等等。

　??. 深度伪造的美国立法探索 如前所述，深度伪造技术的滥用风险已经引起美国国家高层的高度重视。美国众议院议长 Nancy Pelosi 的虚假合成视频在社交媒体上的广泛流传更是加剧了美国立法者对深度伪造技术的担忧。在美国 2020 年大选来临之际，美国立法者开始寻求措施，意图从根源上阻止深度伪造技术的不当利用。在此背景下，2019年 6 月 12 日，美国国会提出《深度伪造责任法案》(DEEP FAKES Accountability Act)，旨在通过限制深度伪造合成技术，打击虚假信息的传播。对于立法目的，Clarke称，“随着 2020 年大选的临近，我们需要做好准备，防范外国竞争对手利用...