畅爽译评

（图片来源：今日印度）

自问世以来，人工智能已经改善了现代生活的众多方面，同时也对国家安全造成了重大风险。尤其是深度伪造（Deepfake）技术的诞生与普及，不仅可以创建完全虚构的超逼真音频和视频内容，甚至还能够操纵公众认知并扰乱社会规范。印度辨喜国际基金会高级研究员安努拉格·夏尔马（Anurag Sharma）适时指出深度伪造对于印度国家安全的潜在影响，以期防范数字时代的风险及挑战。

首先，作者立足印度发展实际情况，总结了深度伪造技术对国家安全产生的四重挑战。一是严重扰乱政治稳定。印度的政治格局呈现出高度两极分化的特征，并伴随着激烈的选举竞争。在此环境下，深度伪造技术可以被用来打击政治对手、传播虚假信息和操纵舆论。例如，伪造政治领导人发表煽动性言论的视频，可能会煽动暴力、扰乱选举或削弱公众对民主机构的信任。通过社交媒体平台的快速传播，加剧了虚假信息的覆盖范围。2020年印度大选期间，有政党针对特定的选民群体使用深度伪造技术制作领导人以不同语言发表演讲的视频。尽管这一举措并非恶意，但侧面印证了深度伪造如何服务于政治利益，也引发了民众对其滥用的潜在担忧。二是影响社会和谐并导致社群凝聚力下降。作为拥有多种宗教、语言和文化的多元化国家，维持社会和谐是印度的必要任务。不法分子通过创建社区成员互相攻击的虚假视频，煽动社区紧张局势，进而引起冲突和暴力。三是威胁国家安全并影响军队作战。在军事冲突期间，可以使用深度伪造技术以及黑客入侵媒体服务来传播错误信息。2022年2月18日，一段乌克兰总统泽连斯基的深度伪造视频流出，视频中他“错误地”告知乌克兰人民军队已经投降。此外，深度伪造还可用于心理战（Psy Ops）以挫伤军队士气、传播虚假命令或者制造军队混乱，甚至操纵外交沟通或炮制影响国家对外关系的虚假叙述。四是削弱数字交易、电子通信及金融市场的信任，造成重大经济损失。2019年，犯罪分子使用深度伪造音频进行金融诈骗，骗取知名保险公司裕利安怡集团（Euler Hermes）首席执行官鲁迪格·基尔希（Rudiger Kirsch）约170万卢比，严重损害了企业交易的信任度与安全感。

其次，作者概述了印度政府应对人工智能的对策。尽管目前还没有专门针对深度伪造技术的法律法规，但是2000年《信息技术法》第66D条“使用计算机资源冒充他人作弊的处罚”和第66E条“侵犯隐私的处罚”规定，如果冒充他人作弊，并在未经其同意的情况下以电子形式发布或传输私人身体部位的图像，则将处以监禁和罚款。鉴于上述规定不足以识别和防止深度伪造内容在互联网上传播，2023年11月23日，印度电子信息技术部长阿什维尼·瓦什纳夫（Ashwini Vaishnav）会见了来自学术界、工业界和社交媒体公司的代表，讨论了有效应对深度伪造的必要性。针对深度伪造带来的多重威胁，任何纯粹的技术方案都难以彻底解决。因此，作者认为印度需要制定全面的战略来应对数字时代的挑战，该战略必须包括以下五个方面。第一，技术解决层面，投资并改进基于人工智能的检测系统，以高精度识别深度伪造，并嵌入社交媒体平台和其他关键数字基础设施。第二，立法监管层面，制定强有力的法律法规，将创建和恶意传播深度伪造内容定为刑事犯罪，并要求平台迅速删除恶意深度伪造内容。第三，公众意识层面，政府和媒体应积极教育民众了解深度伪造的存在和危害，从而降低此类内容被相信和传播的可能性。第四，国际合作层面，深度伪造是一个全球性问题，印度应与其他国家合作，制定深度伪造监测和管理全球标准，并及时分享有关新兴威胁的情报。第五，网络安全基础设施层面，防止未经授权创建和传播深度伪造内容，确保政府和军事通信渠道免遭渗透。

最后，作者总结道，深度伪造技术对印度的国家安全构成了重大且不断演变的挑战。随着深度伪造技术的进步和普及，政府和组织必须制定策略来监测和打击这些欺骗行为，以维护国家安全和公众信任。通过有效利用先进技术、大力支持本土公司开发打击深度伪造技术、建立稳固的立法框架、启动公众意识计划以及开展国际合作，作者相信印度将能够妥善解决深度伪造问题并保护数字时代的国家安全。

（审校：张含睿 编辑：杨倩）

原文于7月11日发表于辨喜国际基金会官网

https://www.vifindia.org/article/2024/july/11/Deepfakes-A-Threat-to-National-Security-in-the-Digital-Era