AI发展带来便利变革，但AI换脸诈骗成网络安全挑战？

东莞谢岗律师获悉

人工智能与大模型技术的飞速进步，极大地丰富了人们的日常生活，带来了空前的便捷和变革。从各类应用的火爆流行，到AI PC等终端AI设备的快速推广，AI的应用已经渗透到各个角落。尽管如此，AI技术的滥用也引发了新的安全隐患。特别是AI换脸诈骗这一新兴且隐蔽性极强、危害性极大的手段，正逐渐成为网络安全领域面临的一大难题。

两会召开之际，众多全国人大代表与政协委员共同发声，强烈要求通过立法手段对AI换脸拟声技术进行规范。这种AI换脸技术，作为生成式AI的突破性应用，依赖深度学习技术，能够制造出极其逼真的虚假视频或图像。随着技术的日益精进，伪造的视频和图像已能以假乱真，不法分子因此有了可乘之机。他们借助人工智能换脸技术，公然进行各类欺诈行为，包括但不限于诈骗、窃取身份信息、散布虚假信息等，这些行为对个人、企业以及整个社会造成了极大的损失和负面影响。

面对AI换脸等恶意应用带来的日益严重威胁，联想集团依托其在AI领域的丰富经验和精准洞察，即将发布一项具有深远意义的AI防欺诈技术——即“深度伪造技术检测器”。今日，在联想集团发布的宣传短片《用AI守护AI》中，详细揭示了该技术的诸多特性，该技术能够精确辨别各类换脸伪造行为，有力地阻止了AI欺诈活动的扩散。据悉，这款检测器的识别准确率竟高达96%。

在众多AI换脸技术中，这一项目无疑是发展最为成熟的佼佼者之一。它由“deep”（深度学习）与“fake”（伪造）两个词组合而成，精确地揭示了这项技术的核心特性。作为人工智能深度学习领域的关键分支，自其诞生之日起，便吸引了广泛的关注。然而，技术发展迅猛，已从实验室步入公众视线，并在众多应用领域中频繁露面，同时，这也激发起社会各界的广泛关注及诸多忧虑。

联想开发的“深度伪造技术检测器”依托开源的大规模语言模型构建而成，彰显了其在尖端技术领域的敏锐洞察和高效应用能力。此检测器不仅可在AI个人电脑上本地部署运行，还显著增强了联想AI个人电脑在保护用户个人数据与隐私安全方面的功能。该大模型凭借其卓越的性能和广泛的适用性，为检测器提供了强有力的技术保障。在此背景下，联想的研发团队不断深化对AI生成内容识别及防范技术的探究，对算法与模型进行持续优化，力求打造一款既高效又可靠的AI反诈产品。与此同时，四川省反诈中心、腾讯云、奇安信等政府部门、云计算服务提供商以及网络安全企业纷纷响应，加入了联想发起的AI反诈行动。

联想所提出的深度伪造技术检测手段，在多个方面展现出其先进性。首先，从技术核心来看，它采用了前沿的深度学习技术，对图像与视频中的细微细节进行了细致入微的分析。其次，通过构建出复杂的神经网络模型，该检测器得以掌握真实人脸与伪造人脸之间的细微差别，进而能够精确地判断视频或图像是否经历了AI换脸技术的处理。这种依托数据驱动的检测手段，与传统的依据规则的方法相比，展现出了更卓越的准确度与更强的适应性，从而更有效地应对了AI换脸技术日新月异的发展趋势。

在功能实现上，联想的这项技术已取得显著成效。比如谢岗镇律师，在在线视频会议的场合，用户加入会议后，系统可实时对与会者的视频进行监控。若检测到对方视频疑似由AI伪造，系统将立即向用户发出警告，从而有效提升了会议的安全性。对企业来说，这一功能显得尤为关键，特别是在商务谈判和机密信息交流等场合，验证与会者的身份真实性显得极为重要。此外，在社交媒体浏览时东莞谢岗律师，该技术能够自动检测视频内容，并标注出那些可能涉及AI换脸的片段。这不仅能使广大用户轻松识别视频内容的真伪，防止被虚假信息所误导，而且对于维护社交媒体平台的良好环境、遏制虚假信息的扩散也大有裨益。当用户借助AI PC进行操作时，系统可以实时监测到AI换脸可能存在的安全风险，并迅速向用户发出警报。无论是进行日常办公、休闲娱乐还是其他应用场景，用户都能享受到全面的安全保障。

该技术已经实现了广泛的兼容适配，能够在笔记本电脑、台式机、平板电脑以及手机等多种设备上运行。这表明，无论用户身处何地，使用何种智能设备，都能够体验到联想AI反诈技术提供的安全保障。这种跨平台的兼容性，充分展现了联想以用户需求为核心的设计理念，并致力于为用户群体提供便捷且高效的安全服务。

联想的“深度伪造技术检测器”不仅具备高精确度和多样化的应用领域，其检测算法还展现了卓越的高效性。该系统能在仅需5秒钟的时间内对图像或视频进行迅速的检测，并实现自动化的分析以及即时的反馈信息。在当前信息量激增的时代，每一分每一秒都显得尤为珍贵。对于那些可能成为人工智能欺诈受害者的人们，迅速得到检测结果至关重要，这能帮助他们赢得宝贵的应对机会，从而有效预防潜在的经济损失。

此技术不仅支持更新迭代，而且拥有卓越的防护功能。面对AI伪造攻击技术的持续进步，诸如、等新兴技术接连涌现，联想的检测器通过不断搜集AI换脸的样本，对深度学习模型实施持续的锻炼与改进，确保系统持续升级，以便应对新出现的AI换脸技术及攻击策略。这种不断演变、自我更新的防御系统，保证了检测器持续处于行业前沿，为用户提供了持久且高效的安全保障。

联想公司推出了“深度伪造技术检测器”，这不仅代表了技术层面的创新突破，同时也彰显了该公司作为科技企业所肩负的社会责任与使命。联想一直秉持“以人为本”的科技发展理念，这一理念强调从人的角度重新审视人工智能技术及其带来的影响。在人工智能技术的研发过程中，人工智能产品与服务的设计、应用以及与外界的互动，都应将满足人类需求、追求人类福祉作为最核心的追求。AI技术的进步虽引入了新的潜在威胁，然而，借助持续的技术革新与实际应用，它亦能转变为抵御风险、确保安全的得力工具。

从维护用户权益的立场出发，联想推出的技术为用户构筑了一道稳固的安全防线。在日常生活中，用户可能会遭遇财产被盗、个人信息泄露等风险。得益于“深度伪造技术检测器”的问世，用户在使用智能设备和在线服务时能享有更佳的安心感，无需担忧遭受AI换脸欺诈的威胁。此举不仅提高了人们日常生活的品质，还显著增加了他们对科技产品的信赖感。

对企业来说，这项技术有利于打造一个更加公正、稳固的商业氛围。在商业往来中，身份确认和信息真实度显得尤为关键。企业得以通过精确识别AI换脸的造假行为，从而有效遏制商业欺诈、守护商业机密，减少运营中的风险。这对推动企业健康成长、维护市场秩序具有极其重要的价值。

在社会层面，联想的AI反诈技术对于保障社会的稳定与和谐起到了积极作用。AI欺诈行为的广泛存在不仅对个人和企业造成经济损失，还可能触发了社会信任的危机。而通过广泛推广和应用这一先进的AI反诈技术，我们能够有效阻止AI欺诈行为的蔓延，同时增强公众对科技进步的信任，进而促进社会的持续发展。

联想集团的高级副总裁，智能设备业务集团全球创新中心的负责人贾朝晖指出，面对AI换脸诈骗频发的现状，联想集团全球安全实验室的团队正致力于利用开源的大规模模型，研发出“AI照妖镜”，这一工具旨在识别并揭露那些难以辨别的AI生成内容。反欺诈行动本质上是一场攻防双方的拉锯战，伪造技术不断进步，工程师们则夜以继日地工作。要想取得胜利，单打独斗是远远不够的。联想集团热切期望与众多技术盟友携手共进，共同构筑数字世界的坚实安全壁垒。我们深信，AI并非隐藏在暗处的窥视之眼，而应当是照亮我们生活的明亮之光。

谢岗镇律师?敬请于评论区发表高见，并对本文予以点赞及转发，以助广大读者把握法律与正义的界限。