新讯网官方唯一联系电话：15001380073 近年来生成式人工智能技术迅猛发展，由此衍生的深度伪造 (Deepfake) 欺诈也愈发盛行，技术门槛的降低、生成效果的逼真、多样化的应用场景与检测难度的增加，让欺诈者们纷纷投向深度伪造欺诈。由此衍生的欺诈泛滥已经给全球范围内各行业市场带来严重挑战。
根据相关数据统计显示，深度伪造欺诈攻击在2023年增加了3000%，全球深度伪造欺诈事件在过去几年呈现激增之势，尤其是在北美、亚太地区、中东和非洲以及拉丁美洲等地。其中基于深度伪造技术最常见的欺诈手段-合成身份欺诈在2023年的发生几率几乎是2021年的2倍之多。根据德勤的报告预测，到2030年单美国一个国家因合成身份欺诈就将至少造成230亿美元的损失。另据数据报道显示，26%的小型公司与38%的大型公司在过去一年中均遭遇过深度伪造欺诈，这些攻击形式多样，主要包括伪造视频和语音，用于身份盗窃和金融诈骗等目的。
全球范围内，截至2022年包括合成身份欺诈在内的身份欺诈总成本超过了200亿美元，这对全球企业构成了重大且日益增长的威胁以及巨大的经济负担，并且随着欺诈技术的进步，预计损失还会进一步增加，因此改进安全措施和欺诈检测技术迫在眉睫。
什么是深度伪造？
深度伪造是指经过操纵或合成的媒体，通过使用人工智能和机器学习算法来创建令人信服的虚假内容。这些复杂的技术使犯罪分子能够将一个人的脸部叠加到另一个人身体上，或者改变他们的面部表情、声音或手势。由此捏造出来的内容高度真实，通常很难与真实的录音或图像区分。文本、图像、音频、视频等各类内容都成为了深度伪造的对象。以深度伪造视频为例，视频图像主要基于生成对抗网络(GAN)生成，通过训练大量的面部图像数据，模型可以学习面部特征之间的潜在关系，进而生成与真实面部特征高度相似的虚假面部特征。随着技术的演进，创建深度伪造视频的成本越来越低，所需的训练时间越来越少，生成的视频质量也越来越高，更加难以辨别和检测。
与此同时，很多平台提供了Deepfake类的制作工具，个人用户可以更轻松地生成违规内容，例如在GitHub上就有数千个与“深度伪造”技术相关的存储库。不法分子只需使用现成的伪造工具结合模拟器和特定软件，就能绕过传统的防护检测，渗透到线上会议、社交网络和工作流程中。由于没有数字痕迹和IP地址等信息，导致追踪系统很难察觉。这些欺诈行为可以由机器人自动发起，配合虚假账户、暗网分发等方式形成复杂的攻击网络。
全球金融科技市场深度伪造欺诈现状与场景
深度伪造技术的快速发展正给全球带来一系列复杂的欺诈问题。深度伪造利用人工智能和深度学习技术，生成高度逼真的图像、音频和视频，使得辨别真假变得越来越困难。这种技术被广泛应用于制造虚假新闻、诽谤和身份盗用等领域。例如，伪造的领导人演讲视频或虚假的商业高管声明可能会导致重大经济损失和社会动荡。
目前，深度伪造欺诈已成为全球范围内的重要安全问题。政府、企业和个人都面临着防范深度伪造攻击的巨大挑战。各国政府和科技公司正在积极开发检测和防御技术，以应对深度伪造带来的威胁。同时，法律和监管措施也在不断完善，以追究利用深度伪造技术进行欺诈行为的法律责任。尽管如此，随着技术的不断进步，深度伪造的欺骗性和危害性也在不断提高，全球范围内的协作和持续创新是应对这一问题的关键。
深度伪造欺诈在金融科技领域的常见应用包括：身份盗用与诈骗犯罪分子利用深度伪造技术生成高度逼真的伪造视频和音频，冒充高管或客户进行诈骗。近期最，的案例就是2024年2月公开报道发生在香港的跨国公司2亿港币AI诈骗案，欺诈者利用企业高管公开视频与音频合成了令人信服的“数字人”，利用视频电话会议指示香港办事处员工进行转账操作，造成重大损失。此外，深度伪造还可以用于制作伪造的客户身份验证视频，欺骗金融机构的身份验证系统，从而进行非法账户操作或资金转移。
虚假信息传播
深度伪造技术被用来制造虚假的财经新闻和市场传闻，影响股票市场和加密货币市场的波动。例如，伪造的公司高管视频声明可能会误导投资者，导致股价剧烈波动，给市场带来不稳定性和潜在的金融损失。
社交工程攻击
深度伪造技术在社交工程攻击中的应用也日益增多。犯罪分子利用伪造的视频或音频，假冒客户或同事，与金融机构的员工建立信任关系，进而诱骗他们泄露机密信息或执行欺诈性交易。
，聚焦：合成身份欺诈，深度伪造“最落地”与“应用最普遍”的欺诈手段
与身份盗用与诈骗直接关联的合成身份欺诈是利用深度伪造技术实施欺诈行为的重灾区，值得，关注。在一些金融科技领域新兴经济体国家，如东南亚的印尼、菲律宾以及北美地区的墨西哥，由于传统金融服务覆盖率不足、非银行类金融企业提供的服务迅速发展，而这些国家地区居民基础信息数据采集与存储不完善的现状，对金融服务反欺诈工作的开展形成了一定阻碍，也给犯罪分子提供了可乘之机，如何精准防范深度伪造技术带来的欺诈横行现状，是这些地区企业与用户关注的热点。
在印尼、墨西哥金融科技市场，AI换脸欺诈行为频发；而在菲律宾与墨西哥市场，由于这些国家居民证件复杂多样，例如墨西哥居民持有选民证、CURP、护照、驾照、社会保障卡等，而证件造假类型五花八门，包括翻拍、彩色打印、黑白打印、人脸篡改、文字篡改等，同时AI生成式技术增强了犯罪分子证件造假与盗用的能力，这也增加了数字身份验证方式反欺诈的难度。
合成身份欺诈包括使用真实和虚假信息的混合，或者来自不同个人的真实信息的组合，来创建一个新的虚假身份。一旦合成身份被建立，欺诈者就可以用它来申请信用卡、贷款等金融服务，或者制造大量虚假身份攻击在线平台，例如薅羊毛、发表不当评论。由于身份是虚构的，因此机构很难检测和防止合成身份欺诈。据麦肯锡相关研报称，利用“合成身份”犯罪在2023年以来迅速增长，合成身份欺诈已成为增长最快的金融犯罪形式之一。
欺诈领域的黑暗“藤壶”，在多行业肆虐的合成身份欺诈
AI换脸、伪造证件欺诈等合成身份欺诈行为在金融科技、跨境电商、直播社交、跨境支付等行业中也频繁发生，具体体现在用户拉新和注册，以及资金交易往来环节。例如在金融科技行业，AI换脸技术使得犯罪分子能够轻易伪造身份进行注册，骗取新用户奖励和推广奖金，这无疑增加了金融科技公司的获客成本和风险。而伪造证件和AI生成的虚假视频会绕过KYC（了解客户）流程，导致虚假账户的大量增加。虚假账户不仅扰乱市场秩序，还可能用于后续的金融欺诈活动。而在资金交易往来层面，欺诈者可以利用伪造身份进行欺诈交易，盗取资金或进行洗钱活动。金融科技公司必须投入大量资源监控和检测可疑交易行为；同时伪造的身份可能导致不良贷款和信用欺诈，增加金融机构的信用风险和经济损失。
而在跨境电商行业，AI换脸和伪造证件可以创建大量虚假账户，利用平台上对新用户的注册奖励和优惠政策进行漏洞欺诈。这不仅增加了运营成本，还可能影响平台的声誉和用户信任，，进而影响平台的用户增长和品牌形象。在资金交易往来上，伪造证件和虚假身份信息可能用于支付欺诈，导致企业受到资金损失和客户投诉争议；同时犯罪分子可能利用虚假身份进行退款和退货欺诈，增加企业的运营负担和经济损失。
当下全球范围内都异常火热的直播社交行业，依然存在合成身份欺诈的身影。在用户拉新和注册上，AI换脸技术使得创建虚假用户和机器人账号变得容易，扰乱平台的社区生态，影响真实用户的体验和参与度；虚假账户可能用于欺诈活动，如虚假打赏、将直播间观众导流到其他平台施行诈骗等，损害平台和用户的利益。在资金层面，伪造身份可以通过直播间进行洗钱操作，给平台带来财务风险和监管挑战。平台需要加强对资金流动的监控和审核；这些伪造账户和身份同时还可能用于发布虚假广告和推广，欺骗其他用户，损害平台的公信力和用户体验。
跨境支付领域也同样避不开合成身份欺诈的侵扰。AI换脸和伪造证件使得跨境支付平台在验证新用户身份时面临巨大挑战，增加了注册过程的复杂性和成本；虚假身份导致了大量虚假注册，扰乱平台运营，增加合规风险。跨境支付以资金交易为主体，犯罪分子可以利用虚假身份进行欺诈交易和洗钱活动，给跨境支付平台带来巨大的监管压力和财务风险。平台需要投入大量资源进行反欺诈和反洗钱监控；跨境支付涉及不同国家的法律法规，虚假身份和欺诈行为可能导致平台违反合规要求，面临法律和罚款风险。因此这一行业对解决合成身份欺诈的影响有着巨大需求。
迎接深度伪造挑战，ADVANCE.AI助力出海企业防范欺诈
针对深度伪造技术下合成身份欺诈为企业用户造成的困扰，ADVANCE.AI 着眼于客户痛点，专注于技术创新，为出海企业提供了精准防范深度伪造欺诈的解决方案。“数字身份验证(E-KYC)”解决方案专为海外客户定制，包括证件质量检测（IQA）、证件识别（ID OCR）、假证检测、活体检测、人脸比对、人脸搜索、身份验证等功能。
真实人脸与真实身份证件对金融科技、跨境电商、直播社交、跨境支付等行业防范欺诈攻击起到很关键的作用。下文主要从假证识别和活体攻击两方面讲解 ADVANCE.AI 用于防范合成身份欺诈的数字身份验证解决方案产品。
假证识别
根据ADVANCE.AI数据统计，假身份证件在印尼、菲律宾和墨西哥市场的存在占比均在4-5%，存在形式以翻拍和打印为主。高质量的假证很难通过肉眼识别，这妨碍了企业的效率和工作有效性，假证带来的运营成本和潜在欺诈风险都很高。
ADVANCE.AI的KYC（了解用户）产品通过多维度信息验证，能够可靠识别用户身份的真实性，例如数字身份验证产品下的“ID Forgery Detection （假证检测）全自动解决方案”支持识别多国不同证件类型，轻松解决假证识别问题。其中支持识别假证类型包括屏幕翻拍、黑白复印、彩色打印、人脸篡改、文字篡改等，大量减少企业繁琐审核工作和不确定的违约风险，确保众多类型的伪造证件都能被ADVANCE.AI智能的机器学习模型准确快速检测到。
活体攻击
在金融科技领域，活体攻击（Liveness Attack）指的是利用技术手段欺骗生物识别系统，使其认为虚假的或模拟的生物特征是真实的活体人类特征。这种攻击的目标是绕过生物识别验证，如面部识别、指纹识别或语音识别，从而进行身份冒充和欺诈活动。具体来说，活体攻击通常包括：注入攻击、屏幕攻击、面具攻击、AIGC人脸等几种形式。根据ADVANCE.AI数据统计，以印尼市场为例，屏幕攻击是最主要的攻击方式，占比73.94%，其次随着深度伪造欺诈技术的不断提升，AIGC人脸合成以及注入式攻击的比例正在逐步提高。
金融科技企业通常依赖生物识别技术进行用户身份验证和欺诈防范，但活体攻击的出现大大增加了生物识别系统被欺骗的风险，因此许多金融科技企业寻求采用更先进的活体检测技术，以确保验证的对象是真正的活体人类，而不是模拟或者伪造的生物特征。这些技术包括基于运动、纹理与光学的活体检测以及多因素验证在内的技术手段，而ADVANCE.AI的活体检测解决方案在这些基础之上，提供了3D活体检测产品，相较传统的2D活体检测手段，这一版本更适用于防范深度伪造欺诈，拥有更强的交互性，攻击拦截率高达99.95%，其对静态攻击（如图片翻拍、纸张面具、图片打印）有非常好的防御效果。
ADVANCE.AI的活体检测产品通过结合人脸识别和活体验证技术，能够准确判断用户身份的真实性，有效防范AI换脸等欺诈手段。无论是在用户注册、登录还是交易过程中，活体检测产品都能为企业提供可靠的身份验证服务，确保交易的安全可靠。
未来ADVANCE.AI还将持续对假证识别与活体检测产品进行升级，尤其是在“复杂活体攻击的检测”和“多维度风控策略”上下功夫，以应对深度伪造欺诈的快速变化带来的风险。
深耕反欺诈多年，ADVANCE.AI为出海企业保驾护航
作为全球领先的数字身份验证服务公司， ADVANCE.AI 为企业提供先进的深度伪造检测解决方案，以有效降低风险。通过结合先进的人工智能算法、机器学习模型、成熟的业务知识和落地经验，ADVANCE.AI 使企业能够验证用户身份并防范与深度伪造相关的欺诈。
ADVANCE.AI 一直致力于走在技术进步的最前沿，不断增强自身产品对Deepfake深度伪造的检测能力。通过与 ADVANCE.AI 合作，企业客户可以对用户身份真实性进行可靠验证，并保护自己免受不断变化的威胁环境的影响。我们相信，借助ADVANCE.AI 的技术力量，出海企业能够更加轻松地应对深度伪造欺诈的挑战并赢得市场。
