计算机生成的孩子们的声音是如此真实，以至于可以欺骗自己的父母。用社交媒体上的照片制作的面具可以渗透受面容 ID 保护的系统。它们听起来像是科幻小说中的东西，但这些技术已经可供那些掠夺日常消费者的犯罪分子所利用。
诈骗技术的扩散引起了监管机构、警察和金融行业最高层人士的警惕。美国联邦贸易委员会主席莉娜·汗 (Lina Khan) 在 6 月份警告称，人工智能尤其被用来“加剧”欺诈行为，呼吁执法部门提高警惕。
甚至在人工智能爆发并可供任何有互联网连接的人使用之前，世界就已经在努力遏制金融欺诈的激增。仅在美国，尽管在检测和预防方面的投资创纪录，但去年消费者损失了近 88 亿美元，比 2021 年增长了 44%。富国银行和德意志银行等主要银行的金融犯罪专家表示，即将到来的欺诈热潮是其行业面临的最大威胁之一。除了支付打击诈骗的成本之外，金融业还面临失去客户信心的风险。 “这是一场军备竞赛，”澳大利亚最大银行澳大利亚联邦银行欺诈管理负责人詹姆斯·罗伯茨 (James Roberts) 说道。 “说我们赢了有点夸张。”
诈骗的历史无疑与贸易和商业的历史一样悠久。已知最早的案例之一是 2000 多年前，一名希腊海上商人试图击沉自己的船，以获取欺诈性的保险赔付。回顾一下任何一份报纸档案，你都会发现无数的企图让那些容易上当受骗的人失去他们的钱财。但欺诈的黑暗经济——就像更广泛的经济一样——周期性地爆发出破坏稳定的创新。新技术降低了实施诈骗的成本，并让犯罪分子达到了更大的未准备目标。电子邮件向世界上的每一位计算机用户介绍了一群穷困潦倒的王子，他们需要帮助来挽救自己失去的财富。加密货币带来了庞氏骗局的蓬勃发展，并在社交媒体上病毒式传播。
人工智能的爆炸式增长不仅提供了新工具，还可能带来改变生活的经济损失。技术的日益复杂和新颖意味着每个人，而不仅仅是轻信的人，都是潜在的受害者。 Covid-19 封锁加速了全球在线银行的采用，手机和笔记本电脑取代了银行分行的面对面互动。它为金融公司及其客户带来了降低成本和提高速度的优势，也为诈骗者提供了机会。
有些新技术超出了当前现成技术的能力，而且当你面对的是普通欺诈者或民族国家行为者时，并不总是那么容易辨别。微软公司网络安全政策和保护总经理 Amy Hogan-Burney 表示：“我们开始看到网络犯罪变得更加复杂。”
在全球范围内，包括诈骗在内的网络犯罪成本今年将达到 8 万亿美元，超过世界第三大经济体日本的经济产出。据研究机构 Cybersecurity Ventures 称，到 2025 年，这一数字将达到 10.5 万亿美元，十年内增长了两倍多。
在悉尼郊区的雷德芬，罗伯茨的 500 多人团队中的一些人整天偷听骗子的声音，以直接了解人工智能如何重塑他们的战斗。向亲人虚假索要金钱并不新鲜。但现在家长们接到的电话是，用人工智能克隆孩子的声音，听起来与真实的声音没有什么区别。这些被称为社会工程诈骗的伎俩往往具有最高的命中率，并为欺诈者带来最快的回报。
克隆一个人的声音变得越来越容易。一旦诈骗者从某人的社交媒体或语音邮件消息的音频剪辑中下载了一个简短的样本（时间可能短至 30 秒），他们就可以使用在线提供的人工智能语音合成工具来创建他们需要的内容。
公共社交媒体帐户可以很容易地找出一个人的亲戚和朋友是谁，更不用说他们生活和工作的地方以及其他重要信息。银行老板强调，诈骗者像企业一样经营业务，准备保持耐心，有时会策划数月的攻击。
新西兰政府网络安全机构 CERT NZ 主任 Rob Pope 表示，到目前为止，欺诈团队所看到的只是人工智能将带来的可能。他指出，人工智能同时帮助犯罪分子增加攻击的数量和定制化。 “可以肯定的是，在未来两三年内，我们将看到更多由人工智能生成的犯罪攻击，”新西兰警察局前副局长、负责监督该国一些最引人注目的刑事案件的波普说。 。 “人工智能的作用是提高这些坏人的复杂程度和快速转变的能力。人工智能让他们变得更容易。”
罗伯茨表示，为了了解银行面临的挑战，澳大利亚联邦银行目前每天通过监控工具网络跟踪约 8500 万起事件。那是在一个人口只有 2600 万的国家。
该行业希望通过教育消费者有关风险和增加对防御技术的投资来进行反击。新软件可以让 CBA 发现客户在交易过程中以不寻常的方式使用电脑鼠标，这可能是诈骗的危险信号。任何可疑的情况，包括订单的目的地和购买的处理方式，都可以在短短 30 毫秒内向工作人员发出警报，从而使他们能够阻止交易。
据德意志银行高级机器学习工程师托马斯·格拉夫 (Thomas Graf) 介绍，德意志银行的计算机工程师最近使用最新的自然语言处理模型重建了名为“黑森林”的可疑交易检测系统。该工具会查看交易量、货币和目的地等交易标准，并自动从大量数据中学习哪些模式表明存在欺诈行为。该模型可用于零售和企业交易，并且已经发现了多起案件，其中包括一起涉及有组织犯罪、洗钱和逃税的案件。
富国银行彻底改革了技术系统，以应对人工智能生成的视频和语音的风险。 “我们对我们的软件和员工进行培训，以便能够识别这些假货，”富国银行数字技术主管 Chintan Mehta 说道。但该系统需要不断发展以跟上犯罪分子的步伐。当然，检测诈骗是要花钱的。
公司面临的一个问题是：每当他们收紧政策时，犯罪分子就会试图找到解决方法。例如，一些美国银行要求客户在注册账户时上传身份证件照片。诈骗者现在在暗网上购买被盗数据，从社交媒体上查找受害者的照片，并使用 3D 打印面具来使用被盗信息创建假身份证。帮助银行、金融科技公司和其他企业打击欺诈的 Plaid Inc. 身份识别主管 Alain Meier 表示：“从万圣节商店买到的东西到好莱坞标准的极其逼真的硅胶面具，这些东西看起来很像各种东西。”及其身份验证软件。 Plaid 分析皮肤纹理和半透明度，以确保照片中的人看起来真实。
迈尔的职业生涯致力于侦查欺诈行为，他表示，最好的欺诈者将他们的计划作为企业来运营，他们会构建诈骗软件并将其打包在暗网上出售。价格从 20 美元到数千美元不等。 “例如，它可能是一个 Chrome 扩展程序，可以帮助你绕过指纹识别，或者可以帮助你生成合成图像的工具，”他说。
随着欺诈变得越来越复杂，谁对损失负责的问题变得越来越有争议。例如，在英国，未知交易的受害者（例如，有人复制并使用您的信用卡）受到法律保护，免受损失。如果有人诱骗您付款，责任就不太明确。 7月，该国最高法院裁定，一对被骗向国外汇款的夫妇不能仅仅因为遵循他们的指示而让银行承担责任。但立法者和监管机构还有制定其他规则的余地：政府正准备要求银行在通过快速支付（一种在英国银行之间汇款的系统）转移现金时向欺诈受害者进行赔偿。其他国家的政治家和消费者权益倡导者也在推动类似的变革，他们认为期望人们认识到这些日益复杂的骗局是不合理的。
银行担心改变规则只会让欺诈者更容易得逞。世界各地的金融业领导者也试图将部分责任推给科技公司。增长最快的诈骗类别是投资欺诈，通常通过搜索引擎向受害者介绍，诈骗者可以轻松购买赞助广告位。当潜在投资者点击时，他们经常会找到现实的招股说明书和其他财务数据。一旦他们转移了资金，可能需要几个月甚至几年的时间才能意识到当他们试图从“投资”中获利时被骗了。
6 月，英国 30 家贷款机构致信首相里希·苏纳克 (Rishi Sunak)，要求科技公司为因其平台造成欺诈的受害者提供退款。政府表示正在计划制定新的立法和其他措施来打击在线金融诈骗。
银行业正在游说更广泛地分散责任，部分原因是成本似乎在上升。同样，一个常见的经济学问题也适用于诈骗经济。就像工厂的污染一样，新技术正在产生外部性，或者强加给他人的成本。在这种情况下，诈骗的范围和风险都会增加。银行和消费者都不想成为唯一被迫付出代价的人。
克里斯·希恩 (Chris Sheehan) 在加入澳大利亚国民银行有限公司 (National Australia Bank Ltd.) 之前，在该国警察部队工作了近三十年，负责调查和欺诈工作。去年，在银行的持续投资下，他的团队增加了约40人。当他把所有员工和技术成本加起来时，“这个数字有多大让我感到害怕，”他说。
“我充满希望，因为有技术解决方案，但你永远无法完全解决问题，”他说。这让他想起了自己作为警察打击贩毒团伙的时光。他说，将其描述为一场禁毒战争是“一个巨大的错误”。 “我永远不会在反诈骗战争的框架中表达它，因为这意味着战争是可以获胜的，”他说。 “这不是赢不了的。”
