今天，分享一篇“妈妈，我撞死了一名美国外交官！”骗子盯上AI技术，克隆声音实施诈骗，希望以下“妈妈，我撞死了一名美国外交官！”骗子盯上AI技术，克隆声音实施诈骗的内容对您有用。
尽管诈骗有多种形式，但本质上工作方式是一样的：骗子冒充值得信任的人——孩子、爱人或朋友，并说服受害者给他们汇款。但是，AI——特别是2023年爆火的生成性人工智能生成的语音使这一诡计更加令人信服。近日，外国受害者们报告说，当听到“亲人”在电话那头呼救时，他们的第一反应是陷入了“发自内心的恐惧”。
“我们坚信自己是在和孙子说话”
在加拿大萨斯喀彻温省，73岁的卡德和她75岁的丈夫格雷斯冲进银行，取出了3000加元（折合人民币15286元），这是他们能从该银行取款的最高限额。他们马不停蹄地去第二家银行，想要取出更多的钱。这时，一位银行经理询问这对老人发生了什么。老人说，孙子布兰登在监狱里，需要现金保释，“我们现在必须帮助他。”得知声音是伪造的，还有人也受骗，他们才意识到自己上当了。“我们陷进去了，我们坚信自己是在和布兰登说话。”
↑卡德这对老人幸运地遇到了一个对最新骗局有了解的银行经理。
但对于本杰明·佩金来说，警醒为时已晚，他年迈的父母在一场语音诈骗中损失了数千美元。他的父母先是接到一个“律师”的电话，说他们的儿子在一场车祸中撞死了一名美国外交官。接着，“律师”让他们的“儿子”接电话，“儿子”说他爱他们，感激他们，需要钱。
佩金的父母后来告诉他，这个电话似乎很不寻常，但他们无法摆脱这种感觉：我真的在和“儿子”说话。在恐慌的状态下，他的父母冲到几家银行取现金，并通过比特币终端把钱寄给了“律师”。当天晚上，真正的佩金打电话时，他的父母才发现被骗了。
只需30秒原声就能实现声音克隆
据报道，这类骗局已在美国兴起。2022年，“冒名顶替”类诈骗是美国第二大流行的诈骗活动。据美国联邦贸易委员会统计，有超过3.6万份报告称，人们被冒充朋友和家人的骗子诈骗。其中，超过5100起是电话诈骗，总损失超过1100万美元。
而今年人工智能的进步，导致识破这类骗局的难度提升到一个可怕的、新的高度。近期，生成式人工智能（generative artificial intelligence）的进步，刺激了一批公司发布聊天机器人，这些聊天机器人支持基于输入的数据创建文本、图像或声音。骗子利用一系列廉价的在线生成性工具，仅需要几句话的音频样本，就能复制出声音。
美国专家表示，美国联邦监管机构、执法部门和法院都没有足够的能力来控制这一迅速发展的骗局。美国联邦贸易委员会营销实践部门助理主任威尔麦克森表示，追踪语音诈骗者可能“特别困难”，因为他们可能在世界任何地方使用手机。美国身份盗窃资源中心的伊娃·贝拉斯克斯说，执法部门很难追踪到“声音克隆”诈骗犯。
加州大学伯克利分校的数字取证学教授哈尼·法里德说：“这太可怕了。这是一场完美的风暴……两年前，甚至一年前，你需要大量的音频来克隆一个人的声音。现在，如果你录制了一个短视频，你的声音在里面出现30秒，人们就可以克隆你的声音。”法里德认为，如果人工智能公司制造的产品造成伤害，法院应该追究这些公司的责任。
红星新闻记者 王雅林 实习记者 邓纾怡
责编 官莉 编辑 彭疆
