认为这是你的孩子在打电话要钱?这可能是一个语音Deepfake

克隆一个人的声音比以往任何时候都容易。研究人员已经能够在短短5秒的录音中克隆出声音。Artem Oleshko /伤风"width=
克隆一个人的声音比以往任何时候都容易。研究人员已经能够在短短5秒的录音中克隆出声音。Artem Oleshko /伤风

在漫长的一天工作结束后,你刚刚回到家,正准备坐下来吃晚饭,突然你的手机开始嗡嗡作响。电话的另一端是你所爱的人,可能是父母、孩子或儿时的朋友,请求你立即给他们寄钱。

你问他们问题,试图理解他们。他们的回答有些不对头,要么含糊不清,要么不符合他们的性格,有时还有一种特殊的拖延,就好像他们思考得有点太慢了。然而,你很确定那绝对是你所爱的人在说话:你听到的是他们的声音,是他们的声音来电显示显示了他18新利最新登入们的数量。由于他们的恐慌,你尽职地把钱寄到他们提供给你的银行账户。

广告

第二天,你打电话给他们,确保一切都好。你爱的人根本不知道你在说什么。那是因为他们从来没有给你打过电话——你被技术欺骗了:一个语音deepfake。成千上万的人在2022年被骗了

作为计算机安全研究人员,我们看到,深度学习算法、音频编辑和工程以及合成语音生成的不断进步,意味着越来越有可能做到这一点逼真地模拟一个人的声音

更糟糕的是,聊天机器人喜欢ChatGPT开始生成具有自适应实时响应的真实脚本。通过将这些技术与语音生成相结合在美国,deepfake从静态录音变成了逼真的真人化身,可以令人信服地进行电话交谈。

广告

克隆声音

制作一个引人注目的高质量深度赝品,无论是视频还是音频,都不是一件容易的事情。这需要丰富的艺术和技术技能,强大的硬件和相当大的目标声音样本。

有越来越多的服务提供制作中等到高质量的声音克隆收费,一些语音deepfake工具需要一个样本只有一分钟,甚至就几秒钟制造出一个足以骗过某人的声音克隆。18新利最新登入然而,要说服一个心爱的人——例如,在一个模仿骗局中使用——可能需要更大的样本。

广告

防范骗局和虚假信息18luck手机登录

说了这么多,我们在DeFake项目罗切斯特理工学院、密西西比大学和密歇根州立大学的研究人员,以及其他研究人员正在努力检测视频和音频深度造假,并限制它们造成的伤害。你也可以采取一些简单的日常行动来保护自己。

首先,语音网络钓鱼在日常生活中,无论是在工作中还是在家里,像上面描述的这样的骗局是你最可能遇到的语音深度伪造。2019年,一家能源公司被骗走24.3万美元犯罪分子模仿母公司老板的声音,命令一名员工将资金转移给供应商。在2022年,人们是这样的被骗走了大约1100万美元通过模拟声音,包括那些亲密的个人关系。

广告

你能做什么?

要留意那些不速之客的电话,即使是来自你很熟悉的人。这并不是说你需要安排好每个电话,但至少提前发邮件或短信会有帮助。另外,不要依赖来电显示,因为这也是可以伪造的.例如,如果你接到一个自称代表你的银行的人打来的电话,那就挂断电话,直接给银行打电话,以确认电话的合法性。请务必使用您已经写下的号码,保存在您的联系人列表中或可以在谷歌上找到。

此外,要注意你的个人身份信息,比如你的社会保险号、家庭地址、出生日期、电话号码、中间名,甚至你孩子和宠物的名字。18luck手机登录骗子可以利用这些信息在银行、房地产经纪人和其18luck手机登录他人面前冒充你,在让你破产或破坏你的信用的同时中饱私囊。

这里还有一条建议:了解你自己。具体来说,要了解自己在智力和情感上的偏见和弱点。总的来说,这是一个很好的生活建议,但它是保护你自己不被操纵的关键。骗子通常会试图弄清楚你的财务焦虑,你的政治爱好或其他倾向,无论这些是什么。

这种警觉性也可以很好地防御使用语音深度伪造的虚假信息。18luck手机登录深度造假可以用来利用你的确认偏误,或者你倾向于相信某人。

如果你听到一个重要的人,无论是来自你的社区还是政府,说了一些对他们来说非常不寻常的话,或者证实了你对他们最坏的怀疑,你会明智地保持警惕。

马修·赖特罗彻斯特理工学院计算机安全教授。他获得了奈特基金会、迈阿密基金会、国家科学基金会和深度造假相关分析科学实验室的资助。

克里斯托弗·施瓦兹罗彻斯特理工学院计算机安全博士后助理研究员。他是DeFake项目的博士后研究员,该项目获得了奈特基金会、迈阿密基金会、国家科学基金会和分析科学实验室的资助。

本文转载自谈话在创作共用许可下你可以在原文在这里。

广告

特色

广告

加载……
Baidu