请先关注 [低调大师] 公众号 优秀的自媒体个人博客,低调大师,许军

低调大师

您现在的位置是:首页>文章详情

文章详情

欺诈团伙采用深度伪造语音技术欺诈了银行3500万美元的资金

2021-10-19 29热度

根据《福布斯》获得的一份法庭文件披露的信息,一个欺诈团伙利用音频深度伪造技术克隆了一家企业董事的声音,将3500万美元的资金转移到几个海外账户。这是迄今为止最成功的“deep voice” 欺诈案,尽管这可能只是这样的案例日益增长趋势的一部分。

深度伪造(Deepfake)技术可以训练人工智能系统来模仿某人的面孔,通常是演员或其他知名人士的面孔。然后,人工智能技术可以制作动画并将其面孔粘贴到视频中,从而将克隆的对象插入到场景中。

但是不能只是他们的影像放在视频中,还要伪造他们的声音。这就是音频深度伪造发挥作用的地方,可以训练人工智能技术来模仿某人的声音,然后以其声音说出内容。

专家认为,一旦深度造假技术达到一定的水平,将推动一个充满错误信息、骚扰和蹩脚电影的新时代。

在2020年,阿联酋的一名银行经理接到了一家大公司董事的电话。该董事声称其所在的公司正在进行一项大型收购,所以要求这家银行授权向美国的几个账户转账3500万美元。他表示已经发送一封来自律师的电子邮件来确认这笔转账,由于一切看起来都是合法的,银行经理确认了这笔转账。

但这家公司的“董事”实际上是一个经过训练的“deep voice”算法,听起来就像他的声音。阿联酋有关部门目前正在寻求美国警方的帮助,以追回丢失的这些资金。据悉,这些资金被17名或更多的欺诈者转移到他们在全球各地的账户上。

这并不是Deepfake实施的第一次欺诈和抢劫,但却是迄今为止最成功的一次。类似的事件显然将来还会发生,而且规模可能会大得多。那么企业和政府能做些什么来减轻威胁呢?很难说。

因为Deepfakes技术仍在不断改进,最终会变得更强大,以至于人类无法正确识别。但经过训练的人工智能可能识别出深度伪造的行为,因为克隆受害者的面孔和声音往往包含一些错误,例如数字噪音或人类不可能发出的一些声音。

收藏 (0)

相关文章

    文章评论

    共有0条评论来说两句吧...