千万别信!AI模仿亲人求援 美国老人遭骗上万元

中国日报
2023 03-06 07:36
关注

图片来源chinesedaily,版权归原作者所有



人工智慧(AI)发展越来越成熟,一旦被有心人士拿去做坏事,就更难破解。目前许多诈骗是歹徒冒充一般民众的家人,声称遇到突发状况而急需现金;这个把戏其实不难识破,不过,北美近来出现这个手法的升级版,是利用AI仿声向家属求援,由于音色更相近、更逼真,民众更容易掉入陷阱。


《华盛顿邮报》5日报导,加拿大萨斯喀彻温省(Saskatchewan)的73岁卡德奶奶(Ruth Card)某天接到电话,对方的声音听起来极像她的孙子布兰登(Brandon)。这个「布兰登」向奶奶哭诉说他被捕了,身上没有手机或钱包,急需现金保释。

卡德奶奶一听不得了,「那声音听起来真的……充满恐惧,我们非得马上把他救出来不可」,于是她和75岁丈夫格雷斯(Greg Grace)立刻冲去银行领钱。由于每间银行单日提款上限是3000加元(约6.7万元台币),他们在第一家银行领了钱,匆匆赶去下一家。


第二家银行的经理听闻,连忙带他们进办公室,私下告诉他们:不久前才有另一个客户也接到类似的电话,后来发现那极似家人的声音是AI伪造的,电话那头的人可不一定是他们的孙子。这时,卡德奶奶和格雷斯爷爷才惊觉,他们可能被骗了,「我们真的陷进去,觉得自己是在跟布兰登讲话」。

《华邮》报导指出,AI科技现在让歹徒仿声变得更简单、成本更低,成为新的犯罪趋势,民众更容易上当,受骗者通常是老人,对家人的挂念总是使他们成为诈骗份子眼中的肥羊。受害者说,听见家人的声音说著自己有难,当下就会心生恐惧。


据美国联邦贸易委员会(FTC),2022年,美国冒名诈骗的案件通报超过3.6万件,其中5100件是电话诈骗,民众受骗金额共超过1100万美元。

要模仿你的声调,30秒就够了

透过进步的AI技术,短短几句话就可以让歹徒撷取网路上其他人的音讯来制造仿声,接着只要透过线上工具,电脑就能用这段仿声说出任何歹徒输入的台词。

加州大学柏克莱分校数位鉴识科学教授法力德(Hany Farid)说:「两年前,甚至一年前,要复制一个人的声音需要大量音档,现在,只要你在脸书或TikTok里讲话讲个30秒,别人就能复制你的声音。」


法立德解释,AI仿声软体可以分析出一个人的声调中有何特点,例如年龄、性别和口音,然后从庞大资料库里搜出相似的声音、及可预测的语言模式。

如此一来,AI就能重制一个人的音色、音调和个人发音习惯,创造出大致相近的听觉效果。而原版声音的来源可以从很短的音讯里撷取,例如YouTube、podcasts、TikTok、Instagram或脸书上的任何影音。

仿制声音的成本不高。去年才成立的美国新创公司ElevenLabs,其仿声软体每个月价格介于5至350美元之间,价格越高,可以仿制的声音越多,有时还有免费试用。


ElevenLabs不光彩地爆红了,因为其软体被民众恶作剧,拿去仿制名人的声音,让他们说出一些不曾说过的话,例如用《哈利波特》里饰演「妙丽」的演员艾玛华森(Emma Watson)声音朗读一段希特勒的自传《我的奋斗》。ElevenLabs表示,会努力加强安全管理,防止仿声技术被滥用。

但是这些安全管理可能为时已晚,至少对受害者而言是如此。声音被诈骗集团仿制的39岁加拿大男子柏金(Benjamin Perkin)说,他那年老的爸妈就是这样被骗了上万美元。

电话诈骗追查难,警方宁愿将资源放在可能破案的事情上


柏金的父母某天接到一名自称是律师的人来电,说柏金撞死了一个美国外交官而被捕了,需要保释金;律师接着把电话塞给「柏金」,这个柏金一面乞求爸妈帮忙,一面说著「我爱你们」。就这样,他爸妈汇了2.1万加元(约47万元台币)到一个比特币帐户里,等到真正的柏金那天晚上打电话给爸妈时,爸妈彻底傻眼。

柏金不知道自己的声音是在那里被撷取的,不过,他曾经在YouTube上传一段影片大聊自己的雪上摩托车嗜好。柏金的爸妈则说,接到假柏金电话时,确实觉得那声音听起来有一点点奇怪,但实在无法摆脱那种「真的在跟儿子讲话」的感觉。


柏金家被骗走的钱至今没有追回。柏金也放弃了:「钱没了。保险也不会理赔这种事。拿不回来的。就是没了。」

美国联邦贸易委员会营销实务处(Division of Marketing Practices)助理主任麦克森(Will Maxson)表示,要追查仿声诈骗很难,因为歹徒可能在全世界任何一个角落打电话,连管辖权在哪一国都很难确定。

麦克森说,如果接到家人打来要钱的电话,应该先尝试自己另外打电话给那名家人;即使来电显示是自己的家人,这也有可能是诈骗。绝对不要帮买储值卡或进行储值,对于任何讨要现金的电话都应该提高警觉。


非营利组织「身分窃盗资源中心」(Identity Theft Resource Center)执行长维拉奎兹(Eva Velasquez)曾任职加州圣地牙哥检察官办公室,调查诈欺案有21年经验;她表示,执法单位很难追查到仿声诈骗犯,因为警方可能根本没钱、也没专业人力来追踪这种诈欺事件。
近 31 日
0 次瀏覽
本訊息有 0 則查核回應
目前沒有已撰寫的回應,建議對其抱持健康的懷疑。
加 LINE 查謠言
加 LINE 查謠言
LINE 機器人
查謠言詐騙