日期:2023-05-23 12:30:14 来源:华夏时报
近期,"AI换脸"新型诈骗频发。和你视频对话的可能不是本人!
就在AI技术大爆发的当下,高科技犯罪手段也随之更新。近日,一种利用AI换脸技术实施诈骗的手法逐步浮出水面。而AI技术加持下的骗局,成功率接近100%!
(资料图片仅供参考)
一民企负责人10分钟被骗430万元
近日,包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件,详细记录了一位民营企业负责人被骗的过程。
福州市某科技公司法人代表郭先生的好友,突然通过微信视频联系到他。
两人经过短暂聊天后,好友告诉郭先生,自己的朋友在外地投标,需要430万元保证金,且需要公对公账户过账,所以想要借用郭先生公司的账户走一下账。
好友向郭先生要了银行卡号,声称已经把钱打到郭先生的账户上,还把银行转账底单的截图通过微信发给了郭先生。
基于视频聊天信任的前提下,郭先生没有核实钱是否到账,先后分两笔把430万元给对方打了过去。
钱款转账后,郭先生给好友微信发了一条消息,称事情已经办妥。但让他没想到的是,好友回过来的消息竟然是一个问号。
郭先生拨打好友电话,对方说没有这回事,他这才意识到竟然遇上了"高端"骗局,对方通过智能AI换脸技术,佯装成好友对他实施了诈骗。
很快,这笔钱一到账,就被骗子转账出去。
好在这位民企负责人是幸运的。包头市警银联动,成功紧急止付涉嫌电信诈骗资金330多万元。剩下93.16万元,资金流出信息,也为深入突破该案剩余资金查找提供了突破方向。
目前,福建警方与包头警方对此资金正在全力追缴当中。
AI诈骗成功率接近100%
"从头到尾都没有和我提借钱的事情,就说会先把钱给我打过来,再让我给他朋友账户转过去,而且当时是给我打了视频的,我在视频中也确认了面孔和声音,所以才放松了戒备。"郭先生说。
很明显,郭先生陷入了一场利用AI换脸技术实施的诈骗骗局。
什么是AI换脸?就是通过AI人工智能技术,把别人的脸换成自己的脸,而且脸部表情自然,效果逼真。
整个过程你只需要通过一张照片,然后利用AI技术可以在软件上使用自己的照片替换电视剧或者小视频中的人物,从而生成以自己为主角的视频。
这种技术的发展,竟然成为了新型诈骗手段。骗子会利用AI技术,将他人的脸换成指定人的脸,冒充诈骗对象的亲人、朋友等重要关系人,通过合成视频或照片来"以假乱真"。
值得注意的是,骗子不是漫无目的地广撒网,而是别有用心地锁定诈骗对象。
他们会分析诈骗对象在网络平台发布的个人信息,根据所要实施的骗术利用AI技术对人群进行筛选,从而选出目标对象,制定诈骗计策。
警方提醒:涉及转账、汇款等情况时,务必要通过多方渠道核实并确定对方身份。建议将到账时间设定为"2小时到账"或"24小时到账",以预留处理时间。
迪丽热巴、杨幂直播卖货?假的!
除此之外,AI实时换脸,也正在直播间悄然出现。
"点进直播间一看,‘迪丽热巴’居然在直播卖货。"近日,有网友点开直播间,却发现正在卖货的竟是当红女星。然而再定睛一看,这些带货"明星"很快露出了马脚——身穿中式服装,正在卖力带货的"明星"们,其实只是使用了AI实时换脸技术的普通主播。
"一开始只是以为长得像,没想到刷进去好几个直播间都这样,才发现是用了‘换脸’。"路垚(化名)向中新财经表示,近期她被推送的好几个直播间,都采用了AI换脸明星的方式进行直播带货,而杨幂、迪丽热巴、angelababy等当红女星,成为了AI换脸的重点对象。
"向平台投诉了也没什么用。"她说。
中新财经注意到,目前的AI实时换脸,在直播中已能达到以假乱真的地步,不少人点进直播间以后以为主播只是长得像明星,不过也有一些直播间出现了人身比例失调的违和现象。有网友指出了其中一些破绽:"主播低头整理头发的时候,脑门上全是黑的。"
某直播间内,一名主播正在进行"换脸"带货。
"现在普通人的脸已经不配直播了。"有网友如此感慨。
对于竞争火热的直播间来说,"高颜值"是主播的重要资本之一,而使用"明星脸"直播,或许可以更好达到引流效果,并节省直播成本。此外,使用统一的"换脸"形象,也使直播间降低了主播走红后"单飞"带来的风险。
但不少网友也对"换脸"表示了反感:"发现是‘换脸’直播后,就失去了购买的欲望。"
AI实时换脸全套模型仅需3.5万元
随着AI技术的不断进步,AI实时换脸已逐渐成熟。近年来,AI实时换脸已从最初的娱乐"整活",向直播等多个应用场景发展。通过智能后台的AI换脸技术,主播可以实现形象的实时替换。
有视频换脸研究者表示,实时换脸不存在延迟,也不会有Bug,而直播画面传输的延迟则取决于使用者的网络配置和进行直播的平台。
中新财经以使用者的身份咨询了一家提供"换脸软件"的网站。该网站客服表示,使用AI换脸需要进行模型训练。"合成效果好不好,关键看模型和素材。"
据提供"换脸软件"的网站介绍,使用者自己从零开始训练模型,如果24小时挂机不停的训练模型,需要经过半个月到一个月的时间,才能达到可以合成视频的效果。
而比起自己花费大量时间训练模型,更多人选择购买现成的模型。"素材充足的话,你只要花费半个小时到几个小时的时间就可以直接合成视频。模型可以替换任意素材使用,不分张三李四。"
该网站客服称,他们提供的全套模型购买价格为3.5万元,AI实时换脸可适用于各大直播平台。
标签: