双“法”齐下破解AI诈骗难题
来源: 科技日报 作者: 发布时间: 2023-06-02

这几天,AI换脸诈骗的话题引发社会关注。

包头警方近日发布一起利用AI实施电信诈骗的典型案例。有骗子通过AI换脸和拟声技术佯装好友,对福州市某科技公司法人代表郭先生实施诈骗,在视频聊天“核实”对方身份后,郭先生10分钟内被骗子骗走430万元。

那么,如何判断AI诈骗,有哪些方法和手段可以防范AI诈骗?5月底,科技日报记者采访了相关专家。

AI换脸诈骗让人难以分辨

AI诈骗就是利用AI技术,模仿、伪造他人的声音、面孔、视频等信息,进行欺骗、敲诈、勒索等的犯罪活动。北京邮电大学信息与通信工程学院副教授路兆铭告诉科技日报记者,骗子会通过拨打骚扰电话等方式,录音提取诈骗对象及其重要关系人的声音特征,再利用AI技术进行语音合成,使诈骗对象放松警惕,进而用伪造的声音实施诈骗。

“而人脸效果更易取得对方信任,骗子用AI技术换脸,可以伪装成任何人。”路兆铭表示,骗子会利用AI技术,将他人的脸换成指定人的脸,冒充诈骗对象的亲人、朋友,通过合成视频或照片的方式来“以假乱真”,扰乱诈骗对象的视线,进而实施诈骗。

安天移动安全副总经理彭智俊在接受科技日报记者采访时表示,由于AI诈骗具有高度逼真、难以追踪、针对性强、手段多样的特点,受害者往往难以分辨真假,从而降低警惕。同时,犯罪分子隐匿在网络的阴暗角落,这也给警方侦破带来困难。

问题治理关键在“法”

面对AI技术滥用风险,如何整治AI诈骗,防止AI作恶?

关键在一个“法”字。这个“法”既包括科学技术方法的应用,也包括刚性治理的法律法规。

在科学技术方面,打击电信网络诈骗的科技装备发展迅速。例如,由厦门市美亚柏科信息股份有限公司研发的“AI-3300慧眼视频图像鉴真工作站”,不仅能鉴定利用传统伪造手段篡改的影像,而且对利用深度伪造技术进行了换脸、美颜、生成人脸、同图或异图复制篡改的影像也能够进行鉴定,可以为公安、司法行业提供技术支持。

而在法律法规方面,2022年12月,《互联网信息服务深度合成管理规定》发布,对人脸生成、替换、操控,合成人声、仿声等都进行了明确约束。该项规定发布实施后,此前一款主打AI换脸的App在被监管部门约谈后进行下架处理,处理原因为“如此换脸侵犯了公民的肖像权”。

需注意不自然的细节

“对于普通百姓而言,AI诈骗也不是完全‘防不胜防’,这需要大家有甄别的‘慧眼’。”彭智俊告诉科技日报记者,虽然AI生成的语音和表情已经相当逼真,但仍然可能存在一些不自然的细节。具体细节包括AI生成语音的节奏、音高变化和AI生成图像的面部表情过渡等,这些细节均与原始视频有较大的差别。

进行判断与甄别的技巧有很多。彭智俊表示,在视频通话的过程中,用户可以让对方展现全身特征,再观察人脸是否出现消失或特殊变化,以检测是否存在面部置换的可能性。用户还可以让对方用一张白纸在脸前缓慢晃动,观察是否出现闪烁现象,以此判断是否可能存在换脸现象。

“无论多厉害的骗局,归根结底都是用欺诈的手段获取对方信任,以谋取公私财物。对于个人来说,多方验证、确认身份,才能避免和防范骗局的发生。”路兆铭表示,尤其是在涉及金钱、财产和隐私等重要事项时,更要小心谨慎,可要求对方提供更多证据、进行更多交流,并核实其身份和回答的准确性,以排除AI技术欺骗的可能。

公众在平时要有警惕高风险行为的意识。对于紧急转账、提供大额保证金或其他不寻常要求,要保持警惕,并仔细核实真实性。路兆铭提醒,不要被高额回报或紧迫情况迷惑。在不能确定真实身份时,要格外留意、不要着急汇款,避免上当受骗,同时,建议将到账时间设定为“2小时到账”或“24小时到账”,以预留处理时间。


地方动态

《中国城市产业营商环境发展报告2022》正式发布

2023年第十七届iCAN大学生创新创业大赛全国总决赛在北京奥林匹克塔成功举行

中国信息协会王金平会长一行赴国家信息中心拜访交流

中国信息协会第七届会员代表大会暨第七届理事会第一次会议在京召开 王金平当选中国信息协会会长

  • 协会要闻
  • 通知公告