新消息丨AI诈骗成功率100%?防深伪模型“用魔法打败魔法”
2023-05-26 19:35:35 来源:光明网
日前,一条AI诈骗成功率接近100%#的话题冲上微博热搜。一个AI换脸的视频,让福建某科技公司的法人代表在10分钟内就被骗走了430万。
国外也发生了一起AI相关诈骗,一封附上谷歌CEO视频的邮件,让不少YouTube博主们下载了带着危险病毒的文件。
这两起诈骗事件都有着深度伪造技术deepfake的身影。这是一项诞生了6年之久的换脸大法,如今AIGC技术的大爆发,更使得制作难以识别的deepfake视频越来越容易。对人脸识别应用普遍的金融行业来说,防深伪攻击也显得尤为重要。
(资料图)
在金融行业,由deepfake产生的欺诈主要是身份欺诈,即通过深度伪造的虚假图像和视频来冒充他人身份,骗过金融信贷流程中的身份核验系统,进而实施盗刷和恶意注册等。目前,金融行业应对deepfake已有了比较成熟的技术方法和方案,度小满在deepfake应对方法上就积累了丰富的经验。
度小满介绍,近年来利用深伪技术绕过人脸识别流程的趋势有所增长,对金融机构实名认证系统造成了一定的威胁。而要识别认证内容是否造假,最好的办法是交给AI去解决,研发“反deepfake”检测算法。据了解,度小满防深伪检测模型的算法策略就从三个维度入手,有效破解造假视频。
首先是生成瑕疵。具体而言,由于相关训练数据的缺失,deepfake模型可能无法正确渲染部分人类面部特征,小到眨眼频率不正常,大到口型与声音不吻合等。检测模型则能将这些“基本肉眼可见”的特征都提取出来,设计特定的分析算子,从而进行分析研判。
其次是固有属性。由于不同摄像机拥有不同的设备指纹,类似GAN这种模型在生成人脸时也会留下独特的用于识别生成器的指纹,因此经过对比就能发现端倪。
第三个细节是高层语义。它指的是检测面部动作单元(肌肉群)协调性、面部各区域朝向一致性、视频微观连续性等方面的问题,由于这些细节建模困难、难以复制,很容易抓到把柄。
当然,由于单一特征难以适应复杂的deepfake内容,因此检测模型的整体框架采用的是多特征融合,以此来保证决策的鲁棒性。
在数据样本优势之外,度小满还融入了自己的独创点,包括神经网络搜索调优算法、微表情分析和图卷积(GCN)技术以及基于重建的自监督预训练方法,让模型实现了从“鉴伪”到“鉴真”的转变。
也正因此,去年9月度小满防深伪检测模型顺利通过了信通院人脸识别安全专项评测,获得活体检测安全防护能力优秀级认证。具体效果上,它可以覆盖各种深伪形式,包含静态人像图片活化、AI换脸、人脸虚假合成等,达到千分之一误报率下召回90%以上,也就是99%+的准确率。
随着新的deepfake工具不断涌现,金融行业要应对的深伪攻击会更多。度小满认为,未来更多的鉴伪技术应该集中去挖掘语义特征、跨模态特征等,让模型利用可解释性强的高层语义去鉴伪。(柯岩)
关键词:
为你推荐
-
新消息丨AI诈骗成功率100%?防深伪模型“用魔法打败魔法”
-
科博会首场推介聚焦“数字经济”,现场推介三个数实融合平台项目
-
2023数博会开幕在即,北岸控股集团参展首秀抢先看-世界微动态
-
41岁的凯特王妃喜欢将她的服装颜色与场合相匹配给人留下深刻印象|精选
-
恭喜国乒!00后王楚钦11连胜闪耀德班世乒赛,马龙找到接班人!|视焦点讯
-
中国轻纺城:夏季裙装面料局部各有动销|全球聚焦
-
住建部:年底前,地级及以上城市小区垃圾分类覆盖将超九成 全球今日报
-
每日聚焦:定位为紧凑型车 宝骏云朵将于8月上市
-
中信证券:海外宠物经济具备消费韧性 中长期有望稳步增长-当前消息
-
扬州小伙赴宁捐献造血干细胞 传递“生命火种” 每日热议
-
【报资讯】赖文靓:6月或仍以震荡为主 控制仓位高抛低吸滚动操作
-
【全球速看料】上海控江中学附属民办学校官网_上海控江中学
-
我的世界暮色森林九头蛇(暮色森林九头蛇)|焦点速递
-
随时随地免费阅读10万册图书 “山东全民阅读在线”喊你来读书
-
全球快报:1克黄金,便宜100元?!黄金“代购”火了:有代购月入3万起
-
魔法少女的黑色狂想曲_关于魔法少女的黑色狂想曲简述 世界观热点
-
全球球精选!紫花苜蓿草种植方法图片_紫花苜蓿草种植方法
-
今日最新更新内容 信用卡逾期都是怎么处理的 三招轻松搞定
-
饥组词_饥组词有哪些呢
-
今日快讯:揣摩表情包_揣摩
推荐内容
- 新消息丨AI诈骗成功率100%?防深伪模型“用魔法打
- 科博会首场推介聚焦“数字经济”,现场推介三个数
- 2023数博会开幕在即,北岸控股集团参展首秀抢先看
- 41岁的凯特王妃喜欢将她的服装颜色与场合相匹配给
- 恭喜国乒!00后王楚钦11连胜闪耀德班世乒赛,马龙
- 中国轻纺城:夏季裙装面料局部各有动销|全球聚焦
- 住建部:年底前,地级及以上城市小区垃圾分类覆盖
- 每日聚焦:定位为紧凑型车 宝骏云朵将于8月上市
- 中信证券:海外宠物经济具备消费韧性 中长期有望
- 扬州小伙赴宁捐献造血干细胞 传递“生命火种”
- 【报资讯】赖文靓:6月或仍以震荡为主 控制仓位
- 【全球速看料】上海控江中学附属民办学校官网_上
- 我的世界暮色森林九头蛇(暮色森林九头蛇)|焦点
- 随时随地免费阅读10万册图书 “山东全民阅读在线
- 全球快报:1克黄金,便宜100元?!黄金“代购”火
- 魔法少女的黑色狂想曲_关于魔法少女的黑色狂想曲
- 全球球精选!紫花苜蓿草种植方法图片_紫花苜蓿草
- 今日最新更新内容 信用卡逾期都是怎么处理的 三
- 饥组词_饥组词有哪些呢
- 今日快讯:揣摩表情包_揣摩
- 沟通100营业厅地址查询_沟通100网上营业厅官网
- 港交所上市!天津又增一家上市企业|焦点热文
- 当前焦点!一级能效1.5匹的空调一小时耗多少电_空
- 最后的死刑_对于最后的死刑简单介绍 世界今亮点
- 令人惊叹的三星GalaxyWatch6泄漏揭示了粉丝最喜欢
- 葡萄院儿 河边儿店_关于葡萄院儿 河边儿店的简介
- 自行车龙头松动如何调节图解 水减压阀怎么调节图解
- 铜川市天籁社区开展“智慧助老 健康生活”主题宣
- 急!老人将9万元现金遗落在地铁车厢_每日报道
- 搞活“地摊经济” 需找到放管平衡点 独家焦点
- dcm文件用什么软件打开 dcm
- 安徽探索建立行政复议员制度 全球热闻
- 沪指探底回升3200点失而复得 燃气股午后崛起-环
- 环球观热点:早起做饭说说?
- 兄妹四人求助 “一窗通办”解决
- 继浓眉后湖人又一位,得,省钱了 最新消息
- 潮流与战争官网在哪下载 最新官方下载安装地址
- 天天速看:本轮西班牙天气非常诡异,有的地方狂风
- 天天微头条丨鼻咽炎吃什么药好得快_鼻炎咽炎吃什
- 世界快消息!湖北荆门发布枯水蓝色预警 395座水
油气
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
经济
-
中新网通辽10月18日电 (记者 张林虎)18日,记者从内蒙古自治区通辽市奈曼旗公安局获悉,国家一级保护动物--梅花鹿误入当地村民羊群,
-
中新网杭州10月18日电 (王题题 胡燕婕)云天收夏色,浅秋正渐浓。10月18日,浙江杭州市西湖游船有限公司推出的惠民多站点“西湖环湖游
-
中新网福州10月18日电 (记者 龙敏 王东明)福州市晋安区官方18日晚间通报,18日14时47分,晋安区岳峰镇化工路爱摩轮商业广场项目摩天
-
中新网兰州10月18日电 (闫姣 艾庆龙 吉翔)“红山白土头,黄河向西流。”不少人疑问,天下黄河向东流,为何甘肃永靖县这段黄河却向西
-
中新网北京10月18日电 《清华城市健康设施指数》18日在北京发布。报告成果显示,城市健康设施指数领先城市以中心城市和东部沿海城市