1/0
外滩大会|填补行业空白,金融领域 “AI 换脸”检测标准发布
东方网2024-09-07 14:46:30

东方网记者柏可林9月7日报道:在本届外滩大会上,《虚假数字人脸检测金融应用技术规范》标准(下称《标准》)正式发布。标准规定了金融领域虚假数字人脸检测服务的功能要求、技术要求、性能要求等,并提出了对应的测试评估方法。这是国内首个面向金融场景的“AI换脸”检测标准,为金融场景下的虚假数字人脸安全检测和评估提供了依据,也填补了这一领域的空白。

记者了解到,该标准在中关村金融科技产业发展联盟组织下,由蚂蚁天玑实验室和工商银行、建设银行、邮储银行、中信银行、北京国家金融科技认证中心、中关村互联网金融研究院、网商银行、北京前沿金融监管科技研究院等十几家机构共同撰写。

《标准》在“功能”和“性能”两方面作出了具体规定。功能层面,相关机构应具备替换、活化、深度伪造等五种情况下的虚假数字人脸检测功能。性能层面,相关机构应建立不少5000张的真实数字人脸数据集,和不同伪造形式的虚假人脸数据集,以应对现实生活中的复杂场景。例如不同肤色、不同光线条件、不同清晰度、包含或不包含语音等都是重要维度。据了解,标准的各项条款均在蚂蚁天玑实验室完成了试验验证,并且天玑实验室已经开展了面向金融机构“AI换脸”检测能力的测试评估服务。

此外,《标准》也明确虚假数字人脸内容检测服务性能将从准确性、鲁棒性、泛化性、响应速度等四个维度进行评估,考察机构是否具备完整的、高准确度、高性能的检测水平。据了解,在刚结束的外滩大会AI创新赛·全球Deepfake攻防挑战赛上,正是应用了此标准的框架和指标,进行赛题的制定和答案的评价。

近两年,随着人工智能技术的飞速发展,深度伪造技术(Deepfake)也日益成熟,它在给社会带来便利的同时,也带来了前所未有的安全挑战。特别是金融行业,人脸识别技术作为身份鉴别的重要手段,其安全性直接关系到金融交易的安全与用户资金的安全。然而,一些不法分子利用人工智能技术制造虚假数字人脸,企图绕过安全机制,给金融安全带来了严重的威胁。该标准的出台有望指导金融行业及相关机构提升识别虚假数字人脸安全能力,防范相关金融风险。

作者:柏可林
选稿:周玮
知识产权、免责声明以及媒体合作联系
继续了解
知识产权声明

【知识产权声明】

除本司(指上海东方网股份有限公司)另行声明外,本司网页及客户端产品(以下简称“本网”),包括但不限于东方新闻、翱翔、东方头条等,所涉及的任何资料(包括但不限于文字、图标、图片、照片、音频、视频、图表、色彩组合、版面设计、商标、商号、域名等)的知识产权均属本司和资料提供者所有。未经本司书面许可,任何人不得复制、转载、摘编、修改、链接、镜像或以其他任何方式非法使用东方网的上述内容。对于有上述行为者,本司将保留追究其法律责任的权利。

东方网、东方新闻、翱翔,以上均为本司享有权利之合法商标,未经本司书面授权,任何单位或个人不得使用上述商标,或将上述商标用作网站、媒体名称等。

【免责声明】

1、凡本网注明来源“东方网”或“东方新闻”或带有东方网LOGO、水印的所有内容,包括但不限于文字、图片、音频视频,版权均属本司所有,任何媒体、网站或其他任何形式的法律实体和个人未经本司书面授权均不得转载、链接或以其他方式复制传播。与我司签订有关协议或已经获得本司书面授权许可的媒体、网站或其他任何形式的法律实体和个人,应在授权范围内使用,且必须注明来源“东方网”。其目的在于传递更多信息,并不意味着本司赞同其观点或认可其内容的真实性。如果其他媒体、网站或其他任何形式的法律实体和个人使用,必须保留本司注明的“稿件来源”,并自负全部法律责任。如擅自篡改为“稿件来源:东方网”,本司将依法追究责任。

2、擅自使用东方网名义转载不规范来源的信息、版权不明的资讯,或盗用东方网名义发布信息,设立媒体账号等,本司将依法追究其法律责任。

3、鉴于本网发布主体、发布稿件来源广泛,数量较多,如因作者联系方式不详或其他原因未能及时与著作权拥有者取得联系,或著作权人发现本网转载了其拥有著作权的作品时,请主动来函、来电与本司联系,或与本司授权的中国文字著作权协会联系,提供相关证明材料,我方将及时处理。
中国文字著作权协会联系方式:
联系人:赵洪波 唐亚静
地 址:北京西城区珠市口西大街120号太丰惠中大厦1027-1036室
联系电话:010-65978917
邮 箱:wenzhuxie@126.com

4、本网所有声明以及其修改权、更新权及最终解释权均属本司所有。

【媒体合作】

本司为尊重保护著作权,鼓励有益于社会主义精神文明、物质文明建设的作品的创作和传播,促进互联网良性发展,本着平等互惠、资源共享的原则,诚邀各类媒体、网站、单位、个人与本网建立友好的合作关系。
媒体合作、内容转载请联系
联系人:杨老师
联系电话:021-22899781