1/4
探“真”访谈:世界人工智能大会上,参观者被造了张“假脸”,怎么办?
上观新闻2024-07-06 15:56:00

“黑客”拿着摄像头,拍下一张参观者的照片。10几秒过后,出现了参观者“护照照”“明星照”“生活照”等不同风格照片;接着,又生成了一段带有抬头、转头、张嘴、眨眼等动作的视频,几乎与真人视频无异。然后,“黑客”试图利用这段视频,解开参观者所使用的人脸识别密码……

“AI造脸”吸引很多体验者(作者摄)

AI只花10几秒钟就生成不同形式的照片以及动态视频,真假难辨(作者摄)

在2024世界人工智能大会的展会上,一项名叫“谍影重重”的深度造假(Deepfake)互动体验吸引了众多参观者,排队等候生成“假脸”。面对短时间生成的数字形象,尤其是动态的视频形象,很多体验者连呼“太像了”。不过,“黑客”使用视频形象解锁“人脸识别”时,反深度造假平台ZOLOZ提示,视频涉嫌深度造假,解锁不成功。

同样是利用人工智能技术,AI制造的假脸视频被识破(作者摄)

“我们希望通过这一互动,让大家了解深度造假,不要轻信各种视频、图像。同时,呼吁更多的应用者和研发者关注深度造假,用技术手段降低风险。”展台工作人员介绍,随着人工智能的发展,“AI换脸”的水平越来越高,几乎真假难辨。但针对性的技术研发,有机会“用魔法打败魔法”。在“谍影重重”互动中,ZOLOZ能识别出视频造假,正是应用了人工智能:对用户面部动态进行细致入微的分析,捕捉微表情、肌肉纹理、眼神流转等细微特征,判断其是否为真人实时互动。目前,相关技术已经应用在金融等领域。

用人工智能技术从细节判断真伪(AI制图)

人工智能治理是今年世界人工智能大会的重要议题,而防范人工智能造假,具有很强的现实意义。申城好网民专家、中国网安协会数据安全专家、上海临港数据评估有限公司总监宗良介绍,以往的造假以文字编造、图片编辑(PS)、视频剪辑等居多。但基于生成式人工智能,出现了“文生文”“文生图”“文生视频”“图生视频”等造假方式,“以假乱真”的现象愈发普遍,还被不法分子利用,比如香港警方披露的、涉案金额高达2亿港元的“AI多人换脸”诈骗案等。

面对新的造假方式,公众要提高警惕,不轻信网络上的视频和图像。同时,若在视频通话中觉得可疑,可以让对方摸脸、按鼻子,或者主动切换成方言对话,增加AI造假的难度,导致AI造假露出破绽,从而鉴别真伪。

此外,公众要注意保护个人隐私。现场的体验让大家看到,一张照片就能生成真假难辨的动态“假脸”,这说明,每个人都要保护好自己的信息,包括面部信息、静态照片等,避免被不法分子利用。

作者:任翀
选稿:费一妍
知识产权、免责声明以及媒体合作联系
继续了解
知识产权声明

【知识产权声明】

除本司(指上海东方网股份有限公司)另行声明外,本司网页及客户端产品(以下简称“本网”),包括但不限于东方新闻、翱翔、东方头条等,所涉及的任何资料(包括但不限于文字、图标、图片、照片、音频、视频、图表、色彩组合、版面设计、商标、商号、域名等)的知识产权均属本司和资料提供者所有。未经本司书面许可,任何人不得复制、转载、摘编、修改、链接、镜像或以其他任何方式非法使用东方网的上述内容。对于有上述行为者,本司将保留追究其法律责任的权利。

东方网、东方新闻、翱翔,以上均为本司享有权利之合法商标,未经本司书面授权,任何单位或个人不得使用上述商标,或将上述商标用作网站、媒体名称等。

【免责声明】

1、凡本网注明来源“东方网”或“东方新闻”或带有东方网LOGO、水印的所有内容,包括但不限于文字、图片、音频视频,版权均属本司所有,任何媒体、网站或其他任何形式的法律实体和个人未经本司书面授权均不得转载、链接或以其他方式复制传播。与我司签订有关协议或已经获得本司书面授权许可的媒体、网站或其他任何形式的法律实体和个人,应在授权范围内使用,且必须注明来源“东方网”。其目的在于传递更多信息,并不意味着本司赞同其观点或认可其内容的真实性。如果其他媒体、网站或其他任何形式的法律实体和个人使用,必须保留本司注明的“稿件来源”,并自负全部法律责任。如擅自篡改为“稿件来源:东方网”,本司将依法追究责任。

2、擅自使用东方网名义转载不规范来源的信息、版权不明的资讯,或盗用东方网名义发布信息,设立媒体账号等,本司将依法追究其法律责任。

3、鉴于本网发布主体、发布稿件来源广泛,数量较多,如因作者联系方式不详或其他原因未能及时与著作权拥有者取得联系,或著作权人发现本网转载了其拥有著作权的作品时,请主动来函、来电与本司联系,或与本司授权的中国文字著作权协会联系,提供相关证明材料,我方将及时处理。
中国文字著作权协会联系方式:
联系人:赵洪波 唐亚静
地 址:北京西城区珠市口西大街120号太丰惠中大厦1027-1036室
联系电话:010-65978917
邮 箱:wenzhuxie@126.com

4、本网所有声明以及其修改权、更新权及最终解释权均属本司所有。

【媒体合作】

本司为尊重保护著作权,鼓励有益于社会主义精神文明、物质文明建设的作品的创作和传播,促进互联网良性发展,本着平等互惠、资源共享的原则,诚邀各类媒体、网站、单位、个人与本网建立友好的合作关系。
媒体合作、内容转载请联系
联系人:杨老师
联系电话:021-22899781