1/0
张文宏回应“被AI带货”:像蝗灾一样,一次次害人
看看新闻Knews2024-12-12 18:51:07

最近有网友发消息称,张文宏是不是带货了,家里老人信以为真,已经下单了。

而经核实这个视频是AI合成的,目前,这段伪造的视频在账号内已不可见。

视频截图中,张文宏正在卖一种蛋白棒,而售卖页面显示,已售1266件,跟买有315人。虽然是张文宏的口型和声音,但稍微了解一点AI的年轻人,一眼就可以分辨,这是合成的视频。不过对于老年人来说,依然很具有迷惑性。

据上海交通大学计算机科学与工程系特聘教授俞凯介绍,从技术角度来说,目前用语音合技术来模仿他人声音并且对上口型生成视频的技术已经非常成熟,甚至仅用一张照片就能生成此类视频。对普通人来说,用照片生成的视频很容易辨别,但如果被制作视频的对象有大量公开资料的话,生成的视频无法做到实时互动,但单向播放足以以假乱真。

张文宏医生回应:

像蝗灾一样 一次次害人

看看新闻Knews记者今天联系到张文宏医生,他向记者表示:“这样的卖货账号不止一个,且一直不断在变,自己多次向平台投诉但屡禁不绝。”

张文宏丨上海华山医院感染科主任、国家传染病医学中心主任:事情已经有几个星期了,有很多不明真相的老百姓、特别是有些对AI(人工智能)不是很熟悉的、年纪比较大的市民,他们就会很容易相信。我看购买量在不同的地方好像都有不少,最多的有1000多的。我在发现这事后立即投诉过那个AI合成的视频,但是它的账号一直在换,自己最后也没精力了。这些假的AI合成信息就像蝗灾一样,一次又一次发生,像漫天飞过来的蝗虫一样害人。事实上,从平台投诉结果来看,我觉得最终也难以解决问题。

除了向平台方投诉,张文宏医生称自己也曾考虑过向警方报案,但对方的账号一直在不断变化看不见摸不到,就像幽灵一般难以描述,只能寄希望于相关部门能加强监管。他告诉看看新闻Knews:“报警总要有个对象对吧,现在报警报谁呢?他一天换一个账号,而且全是虚拟的,我向谁报警?!所以我认为,他侵犯的是消费者的利益,我觉得相应的部门应该来进行处理。”

消保委发声

今天,上海市消保委也对该事件严厉发声,表示未经当事人授权的AI合成带货行为,已经构成了对消费者的欺诈,呼吁监管部门严厉处罚。

上海市消保委副秘书长唐健盛:实际上这根本就不是张文宏老师在带货,这完全是用AI(人工智能)做出来的,这类事情非常恶劣。首先这种做法其实已经构成了对消费者的欺诈,消费者如果说上当的,那么完全可以按照消费者权益保护法的规定,要求商家做出退一赔三,并且金额不足500元的要这个按照500元来赔。

此外,我们觉得相关的监管部门应该对这种恶劣的行为要采用非常严厉的方法进行处罚,因为这不仅仅是涉及到消费者权益,它其实还涉及到整个社会的良知跟道德。

靳东、黄晓明等都被躺枪!

近年来,用AI剪辑冒充明星的案例屡见不鲜,在今年年初,静安法院宣判过一起假冒明星、名人视频进行诈骗钱财的案例。8名被告人被以诈骗罪,判处拘役4个月到3年有期徒刑,并处罚金。

而诈骗分子们最喜欢冒充的明星,则是不少阿姨妈妈们最喜欢的明星靳东。SMG新闻主播陶淳老师就在说法节目中举了一个例子。

上海一位60多岁的张阿姨是靳东的忠实粉丝,机缘巧合下被拉入了一个名为“靳东明星”的粉丝群。从2022年2月开始,张阿姨就在群里不断地给“靳东”充值打赏。不久后,“靳东”还以恋爱的名义加上了张阿姨的微信,在张阿姨的眼里,东弟弟不仅是明星,更是一个会撒娇、会卖萌的理想恋人。恋爱中的张阿姨,先后向东弟弟转账近20万元,直到儿子报了警,她仍不愿相信自己的“偶像”怎么会是儿子口中的“诈骗犯”呢?

原来所谓的“靳东”都是假的!是由一群平均年纪还不到30岁的女性犯罪团伙假冒的!这个团伙专门在短视频平台上发布“靳东”的视频,然后冒充靳东与这些姐姐、阿姨们网聊、网恋,最后以公益、网购、恋爱等各种理由索要钱款,骗取多名被害人共计31万余元。

上海静安法院对本案作出一审判决,以诈骗罪判处王某某等8名被告人有期徒刑三年到拘役四个月不等。其实这些骗子的手法并不高明,靳东的画面都是网上搜取的资料,声音也是合成的,熟悉短视频的人,很容易看出来是假冒的,就连靳东本人也多次发文澄清,提醒大家。为什么还是不断有人上当受骗呢?

原来这些“假靳东”,专门瞄准喜爱靳东的中老年女性,利用他们的善心,打造一个关爱、体贴,充满温情的恋人形象,满足了被害人的内心情感需求,最终达到骗取钱财的目的。记住!凡是打着明星的名义,无论以是什么理由向你要钱的、让你转账的,都是诈骗!

除了靳东,当红明星黄晓明也都深陷此类骗局之中……

去年11月,黄晓明在节目中坦言,看到了一段自己和刘亦菲为某品牌代言的视频,自己在活动现场极力推荐该品牌。而他本人对此竟然毫不知情,印象中从未担任过该品牌代言人,一时间感到恍惚,难辨真假。原来该视频是AI换脸生成的,包括人声也可以合成。

网络技术飞速发展

如今“眼见不一定为实”

信息网络时代要学会保护个人身份信息和生物信息、增强反诈意识、提高辨别能力。涉及网络转账交易行为时,务必通过回拨视频通话、线下见面、向对方家人验证等多种途径核验对方身份,不要未经核实随意转账汇款,以下的防骗小妙招一定要牢记:

选稿:费一妍
知识产权、免责声明以及媒体合作联系
继续了解
知识产权声明

【知识产权声明】

除本司(指上海东方网股份有限公司)另行声明外,本司网页及客户端产品(以下简称“本网”),包括但不限于东方新闻、翱翔、东方头条等,所涉及的任何资料(包括但不限于文字、图标、图片、照片、音频、视频、图表、色彩组合、版面设计、商标、商号、域名等)的知识产权均属本司和资料提供者所有。未经本司书面许可,任何人不得复制、转载、摘编、修改、链接、镜像或以其他任何方式非法使用东方网的上述内容。对于有上述行为者,本司将保留追究其法律责任的权利。

东方网、东方新闻、翱翔,以上均为本司享有权利之合法商标,未经本司书面授权,任何单位或个人不得使用上述商标,或将上述商标用作网站、媒体名称等。

【免责声明】

1、凡本网注明来源“东方网”或“东方新闻”或带有东方网LOGO、水印的所有内容,包括但不限于文字、图片、音频视频,版权均属本司所有,任何媒体、网站或其他任何形式的法律实体和个人未经本司书面授权均不得转载、链接或以其他方式复制传播。与我司签订有关协议或已经获得本司书面授权许可的媒体、网站或其他任何形式的法律实体和个人,应在授权范围内使用,且必须注明来源“东方网”。其目的在于传递更多信息,并不意味着本司赞同其观点或认可其内容的真实性。如果其他媒体、网站或其他任何形式的法律实体和个人使用,必须保留本司注明的“稿件来源”,并自负全部法律责任。如擅自篡改为“稿件来源:东方网”,本司将依法追究责任。

2、擅自使用东方网名义转载不规范来源的信息、版权不明的资讯,或盗用东方网名义发布信息,设立媒体账号等,本司将依法追究其法律责任。

3、鉴于本网发布主体、发布稿件来源广泛,数量较多,如因作者联系方式不详或其他原因未能及时与著作权拥有者取得联系,或著作权人发现本网转载了其拥有著作权的作品时,请主动来函、来电与本司联系,或与本司授权的中国文字著作权协会联系,提供相关证明材料,我方将及时处理。
中国文字著作权协会联系方式:
联系人:赵洪波 唐亚静
地 址:北京西城区珠市口西大街120号太丰惠中大厦1027-1036室
联系电话:010-65978917
邮 箱:wenzhuxie@126.com

4、本网所有声明以及其修改权、更新权及最终解释权均属本司所有。

【媒体合作】

本司为尊重保护著作权,鼓励有益于社会主义精神文明、物质文明建设的作品的创作和传播,促进互联网良性发展,本着平等互惠、资源共享的原则,诚邀各类媒体、网站、单位、个人与本网建立友好的合作关系。
媒体合作、内容转载请联系
联系人:杨老师
联系电话:021-22899781