全红婵的父母长期靠种植水果维持生计,全红婵的大哥全进华是一名三农主播,带货湛江本地的特产水果,全红婵的母亲也时常入镜。此前,全家人直播带货曾引发不少网友的质疑。对此,全进华在采访中表示:“我现在在自媒体上发发视频,主要是想带动‘三农’产品进行销售。一是我妈妈身体不好,做这个比较自由,可以兼顾照顾长辈。二是我们这边种有很多水果,特别是菠萝,每隔几年就会出现滞销。因为种得太多,行情波动较大,没人来收的话,水果就烂在地里,所以我想帮一下他们。” 他还提到,“虽然我还不是个(流量)很大的博主,也不一定能卖出很多东西,但我希望尽自己能力帮助家人、村里乃至湛江以及其他地方的农产品进行销售。” 全进华一心为家乡和家人,却遭遇了被冒充的糟心事。
不仅是全红婵的父兄声音被冒用,名为 “婵宝小助理”“全妹福利号” 等多个账号,还使用全红婵赛后接受采访的画面,用 AI 合成相应的声音,在社交平台发布视频。以 “全红婵家建别墅”“全红婵为观众送上福利” 等话题吸引观众,博取流量。视频里呈现全红婵受访的画面,内容却被 AI 篡改为介绍土蜂蜜、骆驼奶粉、洗衣净等商品,并推荐观看者点击商品链接购买。评论区有用户被合成视频欺骗,表示 “支持全红婵,值得购买”。4 月 29 日,全红婵父亲告诉封面新闻记者,有人用 AI 伪造一家人声音卖蜂蜜,他们也没有办法,“帮我辟谣一下,我没有卖这东西,什么蜂蜜才十几块钱一斤,拿糖来搞都搞不到” 。
事实上,利用 AI 伪造视频的现象并不罕见,此前,曾有多位明星成为 AI 伪造视频的素材。3 月 3 日,有网友向演员刘晓庆反馈有人在视频号 AI 生成视频假冒她。刘晓庆转发并配文:“天哪,我点进去看了一下,画面是我,声音很像我,但不是我!这是怎么做到的?大家以后不会搞不清楚哪个才是真的我了吧?我在各个平台都叫刘晓庆!”4 月 18 日,女星张馨予在社交平台发文,称有商家利用 AI 技术复制其声音售卖减肥药,张馨予表示:“近期发现有品牌 Ai 复制我的声音,未经授权编造剪辑广告视频,还有减肥药广告,我觉得这样的行为很恶劣。在此说明我从来没有推荐过任何减肥药,有商家利用 Ai 技术非法剪辑投放广告,我一定追究到底。”
河南泽槿律师事务所主任付建表示,此类商家剪辑相关视频,利用 AI 技术制作带货视频推销商品,侵犯了当事人的肖像权。如果有商家利用 AI 对口型功能让当事人 “带货”,若公众能根据音色、语调和发音风格等识别出是他们的声音,也侵犯了其声音等具有可识别性质的人格权益。商家需向被侵权人承担停止侵害、消除影响、赔礼道歉、赔偿损失等民事责任。
全红婵一家凭借自身努力,无论是全红婵在跳水事业上为国争光,还是家人为家乡农产品销售助力,都值得尊重。而这些冒充其家人的行为,不仅伤害了全红婵一家,也损害了消费者权益,相关平台与监管部门应加强管理,遏制此类 AI 乱象。
(此处可插入全红婵家人日常活动照片,如全进华直播带货场景、全红婵父母在果园劳作等,展现其真实生活状态)
(此处可插入 AI 合成视频中涉及的带货商品图片,如骆驼奶粉、土鸡蛋等,直观呈现被利用带货的物品)
(此处可插入刘晓庆、张馨予等明星针对 AI 冒用发声的相关截图,体现此类现象的普遍性)