微言 | “复活”茶界泰斗代言、伪造主持人卖货:AI不可逾越哪些红线?

已经去世的茶界泰斗被“复活”做品牌代言?央视新闻节目的主持人在直播间卖起了“深海鱼油”?最近一连串使用AI技术的违规广告营销视频,引发了广泛关注。10月14日,一段由AI生成的已故“茶界泰斗”张天福现身短视频平台为某茶企代言的视频在网络引发广泛争议。对此,张天福的家属表示,将通过法律途径维权。

用AI复活逝者,本可视为一种记忆上的“反哺”;但如果未经当事人家属允许而用于商业推广,被恶意消费的就不仅仅是逝者,还破坏了基本的社会伦理,更涉嫌违反相关法律。我国《民法典》等法律法规明确规定,自然人去世后,其形象权与名誉权仍受法律保护。

如今在各短视频平台,AI“复活”已故名人已非新鲜事。2024年歌手李玟在去世八个月后被网络博主用AI技术“复活”,其他近现代历史人物被用AI制作出自拍vlog甚至蹦迪的视频更是屡见不鲜。这些行为不仅让逝者尊严被商业利益裹挟,更让其亲人面对形象被滥用的二次伤害。

生成式AI在商业领域的滥用,会对消费者造成严重误导。据央视新闻报道,今年2月北京市海淀区市场监管局查处一案中,某公司不仅通过视频账号虚假宣传其“深海多烯鱼油”可治疗多种疾病,更用AI技术伪造央视某主持人形象用于直播间。这种行为精准利用了部分群体对权威媒体、权威主持人的信任心理,大幅降低消费者的警惕性。同时,“有图有真相”的刻板印象,让AI伪造形象、合成已故专家代言等行为极具迷惑性,最终破坏了市场消费的信任体系。

从技术层面来看,如今制作一段AI生成视频的门槛极低,仅需一段音频或视频素材就能进行深度合成。尽管有技术专家提出,若在源头严格管理数据安全——比如用户上传素材时进行人脸、人声识别,并提示需取得相关个人授权,可有效减少违规使用——但大量数据审核仍会给平台带来一定压力。

随着人工智能高速发展,大量具备内容生成功能的人工智能大模型快速涌现。在用户规模扩大的同时,人工智能治理面临的风险与不确定性也在上升。对于消费者而言,也需提升自我保护意识:观察视频细节;遇到“名人代言”“权威推荐”之类内容时,最好通过官方账号、权威媒体二次核实。

AI本是服务人类的工具,一切技术并无善恶,自然也可辅助用于正当营销。但唯有让AI在法律框架与伦理边界内发展,才能避免技术沦为消费逝者、误导公众的工具,真正让技术向善,守护好社会的温度与信任。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。

留言与评论(共有 条评论)
   
验证码: