近日，社交平台有账号发布AI生成视频，冒充刘欢家人兜售“黄精五黑粉”，视频被上万次转发，页面角落有个小小的标注“内容由AI生成”。“太可恶了”“用离去的人博流量来赚钱最可恨”……网友们纷纷强烈谴责。

民法典明确规定，死者的姓名、肖像、名誉等仍受法律保护，近亲属有权起诉要求停止侵害、赔礼道歉、赔偿损失。同时，此举也触犯了《互联网信息服务深度合成管理规定》《人工智能生成合成内容标识办法》的红线，AI合成内容必须“亮明身份”，未经授权不得利用信息技术伪造他人肖像、声音。

此外，借虚构人设利用公众信任诱导消费，也是明目张胆的消费欺诈。消费者被“名人遗孀的掏心窝子话”打动而下单，依据消费者权益保护法，可以主张退一赔三。市场监管部门也有权依法立案查处、作出处罚。倘若骗取的货款数额达到标准，还可能涉嫌诈骗、被追究刑事责任。

一条带货视频涉嫌多重违法，但相关各方却玩起了“踢皮球”的游戏：涉事店铺负责人表示“他们怎么说，我们也管不了，这得平台管”；平台客服则回复需由权利人或其家人举报。一个“管不了”，一个“等举报”，令人意难平。电子商务法明确规定，平台知道或者应当知道平台内经营者侵害消费者合法权益、未采取必要措施的，依法承担连带责任。下架视频、封禁账号只是底线动作，平台手握算法、数据和规则，更应主动巡查、主动拦截。

此前，还有假借赵丽蓉等已故名人子女身份带货的内容，俨然形成了一条灰色产业链。当“眼见为实”被AI彻底改写，当一条假视频能骗取数万人的眼泪，今天被冒充的是逝者的妻子，明天冒充的就可能是其他亲友。信任是数字经济的底座，一次次消费信任的欺诈，等于给整个社会的信息环境“抽贷”。对这种行径，法律必须硬起来，平台必须动起来，公众也要多留一个心眼：看到名人带货先查证，看到“AI生成”标识别忽略，遇到可疑链接不轻信下单。

造假者用AI盗用逝者肖像、伪造家属身份，把公众的哀悼与信任打包成流量和销量，完成了一次没有授权的“价值掠夺”。平台的不作为，等于在非正当转移的通道上敞开了大门，把识别、取证、维权的成本全部推给了处于丧亲之痛中的家人。这种行为最终会反噬自身，失去网友的信任，变成“养虎为患”。

技术应向善而行，绝不能让AI沦为侵权利器，成为灰产的工具。真正有效的治理，不是简单反对AI或反对带货，而是把治理重心从“事后等待”转向“事前拦截”，让技术便利服务于真正的创作与交易：一方面提高假冒侵权行为的门槛，比如，建立已故公众人物风控词库、强制家属身份核验、对逝者影像加带货的内容做前置拦截；另一方面也要为正当价值流通铺好路，比如，畅通公众举报核查机制、给正版授权和真实创作者的纪念内容留出流量空间。

技术本身并无善恶，AI的价值终究取决于人类的选择与约束。守住网络空间的真实与诚信，才能让每个人在数字时代都享有安全与尊严，这既是对个体权益的保护，更是对社会秩序的守护。用技术骗人，必须付出代价，唯有让这样的灰产无利可图、无处遁形，数字时代的信任体系才能屹立不倒。

（本文摘自北京青年报第2版）