闲鱼上,AI“复活”的一些产品和报价。图/网络截图


“要做的话提前做,清明节忙不过来。”


近日,一位活跃在闲鱼平台上的AI(人工智能)“复活”商家向新京报贝壳财经记者透露。


AI“复活”灰色产业已经起步,多位被AI“复活”的明星亲属纷纷发声表示受到情感伤害,技术“潘多拉魔盒”已能窥见其中一角。与此同时,包小柏钻研AI技术“复活”女儿,汤晓鸥教授再次“现身”商汤科技年会,这些场景也点燃了人们利用AI“复活”亲人的技术希望。


“任何一种技术,特别是人工智能,我们必须假设它可能不被善意使用、出现失控的情况。”国内某家领先人工智能团队高管告诉新京报贝壳财经记者。从现有技术条件和法律环境来看,数字生命走向现实还有很长的路。


记者体验

电商平台AI“复活”存隐私暴露风险


随着AI的持续发展,通过一张照片或一段视频就能让照片原主人“开口讲话”的技术已经出现并逐渐普及,这让一些人思念家人的情感得以找到宣泄的渠道,随着清明节临近,“数字永生”产品升温。


3月28日,在AI“复活”领域创业的张泽伟透露,近20天的订单数量是之前的两倍,目前也在对接医院、殡葬和养老等行业,“这些行业的客户有一定需求”。


贝壳财经记者以AI“复活”为关键词在闲鱼、淘宝平台进行搜索,发现市面上出现不少提供AI“复活”的商家。


记者以买家身份咨询数位商家后发现,商家们主要提供三类产品,并且按时长进行梯度收费。


第一类是没有声音,只有嘴巴、眼睛等局部部位“动起来”的动态图片,价格在10元-50元不等,持续时间在5秒-13秒之间;第二类是上述动态图片搭配AI合成声音的产品,价格从几十元到几百元的都有,持续时间大多在1分钟以内;第三类是在动态图片基础上,用AI克隆亲人声音的产品,价格百元起步,时间也大多在1分钟之内。


根据商品页面说明及商家普遍说法,这三类产品只需要用户提供一张五官全面、清晰的正脸照片即可。


淘宝商家提供的AI复活产品梯度收费价目表。


还有商家表示能够提供具有交互功能的产品,售价1999元。该商家称,此类产品通过手机应用实现交互,账号仅限一人使用,制作周期需要一周左右,“快的话可能3天到5天”。


值得注意的是,这些商家的客户隐私保护意识参差不齐。


当记者以买家身份询问是否能够提供产品示例时,这些商家大多向记者发送了自己的客单,有的商家甚至向记者提供文案参考时暴露了客单中的真实名字。在记者咨询的商家中,只有一家表示页面展示视频是自家老人,并以“涉及隐私”的理由回绝了记者提供其他案例的要求。


在记者与商家沟通过程中,商家并未主动就素材和生成内容使用范围与记者进行约定,商品页面也无明显相关说明,其中一家店铺在商品页面做了免责声明。在记者提及对数据滥用担忧时,一些商家才以口头形式向记者保证不会泄露隐私。


对此,北京大成律师事务所肖飒律师团队骨干律师袁承鹏建议,购买此类服务的消费者要充分知悉AI“复活”服务的性质、可能风险,以及服务提供者的资质信息等,同时也要关注自己提供的隐私信息是否得到妥善处理。


“确定交易可信后,也要尽可能留存证据,以便在发生争议时维护自己的权益。”中国信通院政策与经济研究所高级工程师、人工智能产业发展联盟政策法规工作组秘书长程莹补充道。


AI“复活”变形

已不局限于逝者的亲属,逝世明星“复活”成引流工具


为了赚钱,商家们已将AI“复活”的业务范围扩展到了逝者的亲属之外,自诩“AI复活师”的小刚(化名)就是其中之一。


小刚告诉贝壳财经记者,有人在他这做“明星祝福视频”,不过,在他发出的案例中,有不少是已逝世明星,包括李玟、姚贝娜等。而当记者表示自己要“复活”某一明星时,对方并没有任何核实,立刻接受了要求,表示“照片或视频发来”。


根据小刚发给记者的AI复活“价目表”,只提供一张照片,让照片动起来的,只需要9.9元,照片加声音是29.9元,照片加自定义声音则是49.9元。而使用视频素材制作更加精良AI复活视频的,则要598元。


贝壳财经记者发现,发布“复活”明星的视频成为吸引流量的一种方式。3月15日,小刚的一则使用AI“复活”科比说话的视频在B站获得了14.9万的播放量,后续他又陆续“复活”了黄家驹、张国荣、吴孟达、邓丽君。


在B站,一则“AI复活coco李玟”的视频获得了12万次播放和845个评论,评论区内“授权了吗?”“等着收律师函吧”被顶到了前列。



3月28日,已故知名歌手李玟的母亲委托广东梦海律师事务所就部分网络用户制作、传播“AI复活李玟”相关短视频事宜,公开发布了一则律师声明称:严正警告涉嫌侵权责任人7日内下架、删除含有上述侵权内容的相关图片、视频及文章,立即停止实施相应侵权行为。


4月1日,新京报贝壳财经记者再次搜索上述李玟相关视频发现,作者已经将其下架。


北京市中闻律师事务所合伙人赵虎在接受新京报贝壳财经记者采访时表示,AI“复活”涉及多方面的法律问题,比较核心的是肖像权和涉及声音的权益,“要‘复活’他人,就要使用他人的面貌,从而侵犯了他人的肖像权。但肖像权人去世后,肖像利益由他的亲人、家属享有,所以应该经过家属的同意,没有经过家属同意就是一种侵权行为。如果加上配音的话,就侵犯了其有关声音的权益,与肖像权同理,这在《民法典》中有明确规定。


对于在未经逝者家属授权的前提下,在网络平台出于涨粉目的发布“复活”逝者视频的行为,赵虎认为这属于侵权行为,如果逝者的亲人认为侵权并主张权益,视频发布者就要承担侵权责任,包括停止侵权(删除视频)、赔礼道歉、赔偿损失。


“AI技术还可能引发额外的问题,比如使用AI模仿明星发表本不属于其言论造谣,这就会扩展到名誉权的问题,还有可能构成违法犯罪。我认为AI复活技术在使用时应该遵守法律规定,不能侵犯他人合法权益,更不能拿来违法犯罪,否则就要承担相应的法律责任。”赵虎说。


程莹表示,AI“复活”还受到相关行政法律法规的调整,企业未尽信息内容安全义务的,将被追究行政责任。


生意扩容

招代理、收徒、卖课


通过各种方式的引流,“AI复活师”小刚的业务多到“忙不过来”。


“今日接单,接不过来,急需收徒!”“有客户的照片五官看不清晰,我花了做5单的时间去调试,因为我和您一样,希望最大限度帮助您圆梦。”小刚的朋友圈里,经常能看到这样的感慨。


商家AI“复活”生意扩容,包括招代理、收徒等。


“代理199元,半价拿货;收徒399元,教授所有AI‘复活’、视频剪辑以及短视频运营,并且派单给你。技术指导是大厂的程序员和声音工程师。”他表示。


除了亲自带徒弟,“AI复活师”也制作了教学视频在网络上发行。记者在闲鱼和淘宝平台上发现不少AI“复活”视频制作教学课程。在课程“讲师”口中,AI“复活”视频成了一门可以利用信息差和情绪营销手段促成的生意。


AI“复活”教程实际操作演示。图/AI“复活”教程视频截图


记者分别以3.99元、4.68元和9.9元在两个平台向不同商家购买了三份教程,都收到了名称相同的课程文件夹。记者分别查阅三份文件后发现,它们内容基本一致,都包含相同的教学视频、对标自媒体账号、对标AI“复活”短视频、工具网址等。


在教学过程中,“讲师”以“数字包容”(包小柏女儿)视频效果为例,声称要做出这类“AI画面强”“自然的”视频。但在操作演示时只使用一些人工智能生成或深度学习的开源网站、国内短视频剪辑软件作为制作工具,最终通过一张照片呈现出简单的动态图片搭配AI配音的视听效果。


“同行基本定价199元一个视频,一个视频时长在3分钟以内,3分钟199元,你一天接5单,一天接近1000块”。


记者观看课程内容时注意到,第一节课上,“讲师”在介绍项目时多次强调“需求量大”,表示“现在竞争不那么激烈,没那么多人会制作这类视频”,还提到“这类视频涨粉比较快”“目标人群消费能力强”。


“接商单、收徒,粉丝量达到一定程度还可以卖号。”她在课程中总结了上述变现方法,还从账号名称、头像、简介、更新频率、经营粉丝群等方面传授包装平台账号和获取流量的经验,实际上都是常见的情绪营销和引流“套路”。


记者发现,实际上,AI“复活”只是此前不少“让中国明星说英语”视频的翻版,不少人生成视频背后使用的工具是提供AI换声服务的外国公司HeyGen。该公司自2023年 9 月7日上线视频翻译功能后,在国外社交平台上迅速走红,其靠免费试用揽客,排队人数众多,想要跳过排队或者享受更多的服务则需要充值。


实际上,不少进行AI“复活”生意的人在早期正是通过HeyGen来招揽顾客,只不过随着相关技术的普及,越来越多国内公司也拥有了类似的技术,AI“复活”生意人找到了更便宜的接口,AI“复活”的价格也越来越低。


AI“复活”技术不是障碍 法律程序才是


AI“复活”市场热度升温之际,不同技术团队也做出不同的选择。


“国内面临老龄化趋势,年轻人工作繁忙,在物质条件基本满足的条件下,人越来越趋近追求精神和情感层面的满足,技术能够解决这样的需求”。去年3、4月开始涉足AI“复活”业务的张泽伟对贝壳财经表示,他的团队目前已经完成了1000张左右的订单。


3月28日,他透露,近20天的订单数量是之前的两倍,目前也在对接医院、殡葬和养老等行业,“这些行业的客户有一定需求”。


有的团队认为,技术拥有方在这一市场需求面前也得考虑其是否值得商业化。


国内某家领先人工智能团队高管周天成(化名)表示,复生去世亲人的商业价值并没有那么大,更多在于提供抚慰个人情感的作用。而“一旦把它纳入商业化考量,团队可能就会每年设定一个关于复生去世亲人业务的收入预期,在营销的时候可能就会压货,跟用户强调‘还剩最后6单’,出现兜售焦虑的问题。”


他认为把它作为迭代技术的训练机会是一种较为合适的做法,AI“复活”亲人是一个难度高、落地容忍度低的项目,“我们能够在这样的环节里获得所谓‘还原人的标准’到底是什么”。


“我们早就可以实现AI‘复活’了,而且效果肯定比市面上其他家要好。”某国内头部大模型公司的数字人销售人员告诉贝壳财经记者,“技术上只要对方提供逝者生前视频,我们就可以制作AI数字人,其效果和AI复活无异,但出于谨慎考虑我们一直没有开展这项业务。”


该名销售人员对记者表示,按照常规真人数字人的业务办理流程,AI可以通过学习对方提供的真人视频生成数字人,让数字人说话的实现方式是找到类似其本人的唇形,再将唇形替换上去,“几乎可以做到以假乱真”,但进行该业务的前提是要本人签字,“对于AI复活,技术不是障碍,法律程序才是。”


曾完成AI“复活”包容(包小柏女儿)的小冰团队表示,其相关复生技术研究迄今已有7年,2021年,其相关专利获得批准。


事实上,在小冰团队内部,该项技术研究也有三项伦理原则,包括:当本人在世时,AI复生项目应当仅由本人自由意志决定,而非任何其他相关第三方;本人不在世的,应当沿袭法律所判定的继承人顺序。具体实施中,应遵循训练数据最小化原则,避免数据滥用;在上述前提下所产生的小冰AI复生克隆人,应接受全社会监督,以确保不被滥用。


在周天成看来,目前AI“复活”亲人已经出现了技术滥用。他多次向贝壳财经记者描述这样一种可能的场景。一位父亲用AI克隆了自己的声音给孩子念绘本故事,有一天这个声音可能会对孩子说:明天爸爸没有办法去接你,幼儿园门口有一辆白色面包车,放学后你就跟着这辆车走。“这个孩子可能就信了。”


“这些滥用往往来自市场上的劣币”。周天成说。而放任劣币发展,“最终可能导致好猫坏猫一块被打死,整个社会都不再相信人工智能,你做的这件事情(人工智能行业)也就不复存在。”


对此,受访者大都认为,法律法规对行业发展来说很重要。“若盲目为了扩大规模、意图非法牟利,AI‘复活’产业断然不能长久。”袁承鹏说。


程莹建议AI“复活”服务提供者定期做好风险评估、伦理审查、使用者账户处置等工作,监管部门做好监测预警、合规指导等监管工作。


在照顾到用户利用新技术缅怀亲人诉求的同时,她还建议私法层面能够有效保护死者人格利益和近亲属权利,避免新技术应用违反公序良俗、冲击伦理秩序,确保技术向善。


新京报贝壳财经记者 韦英姿 罗亦丹

编辑 岳彩周

校对 薛京宁