清明节前一天,浙江嘉兴的朱女士在某电商平台找到了一个商家。她向商家提供了辞世母亲的照片和一些信息,委托商家运用 AI 技术制作视频。这样,去世多年的母亲“复活”了。朱女士表示,在视频中,母亲的容貌再次呈现在她眼前,还对她说着一些鼓励的话。虽然这只是一个虚拟的视频,但却让她感受到了久违的温暖。
今年清明节期间,AI 技术“复活”亲人成为热议话题。近日,记者经调查了解到,在多个电商平台上,只要输入 AI“复活”关键词,就能找到众多相关商家和方案。只需有一张照片以及文字信息,就能够让照片中的人动起来,不但可以开口说话,还能让原声复活。其售价各不相同,从几元、几十元到上百元都有。
清华大学国家信息研究中心的副研究员王东,同时也是清华大学计算机系人工智能通识教育(AIGE)研究中心的副主任。他称,AI“复活”这一现象,是借助人工智能技术来模拟生成逝者的数字形象的一种应用。这项技术最初的目的是帮助人们缅怀和纪念自己的亲人,通过模拟生成数字形象,让亲人的音容得以再现,满足人们与逝去亲人再次相见的渴望,从而提供一种具体且形象的追忆方式。
王东表示,技术的温情背后存在争议,还会带来隐私泄露和侵权的风险。要明确的是,把握技术应用和人机边界一直是关键,有关部门必须加强监管,以防技术被滥用。
逝者家人:
让人在情感上得到一定满足
山东青岛市的刘女士不久前表示,因为思念已去世的奶奶,她给出了奶奶的照片以及生前的一段语音。一开始她只是试着让 AI“复活”奶奶,然而却得到了一次跨越时空的温暖重逢。在视频里,熟悉的声音在她耳边响起,仿佛奶奶仍在身边。有人或许觉得这是一种虚假的安慰,会让人陷在过去难以自拔。分别是如此痛苦的,所以需要一些安慰和情感寄托,以帮助我们能更好地走下去。她说。
刘女士表示,AI“复活”视频能在情感方面给予一定满足。然而,真正的治愈是源于内心深处的自我修复过程,并非外部手段的介入。
河北衡水市的于先生表示,出于对逝去亲人的尊重和传统,他不会选择用 AI“复活”亲人。山西临汾市的郭女士也表示,出于同样的原因,她不会选择用 AI“复活”亲人。他们都对此做法表示理解,因为他们认为 AI“复活”能为生者带来心灵慰藉,能重振生活信心,能让思念有处表达,发挥了技术的积极作用。但要以理性的态度看待这项技术。要珍惜它所带来的正面影响,同时也要对潜在的风险保持警惕。
六六是一名 AI 技术爱好者。在近两年的时间里,他借助 AI 使上千人“复活”了亲人。他指出,输入已逝亲人的一张照片以及一段生前的录音,不仅能够让照片动起来,而且还可以模拟出亲人的声音和语气进行讲话。倘若生前的视频资料更为丰富,那么还能够定制亲人的“数字人”。他期望能够发挥技术的积极作用,通过这种方式更好地治愈有需求的普通人。
人工智能专家郭涛表示,中国电子商务专家服务中心副主任郭涛称,“AI 复活亲人”现象开始兴起。这得益于多方面的共同推动,包括技术方面、心理需求方面以及社会趋势方面。在技术层面,深度学习、NLP 以及 GANs 等 AI 技术已经成熟,这使得语音模拟、外貌模拟以及对话模拟都成为了可能。并且,商业化服务的价格低至几元,从而形成了情感消费市场。人类在心理层面有对亲情延续的渴望,尤其是在丧失亲人后会有心理创伤,这种情况促使技术成为情感代偿工具,能帮助生者缓解思念之苦。在社会趋势上,殡葬行业引入了 AI 数字人服务,电商平台推出了低价套餐,从而加速了技术的普及。这一现象既满足了人们对科技进步的好奇,又探索了生命、记忆与情感之间的深厚联系。
郭涛称,在这种情况下,用户的心理呈现出明显的两面性。一方面,技术给丧亲者提供了一个可以进行“未竟对话”的情感宣泄途径;另一方面,部分用户患上了“虚拟依赖症”,过度沉浸在虚拟互动中,从而引发了现实社交方面的障碍,并且还有不法分子借助 AI 伪造亲人的影像来实施诈骗行为。这种心理本质上是人类对于亲情延续所具有的本能渴望,然而它也隐藏着逃避现实以及混淆虚实的风险,我们需要警惕技术从原本的“情感桥梁”转变为“心理牢笼”。
商家:“AI复活亲人”产品
标价低至几元钱
当前,一些殡葬服务公司正借助“AI 创造性内容”的形势。他们将对逝者的爱与怀念转化为数字产品,让家属能够和逝去亲人的数字化形象展开对话,以此帮助家属在悲痛中获得一丝慰藉。并且,多地的陵园也引进了 AI 技术来“复活”逝者,让亲属能够与 AI 数字亲人进行实时的对话。
图片电商平台存在 AI“复活”产品服务,且这些服务与商家相关(央广网发,图片来源于网络截图)
在众多电商平台和社交平台上,AI“复活”已经发展成了一门生意。记者将 AI“复活”当作关键词,在电商平台进行搜索后,部分商家展示出了各式各样的“AI 复活亲人”产品,这些产品涵盖了图片以及视频等,其价格从几元到几十元,再到上百元都有,各不相同。
商家介绍,消费者仅需提供一张照片就行。对于视频语音,要么由客户提供,要么由商家提供。部分商家会出售“AI 制作代复活亲人视频教程”,有的还会备注“收徒”,并且会标明“短视频新赛道轻松火爆全平台副业项目”等相关字眼。
记者发现,在一些短视频平台存在类似的服务。在某些 AI“复活”内容以及商家的视频之下,有不少网友留言称愿意花钱去购买这项服务,并且纷纷进行了下单操作。
图片中存在 AI“复活”教程在被售卖。(央广网已发布此图片,该图片为网络截图所得)
王东介绍,AI“复活”亲人背后的技术原理包含两点。其一为个性特征提取,其二为生成式音视频模型。王东表示,若要让亲人和人进行对话,就需应用语音识别和语言理解能力,而这种能力目前已较为成熟,尤其多模态大模型技术的发展使得这种对话能力愈发强大。
郭涛介绍,当前新技术路径按复杂度与成本划分成三级。基础层通过利用 AI 开源工具来实现照片的动态化,收费几十元,甚至低于 10 元,不过效果比较生硬。进阶层则是将语音克隆(需要 60 秒以上的音频)与虚拟形象驱动相结合,收费在 500 到 2000 元之间,能够实现简单的对话。高级层依托大模型训练构建数字人交互系统,需要 1 分钟的视频以及生活语料,收费超过万元,能够模拟逝者的“记忆”并进行深度互动。不同层级的技术,其成熟度存在差异,成本也有不同。这种差异形成了一个从基础到高阶的服务矩阵。
科技博主黄海峰表示,目前来看,AI“复活”在语音合成方面能够打造出高度逼真且自然的声音,在图像生成方面能够呈现出逼真的动态人物形象,在对话交互方面能够模拟特定人物的语言风格进行对话。然而,它在复杂逻辑和深度知识方面仍存在不足。合适的深度学习算法仅仅只是一个起点,还需要专业团队进行有针对性的调优。
专家:AI“复活”
面临伦理和法律双重挑战
此前有媒体报道称,一些网络博主借助 AI 技术让辞世明星“复活”,这种做法引发了争议。郭涛指出,AI“复活”现象带来了两方面的挑战,一是伦理方面,未经授权的“复活”可能会侵犯逝者的人格权,尤其是对于公众人物,这种情况更容易被滥用;二是法律方面,虚拟形象与逝者真实意志之间可能会产生冲突,这可能会模糊生死的界限,引发身份认同方面的问题。法律方面,依据《中华人民共和国民法典》第九百九十四条的规定,若擅自使用死者肖像,必须获得其近亲属的同意,不然就需要承担民事责任。传播平台对于侵权内容也需要承担连带的责任,然而当前标注规范的执行情况并不充足。与此同时,构建数字人会涉及大量的敏感信息,这其中存在着泄露的风险,并且用户与数字人进行交互而产生的行为数据有可能会被不恰当地利用。
中国政法大学知识产权研究中心的特约研究员赵占领律师,他来自嘉潍律师事务所。赵律师表示,AI 的“复活”主要和民法典规定的肖像权以及声音相关的权益有关。如果没有经过相关人物法定继承人的同意,就不能使用 AI 软件或者其他方式来合成其肖像或者声音,不然就会构成侵权。平台商家在未经他人同意的情况下,把他人的 AI“复活”资料案例拿来进行展示宣传,这种行为同样构成侵权。
赵占领表示,使用 AI 合成的图片或视频去进行诈骗,这涉及刑事犯罪。一般的受众和用户,在这种情况下,往往很难辨别其真假。所以,群众更需要保持警惕并且加以防范。倘若遇到类似借款等的请求,一定要通过可靠的方式来进行核实验证。
王东认为,AI“复活”亲人这一现象展现了 AI 技术的强大,并且它也是 AI 技术正面应用的一个范例。然而,倘若同样的技术被不当使用,那么就有可能会带来极大的风险。其一,存在不法分子可能会利用虚假生成的音视频来实施勒索、诈骗行为,这会给受害人造成经济损失。2020 年,有一家英国能源公司的 CEO 遭遇了虚假电话的欺骗。他起初以为自己正在与德国母公司的老板通话,然而实际上,对方是利用声音转换技术改变了声音的骗子。这通电话致使这位 CEO 被骗转账 22 万欧元。
其次,虚假音视频会侵犯个人隐私并且损害个人名誉。之前有报道说韩国多个女性公众人物的脸部被替换到色情视频中,这些视频被广泛地传播开来,使得受害者遭受到了极为严重的心理伤害以及名誉上的损失。这类虚假视频不但侵犯了个人隐私,还会给受害者的生活和职业生涯带来巨大的冲击。另外,虚假音视频的传播还有可能引发社会的混乱。有人会伪造公众人物的讲话视频,接着传播不实消息,从而引发混乱与恐慌。
如何面对虚假音视频泛滥成灾现象?
王东称,对于人而言,要判断伪造的音视频资料的真假是较难的,但并非完全没有线索可循。其中最有希望的办法是采用 AI 对抗 AI 的方式,借助人工智能技术去检测音视频的真实性。比如,能够依据识别图像或音频在细节方面的失真情况,来判断视频是否为合成的。例如,清华大学与北京邮电大学开展的一项鉴伪工作,借助对音频和视频同步性的考察(例如嘴唇与声音是否相符),能够把一些伪造视频检测出来。在虚假音视频大量出现的情况下,众多科技公司和研究机构正在致力于研发和推广鉴伪技术。
王东称,除技术手段外,加强公众对虚假信息的认识很重要。需提醒公众不要盲目相信网络上的视频和音频信息。同时,防范音视频伪造不仅是技术问题,还需要法律约束。例如,多个国家(包含我国)已强制要求对 AI 生成的内容做明确标识,对使用音视频合成技术进行犯罪活动的人予以严惩。只有将合成音视频的非法使用变成高压线,才能杜绝滥用现象。
郭涛觉得,当下,具身智能以及情感智能等相关技术尚未成熟。未来要是相关技术变得成熟了,或许就能够让数字人获得永生,并且以数字人的形态在元宇宙里生活。所以,需要借助法律规制、行业自律以及技术伦理标准来进行协同治理,以此保证技术应用能够符合伦理道德以及法律规范。
赵占领表明,技术本身不存在善恶的差别,关键在于运用它的人。在实际的操作过程里,有一些商家或者个人借着情感慰藉的名义,在没有得到逝者亲属许可的情况下,擅自运用这一技术,甚至把生成的影像和声音拿来用于商业活动。这不但体现出对逝者的不敬重,而且也是对亲属情感的再次伤害。必须明确,AI 应用在“复活”亲人或“复活”明星时,应当遵循一定的伦理,要严守法律红线,不能侵害他人的合法权益,也不能用于违法或犯罪活动。
赵占领还表示,AI“复活”逝者是具有两面性的。这项技术可以弥补情感方面的缺憾,然而也有可能加深离别的痛苦。所以应当明确技术的边界,并且要尊重逝者以及亲属的权益。从促进市场规范发展的角度出发,监管部门需要尽早进行研判。要拟定出合理的标准,促使商家能够有序地进行经营。同时,要保护好数据的安全,避免技术被滥用。这样才能确保 AI“复活”逝者技术在合法、合规的前提下得以健康发展。
本文采摘于网络,不代表本站立场,转载联系作者并注明出处:http://mjgaz.cn/fenxiang/275295.html