封面新闻记者罗时谦、卞雪

“从第 0 帧开始”。 AI（人工智能）“二次创造”后，《甄嬛传》变成了枪战电影，《西游记》展现唐僧拥抱亲吻女儿国国王，《红楼梦》剧情改成武侠剧，《三国演义》看到诸葛亮戴着墨镜，在战场上指点迷津……

AI“魔改”宝玉黛玉打斗（网络视频截图）

2024年被广泛认为是“AI视频元年”。随着AI视频生成技术的不断成熟，各种利用AI生成的短视频在各大短视频平台上开始流行。有些场景可能是假的，也可能是真的。尤其是下半年以来，经典影视作品下半年越来越受欢迎。创作开始“爆炸”。通过AI技术对经典IP作品进行“魔改”，是对原作的创新还是亵渎？引发网友广泛讨论。

通过人工智能“传递新思想、替代旧思想”的现象也时有发生。近日，知名传染病专家张文宏的外貌和声音被商家通过“AI换脸”修改后在网上出售，不少老年人陷入了“陷阱”。

12月7日，国家广播电视总局网络视听司发布《管理提示（AI魔改）》，指出近期AI“魔改”视频多为假冒“魔改”经典，并要求短视频平台开展排查清理。

AI“魔改”视频的兴起带来了哪些新问题？创作者“再创作”影视作品是否面临法律风险？ AI技术进步背后是否存在“边界”？封面新闻记者对此现象进行了调查，并邀请业内相关专家和律师进行解释。

AI“神奇改造”经典影视剧

广电总局出手管控

近期，在短视频平台上，一些人工智能生成的视频引起了很多网友的关注。其中，一些经典影视作品的形象经过AI二次创作“魔改”后，获得了不少点赞。

在被“魔改”的影视作品中，不乏四大名著、《甄嬛传》中的视频场景。比如《西游记》中，唐僧与女儿国国王“终于成亲”，拥抱亲吻，师兄孙悟空骑着摩托车远去； 《三国演义》中，头戴羽扇、丝巾、墨镜指导战场的诸葛亮； 《红楼梦》中，黛玉和宝玉一言不合就打架，黛玉甚至可以徒手拔掉一棵垂柳；在热门影视剧《甄嬛传》中，甄嬛甚至在不同意的情况下举枪……

甄嬛“举枪”（网络视频截图）

这些视频都利用了AI工具对原来的视频内容进行了重新剪辑和配音，改变了剧情走向，让观众感觉非常新鲜有趣。浏览量、点赞数、转发量都相当高。有网友表示，“这才是原版”。 。但同时也有网友担心这样的“魔改”剧情会对公众认知产生影响，认为经典不应该随意改编。

12月7日，国家广电总局网络视听司发布《管理提示（AI魔改）》指出，近年来，AI“魔改”视频频频造假，“魔改”经典频繁出现。这些AI“魔改”的经典作品包括《甄嬛传》变身“射击电影”、《红楼梦》变身“武侠剧”、孙悟空骑摩托远走等等。视频以产生流量为目的，无国界亵渎经典IP，冲击传统文化认知，与原作精神内核背道而驰，涉嫌构成侵权。

《甄嬛传》成枪战电影（网络视频截图）

《管理提示》要求，各相关省局督促辖区内短视频平台查处、清理AI“魔改”影视剧短视频，严格执行生成人工智能内容审核要求。对AI特效功能等进行自查，对平台使用和传播的各类相关科技产品进行严格准入和监管，对AI生成内容进行突出提醒。

AI视频加速发展

换脸、配音等使假的看起来很真实

2023年，人工智能将开始“爆发”。 2024年，人工智能不断创新突破，技术取得长足进步，新业态不断涌现，特别是在大模型视频生成领域。今年2月，OpenAI发布了Vincent视频模型SORA。 AI视频在分辨率、画面真实度、时序一致性等方面都有了显着提升，令人深感震撼。

一石激起千层浪，国内外多家科技公司开始布局AI视频。今年，我国极盟、科灵、海螺等AI平台不断推出视频生成新技术，表现亮眼。它们的效果已经超越了不久前才对外开放的SORA，处于世界“第一梯队”。封面新闻记者在多个平台进行测试发现，国内AI平台的文森特视频、土生视频、对口型配音的表现力和真实感在某些场景下足以“以假乱真”。

在此基础上，不少APP还开发了简单的“AI一键生成”功能。用户导入创作所需的图片、视频、音乐后，可以根据自己的喜好“定制”专属作品，制作出清晰度高、画质高、真实感强的高品质新作品。

然而，这样的AI技术在为创作者提供内容制作便利的同时，也造成了上文提到的AI“魔改”现象。与此同时，一些商家利用AI换脸等方式在互联网上谋取利润。

AI变脸后张文宏医生带来了蛋白棒（网络视频截图）

前段时间，知名传染病专家张文宏被商家利用AI变脸、合成人声制作视频，并通过网络“直播”的方式出售蛋白棒，许多老人都相信这一点。对此，张文宏12月12日接受媒体采访时回应称，这样的销售账号不止一个，而且一直在变化。他曾多次向平台投诉。 “很多不明真相的人，尤其是对人工智能不太熟悉的老年人，很容易相信这一点。”此外，张文宏也考虑过向警方求助，但对方看不到、摸不着，而且经常更换账号，很难找到准确的目标报警。

张文宏的经历并不是第一次。去年，在江西上饶，68岁的丁奶奶因观看视频陷入“假靳东”骗局。丁奶奶在网上发现了一段靳东的假视频。她相信这是靳东本人发的。她给他发私信交换礼物，三年就花了三万多块钱。

今年国庆节，“雷军”对网络上的堵车、放假、游戏等热门话题发表尖锐评论，引发网友热议。但事实上，这些内容与雷军无关，而是有人通过人工智能配音制作的。

《2024人工智能安全报告》显示，2023年基于AI的深度伪造欺诈增长3000%； 2024年上半年，人工智能诈骗案件案值突破1.85亿元。

12月15日，腾讯官方内容安全传播网站微信“珊瑚安全”公众号发布公告称，微信迅速严厉打击了一批利用AI冒充明星进行不当营销、恶意获取流量的违法行为，并针对相关情况进行了打击。开展专项管理，截至目前共处置内容532条，关闭账号209个。

封面新闻记者从业内人士处了解到，目前抖音、快手等短视频平台对AI生成视频也进行了较为严格的审核。除了在屏幕上标记提醒文字外，它们还限制某些视频的流量。

AI“魔改”诸葛亮戴上墨镜（网络视频截图）

AI技术的“边界”在哪里？

专家：风险控制要提前做好

人工智能技术的快速发展正在推动相关领域发生深刻变革。对于AI“魔改”视频，网友也有不同的看法。有网友认为，AI二次创作的“魔改”很有创意，只是为了“画面快感”。它通过新技术重新诠释经典，不宜过于苛刻。也有网友认为，AI的不合理创作是对原创作品的侵犯，存在法律风险。

AI技术的“边界”在哪里？我们应该从哪些方面更好地规范人工智能技术的发展？四川大学文学与新闻学院研究员、博士生导师宋尧教授认为，人工智能只是一种技术工具。关键是用户必须对信息的来源有一个价值判断。政府、平台、企业需要提前控制风险。

宋耀表示，政府部门可以妥善管理AIGC的内容。 “如果涉及到偏向公益性、普及性、教育意义的信息，因为会影响公众的判断，政府可以通过政策进行引导。”同时，政府还应加大对人工智能技术上游企业的监管力度，确保整个链条的透明度。

对于AI技术的源头公司，宋耀认为，公司本身也需要加大对技术的管理。 “企业可以尝试利用技术，在视频上贴上‘AIGC生成的筛选标签’并永久保留，以便更清楚地提醒公众。”他还建议 AIGC 视频应可追溯其来源。企业可以利用区块链等方法，用人工智能生成的标记来标记视频。平台可以通过这个标记找到其背后的数据模型，起到溯源后管理用户的作用。

“我认为，在使用相关AI软件之前，可以考虑通过合同来限制用户行为。比如，用户可以在软件使用过程中限制作品的版权。如果使用AI生成作品，可以要求用户遵守条款比如不能商业化、不能生成非法作品等，用于预先设定生成的内容，并通过合同限制他人滥用原创作品。”电子科技大学公共管理学院副教授、英信律师事务所律师黄晓迅表示。

“培养用户的相关意识是非常有必要的，因为我们现在面临着越来越多与AI相关的领域，个人很有可能成为AI作品的创作者。在相关技术的发展过程中，我们其实有一个认识，我们知道，如果我们回顾著作权法的整个发展过程，每当面对新技术、新形式的作品就会产生，公众对“现实”就会产生新的法律认识。 ”黄晓迅告诉封面新闻记者，这是非常有必要的。提高公众使用AI相关产品的法律意识，因为人工智能涉及面很广，比如AI的学术研究过程，也会引起相关的伦理问题，但是很多用户的法律意识不高。人工智能工具的定义非常模糊。

AI“魔改”涉及法律风险

律师：恶搞或侵犯原作著作权

AI换脸、AI“魔改”是否会违反相关法律？ AI作品能否拥有自己的版权？对此，陕西恒达律师事务所高级合伙人、知名公益律师赵良山在接受封面新闻记者采访时表示，未经作者许可，利用AI技术对原创作品进行“魔改”。版权所有者，其在许多关键特征上不同于原作。作品极其相似，甚至亵渎、玷污原作，从而符合“接触”、“实质相似”的侵权认定标准。该平台侵犯了原作的复制权、改编权等著作权。如果人工智能对原作品进行“神奇改变”，构成侵权，那么人工智能衍生作品将因其本身的违法性而无法享有著作权。

封面新闻记者查阅民法典时发现，AI换脸技术涉及肖像权、名誉权、隐私权等多项权利。根据我国《民法典》第一千零一十九条规定，任何组织和个人不得以诽谤、污损或者利用信息技术侵犯肖像权的方式创作、使用、展示他人肖像。其他人的。利用AI换脸技术制作虚假肖像侵犯他人肖像权，可能引发侵权纠纷。

“当用户利用人工智能换脸技术进行伪装，导致伪装者的肖像权等权利受到侵犯，或者给他人的感情和财产造成较大损害时，平台未尽到合理的审查义务，不予赔偿。”从而有效规范此类行为。在这种情况下，您需要承担一定的协助侵权甚至直接侵权的法律责任。 ”泰和泰律师事务所律师刘青表示，除非平台有意为之或协助诈骗者实施诈骗行为，否则很难认定平台构成诈骗。