开栏语：

具备AI技术正以从未有过的速度对世界进行重塑，并且在现实当中映射出诸多乱象。就在几天之前，“slop”也就是AI批量产出的劣质内容被评选为年度热词。在过去的这一年时间里，我们目睹了AI凭借“一键脱衣”打开了潘多拉，凭借捏出来个“假偶像”进行直播捞金；赛博算命、智商税学习机经常性地上新，学术圈以及诈骗团伙也都会疯狂地刷AI副本……上游新闻专门推出了“年度AI乱象调查”专题，盘点六个AI“翻车”现场，带领你看透乱象背后隐藏的深层逻辑以及监管难点，从而探讨AI乱象综合整治的办法 。

技术不存在善恶之分，道德具备底线，这场关于AI安全的保卫战，不存在局外人，不存在旁观者。

人工智能也就是AI技术持续发展着，与之相随的是AI技术滥用情况出现了，于我们针对AI乱象展开的调查里，有个很刺目扎眼的关键词老是不断反复出现，这个关键词就是“一键脱衣”，从现实当中警方通报的那些案件开始说起吧，再到虚拟世界里那些存在灰色地带的应用，无一不是在刺痛着大众的眼睛，曾经呀那可以说是属于专业范畴专门用途的修图工具，还有爱美女士使用的P图小程序，结果全都静悄悄地背离了原本用途，异化成了心怀不良企图的人用来满足自身私欲的手段，“该是怎样的根源致使‘一键脱衣’技术出现的呢”，“当前各类有着诸多灰色用途且存在问题的应用最终会是怎样的一种命运走向”，“有关部门以及相关平台针对这样棘手的情况究竟相应出台了什么样的监管措施呢”，我们一块儿来瞧瞧看。

多起典型案例触目惊心

2024年6月，北京警方通报了一起案件，该案件中，警方接到报案，有人在境外网站放上广告，承诺只需一张日常生活照片，就能达成一键“去衣”效果。经过调查，嫌疑人白某某在境外社交媒体接触到一款人工智能软件，随后起了歪念，妄图利用此技术赚钱，一张处理后的照片收费1.5元。白某某借助软件给被害人의图片进行“一键去衣”，进而在QQ上售卖相关图片近7000张。

所涉及案件中的那一款软件究竟是什么呢 ，依据白某某的供词来讲 ，该项技术并非实实在在的“去衣”的技术 ，而是一种涵盖伪造以及重绘方面的技术 。北京海淀区检察院里边担任检察官助理的郭树正进行介绍时说道 ：“我们能够将其理解成深度性质的图片伪造行为 ，它并不是真正把别人照片上的衣服去除掉 ，实际上全部都是针对已经存在的模型以及已经存在的模组来开展图片重绘事宜 。”据了解 ，这项技术在操作层面是极为简便的 ，进行去衣步骤仅仅凭借一键便能够达成 。

有一女子，其照片被人运用软件恶意予以修改，之后该女子表明，会展开维权方面的处理 。网络图。

其实，在白某某案件之前，类似事件已然发生。2023年3月，广州有一张女子在地铁上的照片，被人借助一款AI软件进行“一键脱衣”操作，那张造谣的图片随后在网上广泛传播开来，相关话题甚至还冲上了热搜。经过查证，当事女子那所谓的“裸照”，是本人分享的一张正常照片，其衣着不存在任何不妥的地方，然而却被人利用AI软件进行了“一键脱衣” 。

此前，有媒体进行了报道，在一些社交平台之上，存在着一些灰色应用，这些应用能够被用于“一键脱衣”，在某种程度方面，使得丑恶现象生长出来从而广泛泛滥起来，这也是人们要求针对这种现象展开严厉打击行动的原因当中的一个 。

17日那天，上游新闻于某平台里面，以“一键脱衣教程”当作关键词来展开搜索，结果出现了一个视频，这个视频是教网民去使用某款软件从而“实现AI消除术”的，在视频当中，针对一张一名正常女子穿着衣服的照片做了操作，然而却并没有展示最终“去衣”之后的效果，文本隐晦地表示，能够继续操作下去，“可以发挥想象力。”，紧接着上游新闻就向该平台进行投诉，平台立刻回应“已重点关注”，而后那个视频就搜索不到了。

经举报涉嫌账号视频被平台“重点关注”。   平台截图

国外相关应用软件已经下架

AI “一键去衣” 究竟是何种技术呢，它又是源自什么地方呢，资料表明，相关 AI 技术的发展存在一个从 “换脸” 到 “深裸” 的逐步推进的过程 。

2017年12月，有个叫“深度伪造”（deepfakes）的用户在美国论坛Reddit上发布了好多段色情视频，他让电脑去学习好莱坞女明星的图像资料，接着把女明星的脸移植到色情片女主角脸上，近乎于完美地达成了动态换脸，这样的行为引发了大量的议论和指责，最终以账号被封禁结束。

然而，AI 换脸没有消逝，后面用户“深度伪造”直接公开了项目代码，跟着更多效仿者涌现，甚至于为了“纪念”他，拿他的名字（deepfakes）来称呼“AI 换脸”技术。2018 年 1 月，一款叫 FakeApp 的软件上线，能够达成“一键换脸”。尽管 Reddit 明确禁止换脸视频和图片在这个网站传播，可是依旧有超过 9 万名用户在 Reddit 上传播这类视频。

2020年，有一款被叫做DeepNude（深裸）的App声称能够达成“一键脱衣”，它的操作极为简易，只要给其一张人像照片，等上30秒，便能够获取一张裸照，因风险超出了可控的范畴，研发团队在产品上线没几天就急忙下架了该产品，“我们开启这个项目是源于娱乐的意图……压根就没想过它会如病毒一般扩散，从当下开始，不会再放出任何版本，也不会授权任何一个人去使用。”DeepNude团队发布公开声明讲道。受到公开批评的这项技术被认为，“DeepNude是AI技术最糟糕的应用之一” 。

网上灰色软件已难觅踪迹

被在美国下架的“DeepNude”，其出现就好像是彻彻底底地将潘多拉的魔盒给打得大开，一些与之类似的软件应用静悄悄地冒了出来。国内有一位资深算法工程师跟记者讲，凭借其他AI算法训练机器，借此达到同样效果，但不排除如此情况，尽管“DeepNude”因伦理问题而下架。

早在之前，按照媒体所进行的报道显示，在二零二三年那个时候，有好多平台上面能够买到具备“一键去衣”功能的相关软件，不少网友还在网络上花钱购买了此类软件，并且交流分享了有关这些软件以及产品的使用感受和体会。就好比有某一款产品明确作出了标注，声称，“这款软件能够达成真人转换为卡通的功能、进行换头以及换衣的功能”。这款软件的售卖价格一共只需要十六点六六元，一个月的销售量达到了二百单以上。有人在这个店铺的评论区域里面提出了问讯，“真的能够去掉衣服吗？”好多人回复表示“是可以的”。另有报道称，那会儿在一个叫“deepfake”的贴吧当中，跟AI换脸相关的帖子数目超过9000 条，其中存在大量明星换脸视频的售卖讯息。

2024年，有媒体进行了报道，讲述某二手平台上，有一名卖家，在售卖一款名为“换衣神器”的软件，软件售价是18.80元，卖家声称，不管是换衣，还是重绘，都能够轻松应对。媒体记者和卖家展开沟通，对方隐晦地表示，可以去Y（衣）。记者依照商家的提示去操作，发现该APP确实能够实现“一键去衣”的功能。

可是，在经过有关部门的严格整治以后，这样的现象已然获得极大的改进。17日，上游新闻的记者去查看上述的二手平台，发觉该商品已然下架，给出提示“您所要查看的宝贝并不存在或者已经被删除”。售卖该商品的店铺也已经被封禁，给出提示“该用户由于违反法规或者闲鱼相关的规则账号已然被处置”。

在多个电商平台上，记者搜索了“AI换脸”，在社交平台上，记者又搜索了“一键去衣”，记者还包括把“一键去衣教程”等关键词也进行了搜索，结果绝大多数都是无法显示或者只是显示其他内容。仅仅存在于某平台，有一个视频出现了，这个视频是教网民怎么使用某款软件来“实现AI消除术”，已经向相关方面举报了，现在该视频已经没办法搜索到了 。

此外，于一些线上的店铺之中，诸多标明有着“智能消除”以及“智能扩图”等功能的软件，店主也回应声称并不具备“一键去衣”的功能。

于同一天，在上游做新闻工作的记者，去搜索名为deepfake的贴吧，结果发现，那个贴吧已然已被封禁了。

该图片疑似AI生成

今年，一些社交平台开始整治AI技术滥用。 网络图

监管部门携手平台严厉打击

在2025年4月的时候，针对AI出现的乱象，中央网信办开始在全国范围内部署开展一项专项行动，这项行动为期3个月，它叫“清朗·整治AI技术滥用”专项行动 。

据悉，本次的专项行动是分两个阶段来开展的，其中第一阶段呢，是要强化AI技术源头的治理工作，要对违规的AI应用程序进行清理整治举动，要加强AI生成合成技术及其内容标识的管理事宜，还要推动网站平台去提升检测鉴伪的能力。第一阶段要重点整治6类突出的问题，这其中就涵盖了提供“一键脱衣”等违背法律、伦理的功能的违规AI产品。

今年4月，上海市委网信办对小红书、哔哩哔哩、拼多多等15家重点网站平台加以指导，针对“一键脱衣”，针对未经授权的人脸或人声克隆编辑，针对未备案等违规AI产品，针对商品及相关营销、炒作、推广、教程信息，进行集中清理 。

小红书主动发布了专项行动治理公告，哔哩哔哩也如是，它们皆开通了有害AI内容的举报受理处置渠道，星野则开展了智能体全面排查清理。各重点网站和AI平台一同拦截清理了相关违法违规信息，数量达82万余条，还处置了违规账号1400余个，下线违规智能体2700余个。经过整治，网络违规AI信息明显减少了。

销售软件制图“欣赏”均违法

现在，“一键去衣”软件已经几乎找不到了，然而倘若还有商户发布或者售卖这类软件，需不需要承担法律责任呢？要是有人运用软件生成并发布相关照片和视频，仅仅用于保存或者“欣赏”，会不会触犯法律呢？要是分享出来，又会面临什么样的处罚呢？

名为付建的、身为知名刑事辩护律师同时还是河南泽槿律师事务所主任的人表示，存在制作图片视频、售卖“一键去衣”软件这类行为，此行为涉及到对个人隐私、肖像权的侵犯，是涉嫌违法甚至犯罪的，并且可能会面临刑事处罚 。首先，涉及售卖相关软件的商家，存在涉嫌制作、贩卖、传播淫秽物品罪的情况，依据《刑法》规定，若以牟利为目的，进行制作、复制、出版、贩卖、传播淫秽物品的行为，会被判处三年以下有期徒刑、处于拘役或者受到管制，同时还要被处罚金；要是情节处于严重程度，会被判处三年以上十年以下有期徒刑，并且要被处罚金；要是情节特别严重，会被判处十年以上有期徒刑或者无期徒刑，接着会被处罚金或者没收财产。

其次，法律对自然人的肖像权予以保护，在未经自然人同意的情况下，不可直接制作并使用他人肖像。要是网友使用软件生成相关照片视频，即便只是自己留存“欣赏”，也涉嫌侵犯他人肖像权。倘若制作后在微信群或者社交平台上进行分享，那就涉嫌侵犯他人肖像权以及名誉权，还需承担一定的民事责任。其行为涉嫌违反《治安管理处罚法》，情节严重的话可能涉嫌传播淫秽物品罪。

根据情节的严重程度，可能面临有期徒刑、拘役、罚金等刑罚。

对于AI换脸、去衣等现象，中央民族大学法学院中，有一位教授李梁，他表示，其一，得先对人工智能应用违法时的侵权主体，去做明确的划分；其二，要构建起人工智能应用违法责任，也就是后果的分担机制；其三，在综合考量法理以及社会利益的基础之上，开展科学立法，打造并完善人工智能应用相关的法律体系，促使技术研究以及科学发展能够顺利推进，还要加强监督监管机制。

光明网、浙江在线、中国网信网、新京报、北京青年报等消息，被上游新闻综合 。