开栏语：配资炒股公司
AI技术正以前所未有的速度重塑世界，也在现实中投射出重重乱象。几天前，“slop”（AI批量产出的劣质内容）被评为年度热词。过去这一年，我们见证了AI“一键脱衣”打开潘多拉，捏个“假偶像”直播捞金；赛博算命、智商税学习机屡屡上新，学术圈和诈骗团伙也都在狂刷AI副本……上游新闻特别推出“年度AI乱象调查”专题，盘点六大AI“翻车”现场，带你看透乱象背后的深层逻辑和监管难点，探讨AI乱象综合整治之道。
技术无善恶，道德有底线。这场AI安全保卫战，没有局外人和旁观者。
随着人工智能（AI）技术的不断发展，对AI技术的滥用也随之出现，在我们对AI乱象的调查中，一个刺眼的关键词反复出现——“一键脱衣”。从现实中警方通报的案件，到虚拟世界那些灰色的应用，无不刺痛大众的眼睛。曾经专业的修图工具、爱美女士的P图小程序都悄然异化成别有用心者满足私欲的手段。“一键脱衣”技术缘何而来？当前各种灰色应用的命运如何？有关部门以及平台对此出台了什么监管措施？我们一起来看看。
多起典型案例触目惊心
2024年6月，北京警方通报了一起案件中，警方接到报案，有人在境外的网站上发广告，只需一张日常生活照片，就可以完成一键“去衣”的效果。经查，嫌疑人白某某在境外社交媒体上接触到一款人工智能软件，于是动起了歪心思，打算利用这项技术来赚钱，一张经过处理的照片收费1.5元。白某某用软件对被害人的图片“一键去衣”，然后在QQ上贩卖相关图片近7000张。
涉案的是一款什么软件呢？据白某某供述，这项技术并不是真的“去衣”，而是一种伪造、重绘的技术。北京海淀区检察院检察官助理郭树正介绍：“我们可以把它理解为深度的图片伪造，它并不是真的去掉别人照片上的衣服，其实都是针对已有的模型和已有的模组进行图片重绘。”据悉，这项技术操作起来十分简单，去衣只需要一键就能完成。
女子在自己照片被人用软件恶意修改后表示，将进行维权处理。 网络图
其实，在白某某案件之前，已经有类似事件发生。2023年3月，广州一张女子在地铁上的照片被人用一款AI软件“一键脱衣”，造谣图随后在网上广泛传播，相关话题甚至冲上了热搜。经查，当事女子所谓的“裸照”是本人分享的一张正常照片，衣着没有任何不妥之处，但被人用AI软件“一键脱衣”。
此前有媒体报道，在一些社交平台上有一些灰色应用可以用于“一键脱衣”，某种程度助长了丑恶现象的泛滥，这也是人们要求对这种现象进行严打的原因之一。
17日，上游新闻在某平台以“一键脱衣教程”为关键词进行搜索，出现一个视频教网民使用某款软件“实现AI消除术”，视频中对一张正常女子穿衣的照片进行操作，但没有展示最终“去衣”效果。文本隐晦地称，可以继续操作下去，“可以发挥想象力。”上游新闻随即向平台投诉，平台立即回应“已重点关注”，随后该视频搜索不到了。
经举报涉嫌账号视频被平台“重点关注”。 平台截图
国外相关应用软件已经下架
AI“一键去衣”是一种什么技术？又是从哪里起源的？资料显示，相关AI技术的发展也有一个从“换脸”到“深裸”的渐进过程。
2017年12月，一个名为“深度伪造”（deepfakes）的用户在美国论坛Reddit上发布了多段色情视频，他让电脑学习好莱坞女明星的图像资料，然后把女明星的面部移植到色情片女主角脸上，近乎完美地实现了动态换脸，这引发了大量讨论和抨击，最后以账号被封告终。
不过，AI换脸并未消失，用户“深度伪造”随后直接开源了项目代码，更多效仿者随之而来，甚至为了“纪念”他，用他的名字（deepfakes）代称“AI换脸”技术。2018年1月，一个名为FakeApp的软件上线，可实现“一键换脸”。虽然Reddit明令禁止换脸视频和图片在该网站传播，但仍有超过9万名用户在Reddit上传播这类视频。
2020年，一款名为DeepNude（深裸）的App宣称能实现“一键脱衣”。它的操作十分简单，只要给它一张人像照片，等待30秒，就能得到一张裸照。由于风险超出可控范围，研发团队在产品上线几天后便匆忙下架了该产品。“我们启动这个项目是出于娱乐的目的……从没想过它会像病毒一样扩散。从现在开始，不再放出任何版本，也不会授权任何人使用。”DeepNude团队发表公开声明称。这项技术也被公开批评，认为“DeepNude是AI技术最糟糕的应用之一”。
网上灰色软件已难觅踪迹
“DeepNude”虽然在美国被下架，但它的出现仿佛彻底打开了潘多拉的魔盒，一些类似软件应用悄然出现。国内一位资深算法工程师告诉记者，虽然“DeepNude”因为伦理问题下架，但不排除有人通过其他AI算法训练机器，以达到同样的效果。
此前据媒体报道，在2023年，不少平台上能买到具有“一键去衣”功能的相关软件，不少网友也在网上购买、交流相关软件和产品的使用心得。如某款产品就明确标注，“该软件可实现真人转卡通功能、换头和换衣功能”。这款软件售价仅需16.66元，月销量达到200单以上。有人在该店铺评论区提出疑问，“真能去衣？”多人回复称“可以”。另据报道，当时在一个名为“deepfake”的贴吧里，与AI换脸有关的帖子超过9000条，里面有大量明星换脸视频的售卖信息。
2024年，有媒体报道，某二手平台上一名卖家出售一款名为“换衣神器”的软件，售价为18.80元，声称“无论换衣还是重绘，都能轻松应对。”媒体记者与卖家沟通，对方隐晦地表示“可以去Y（衣）”。记者按照商家的提示操作，发现该APP的确可以实现“一键去衣”的功能。
不过，在经历有关部门的严厉整治后，这种现象已经得到极大改善。17日，上游新闻记者查看上述二手平台，发现该商品已经下架，提示“您要看的宝贝不在或已被删除”。售卖该商品的店铺也已经被封，提示“该用户因违反法规或闲鱼相关规则账号已被处置”。
记者又在多个电商平台、社交平台上搜索“AI换脸”“一键去衣”“一键去衣教程”等关键词，绝大多数无法显示或显示其他内容。仅在某平台出现一个视频教网民使用某款软件“实现AI消除术”，经举报，该视频已经无法搜索。
另外，在一些线上店铺，不少标明“智能消除”“智能扩图”等功能的软件，店主也回复称并不具备“一键去衣”的功能。
同日，上游新闻记者搜索deepfake贴吧，发现该贴吧已经被封。
今年，一些社交平台开始整治AI技术滥用。 网络图
监管部门携手平台严厉打击
针对AI乱象，2025年4月，中央网信办在全国范围内部署开展为期3个月的“清朗·整治AI技术滥用”专项行动。
据悉，本次专项行动分两个阶段开展，第一阶段就是强化AI技术源头治理，清理整治违规AI应用程序，加强AI生成合成技术和内容标识管理，推动网站平台提升检测鉴伪能力。第一阶段重点整治6类突出问题，就包括提供“一键脱衣”等违背法律、伦理的功能的违规AI产品。
今年4月，上海市委网信办指导小红书、哔哩哔哩、拼多多等15家重点网站平台，集中清理“一键脱衣”、未经授权的人脸或人声克隆编辑、未备案等违规AI产品、商品及相关营销、炒作、推广、教程信息。
小红书、哔哩哔哩主动发布了专项行动治理公告，开通了有害AI内容的举报受理处置渠道；星野开展智能体全面排查清理。各重点网站和AI平台共拦截清理相关违法违规信息82万余条，处置违规账号1400余个，下线违规智能体2700余个。经整治，网络违规AI信息显著减少。
销售软件制图“欣赏”均违法
如今“一键去衣”软件已经难寻踪迹，但如果仍有商家发布或售卖相关软件，是否承担法律责任？有人如果使用软件生成发布相关照片视频，仅用于保存或“欣赏”是否触犯法律？如果分享出来，又面临何种处罚？
知名刑事辩护律师、河南泽槿律师事务所主任付建称，制作图片视频、售卖“一键去衣”软件等行为，涉及侵犯个人隐私、肖像权，涉嫌违法甚至犯罪，可能面临刑事处罚。首先，售卖相关软件的商家，涉嫌制作、贩卖、传播淫秽物品罪，根据《刑法》的规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
其次，自然人的肖像权受到法律保护，非经自然人同意，不可直接制作使用他人肖像。网友如果使用软件生成相关照片视频，自己保存“欣赏”也涉嫌侵犯他人肖像权。如果制作后分享在微信群或者社交平台上，涉嫌侵犯他人肖像权、名誉权，需要承担一定的民事责任。其行为涉嫌违反《治安管理处罚法》，情节严重的可能涉嫌传播淫秽物品罪。
根据情节的严重程度，可能面临有期徒刑、拘役、罚金等刑罚。
针对AI换脸、去衣等现象，中央民族大学法学院教授李梁表示，首先要对人工智能应用违法的侵权主体进行明确划分；其次要对人工智能应用违法责任（后果）分担机制进行构建；再次，在综合考虑法理及社会利益的基础之上进行科学立法，建立健全人工智能应用相关法律体系，推动技术研究及科学发展，加强监督监管机制。
上游新闻据光明网、浙江在线、中国网信网、新京报、北京青年报等综合配资炒股公司
盛鹏配资提示：文章来自网络，不代表本站观点。
相关文章
热点资讯
