2025年7月，香港大学的几名女生在社交媒体上曝光了一名法律系男生的电脑中存有涉及约20名女性的色情合成图。根据2024年9月韩国教育部发布的报告，439起校园深伪事件中，12起涉及小学生。北京海淀检察机关调查一起案子后发现，出售“AI脱衣教程”的社群已有2.7万名成员。AI生成的色情内容中，脸部换脸的技术最为常见，能够将视频中的面孔替换为其他人，使得最初出演者看起来像是另一名人士。这类工具的交易已成为一项独立的商业，尤其是在专属的社群中，1500余人参与“一键脱衣”的付费讨论。

2025年6月，因举报群组而被捕的孙某从中获利超过10万元，随后被判刑一年六个月并罚款2万元。这类工具也逐渐进入了主流应用商店。据TTP统计，2026年1月在Google Play和苹果App Store中发现分别有55款和47款具备性化处理功能的应用，其中部分甚至标注为适合全年龄使用。AppMagic数据显示，这些应用的总下载量已超7亿次，累计收入约1.17亿美元。

在社交媒体平台上，AI生成色情内容的传播情况也日益严重。根据英国的一项调查显示，年轻人接触色情内容的大部分渠道是社交平台。英格兰儿童事务专员在2025年发布的调查显示，45%的受访者在社交媒体X上见过色情内容，超过专门色情网站的35%。到2026年，X平台甚至直接推出了改图工具，进一步影响了内容的传播。在接触过色情内容的受访者中，有59%表示曾无意中见到这些内容，主动搜索的比例为35%。这使得许多人在日常浏览社交平台时很容易就会接触到色情内容。

在国内，青少年模式和学习应用也不是完全安全的环境。网信部门在2024年12月的通报中指出，部分社交平台开启青少年模式后，仍会出现色情内容诱导未成年人加入群组或下载应用。部分学习平板也存在短视频应用推送擦边舞蹈和色情网站引流信息的问题。AI生成的内容逐渐渗透到常用平台。2026年9月2日，网信部门通报指出，多个社交平台上的账号利用AI技术制作低俗内容进行盈利。

即使是一次主动搜索，基于大数据的推荐机制会导致后续持续接收相关内容。《检察日报》在2025年7月的测试中发现，记者注册新账号后搜索相关内容，接下来的几天即使不再搜索，平台依然自动推荐与之相关的内容。这个问题更不能简单归咎于工具本身，而在于使用这些工具的人。

尽管封堵措施依然有效，像MrDeepFakes这样的服务在2025年停止运营，但要根除这一现象依然不易。国内的“清朗”专项行动已将“一键脱衣”列为整治对象，AI生成内容的标识制度也于2025年9月实施。然而，这些措施并不能自动阻止个人继续利用已下载工具进行恶行。法律法规在这一方面显得仍有不足，相关规定只对于淫秽物品有描述，却缺乏对擦边、软色情和性暗示内容的明确限制。随着AI技术在生活中愈发普及，色情内容也在不断演变，社会各方需共同面对这一严峻的挑战。