存在一个针对盗版成人内容的可运转的下架基础设施——它抓不到正在取代盗版的东西。MIT科技评论报道,Takedown Piracy已对超过5亿个视频生成指纹,仅从谷歌搜索就撤下了约1.3亿。该流水线基于已知来源的指纹匹配工作。同一演员经AI修改的副本——抹掉胎记或改变身体比例的小编辑——绕过了指纹识别,因为新文件不再与原始文件匹配。现存的基础设施是一个正在缩小的问题的基础设施。

该内容类别不是换脸深度伪造——而是身体型的。演员真实的身体被用作训练数据,然后以微小改动重新生成。文章引用的研究人员估计,超过1万TB的在线成人内容很可能存在于当前的AI训练语料库中,不过他们将此标记为「合理假设」而非测量数字(没有主要实验室在此粒度上发布语料库过滤审计)。点名的工具包括「裸化」应用Crushmate和Grok,以及短信约会应用Mynx,骗子在该应用上部署了知名演员的AI深度伪造来欺诈付费用户。Spicey AI——现已倒闭——曾尝试以相反方式形式化该问题:演员签订合同将其AI形似性的所有权让渡。

法律层正在形成但参差不齐。联邦《Take It Down Act》将非自愿亲密图像的发布定罪,这是以前不存在的牙齿。被引用的演员律师标记了双用风险:同一法规可能在虚假下架通知下被武器化用于反对自愿的表演内容。当托管方在俄罗斯、塞舌尔或荷兰运营时,DMCA链条完全崩溃。对于今天发货的图像和视频生成平台,这在两个层面上很重要:预训练语料库几乎肯定包含被抓取的成人内容,除非进行了有意的过滤通道(且很少有实验室记录过一个),而下游检测问题——识别生成的输出是真人的身体深度伪造——并未由现有指纹工具解决。

如果你发货图像或视频生成,实际含义是你不能依赖现有的下架生态系统来抓获从你的模型衍生的输出。文章引用的「embodied harms」研究将身体变形障碍和自我审查与面部深度伪造的创伤类别分别归类——机制不同,缓解方法不同。法律框架将继续移动;技术检测缺口不会自行关闭。