近年来，人工智能图像生成技术的发展带来了一个最邪恶的趋势，那就是可以"脱光"妇女和女孩衣服的网站和应用程序的兴起。现在，旧金山市检察官办公室正在起诉其中 16 个访问量最大的网站，目的是关闭它们。
这起诉讼是旧金山市首席副检察官伊冯娜-梅雷（Yvonne Meré）的主意，她曾读到过男孩们使用"裸体化"应用程序将衣着整齐的女同学照片变成假冒色情内容的报道。《纽约时报》写道，作为一名 16 岁女孩的母亲，梅雷希望能为这个问题做点什么，于是她召集同事起草了一份诉讼，旨在关闭 16 个最受欢迎的裸体网站。
申诉书称，在 2024 年的前六个月里，这些网站的总访问量达到了 2 亿次。其中一个脱衣网站打出如此露骨的广告："想象一下，当你可以通过[该网站]获取她的裸体时，你还会浪费时间和她约会吗？"
市检察官大卫-邱（David Chiu）说，这些网站的人工智能模型是利用真实的色情图片和描述虐待儿童的图片训练出来的，以制造深度伪造图片。他补充说，一旦这些图片流传开来，几乎不可能分辨出是哪个网站制作的。
诉讼称，这些网站违反了州和联邦报复色情法、州和联邦儿童色情法以及《加州不正当竞争法》。
"这次调查把我们带到了互联网最黑暗的角落，我绝对为那些不得不忍受这种剥削的妇女和女孩感到震惊，"Chiu 在 X 上说，"这是一个很大的、多方面的问题，作为一个社会，我们需要尽快解决这个问题。"
利用人工智能在未经本人同意的情况下制作裸体图像的问题由来已久--2020 年，人们发现 Telegram 上的一个深度伪造机器人根据社交媒体上的图像制作了 10 万多张伪造的女性裸照。
人工智能生成技术的最新进展加剧了深度伪造问题，使图片看起来更加逼真。今年 1 月，泰勒-斯威夫特（Taylor Swift）在网上分享的露骨图片导致美国立法者呼吁采取行动，Google也禁止了深度伪造色情和脱衣网站的广告。
本月早些时候，一项新的两党法案提议追究制作未经同意的"数字复制品"的实体的责任。2024 年《培育原创、培养艺术和确保娱乐安全法案》（NO FAKES Act）将规定，如果个人和公司创建、托管或分享未经同意的人工智能生成的个人音频或视频描述，将承担损害赔偿责任。