Google广告、购物广告、AdMob 和其他Google广告产品将很快禁止deepfakes伪造性内容、合成性露骨内容或包含裸体的合成内容，现在，任何围绕这些类型内容的应用或服务都将被禁止合作，该规定于 2024 年 5 月 30 日生效。
Google写道："Google致力于营造一个安全和相互尊重的广告环境。根据这一目标，我们正在更新有关推广合成性内容的政策。我们非常重视违反本政策的行为，并将其视为恶劣行为。如果我们发现您违反了这一政策，一经发现，我们将暂停您的 Google Ads 账户，并且不会事先发出警告，您将不得再向我们投放广告。请查看此政策更新，以确定您的任何广告是否属于该政策的范围，如果是，请在 2024 年 5 月 30 日之前删除这些广告。"
这不仅适用于 Google 广告，也适用于 Shopping Ads、AdMob、Ad Manager 和其他 Google 广告项目。
Google表示不再允许合作伙伴实施如下行为：
推广生成、分发或存储合成色情内容或合成裸体内容的服务。这包括制作"deepfakes"和其他经过处理的图像的服务。
提供合成色情内容或合成裸体内容制作说明的内容广告。
有关内容的界定，Google列出了这些例子：
声称能生成深度伪造色情内容的网站或应用程序。
关于如何制作深度伪造色情作品的教程。
认可或比较深层伪造色情服务的广告。
近年来，未经同意的deepfake色情作品已成为一个持续存在的问题。去年 12 月，佛罗里达州两名初中生因涉嫌制作人工智能生成的同学裸照而被捕。就在本周，一名 57 岁的匹兹堡男子因持有深度伪造的儿童性虐待材料而被判处 14 年以上监禁。 去年，美国联邦调查局发布了一份警告，称用人工智能生成的裸体照片敲诈勒索的勒索计划 "有所上升"。虽然许多人工智能模型让用户很难（甚至不可能）创建人工智能生成的裸体，但有些服务确实允许用户生成性内容。
针对deepfake色情内容的立法行动可能很快就会出台。上个月，众议院和参议院提出了《DEFIANCE 法案》，该法案将建立一个程序，"数字伪造"的受害者可以通过该程序起诉制作或传播未经同意的深度伪造者。