白宫宣布,它已获得人工智能模型开发者和数据提供者的"自愿承诺",以努力减少人工智能生成的性虐待图像数量。白宫从 OpenAI 和微软等几家大型人工智能公司获得了这些承诺。白宫表示,Adobe、Anthropic、Cohere、Common Crawl、微软和 OpenAI 已承诺负责任地采购其数据集,并保护其用户免受图像性侵犯。
Adobe、Anthropic、Cohere、微软和 OpenAI 也承诺使用反馈循环和迭代压力测试来防止其模型输出基于图像的性虐待。除 Cohere 外,所有这些公司还承诺从人工智能训练数据集中删除裸体图像。
拜登-哈里斯政府还宣布,其他大型科技公司正在实施以下措施:
Cash App 和 Square 正在遏制为制作、唆使或发布图像性虐待的公司提供支付服务,包括通过对资源、系统和合作伙伴关系的额外投资来检测和减少图像性虐待的支付。
Cash App 和 Square 承诺扩大对行业团体和倡议的参与,这些团体和倡议支持信号共享,以侦测色情勒索和其他已知的基于图像的性虐待形式,从而帮助侦测和限制支付服务。
Google继续在其平台上采取行动,解决基于图像的性虐待问题,包括在 7 月份对其搜索引擎进行更新,以进一步打击未经同意的亲密图像。
微软旗下公司 GitHub 已更新其政策,禁止分享以任何方式设计、鼓励、促进、支持或暗示使用合成或操纵媒体来创建未经同意的亲密图像的软件工具。
微软正在与StopNCII.org合作开展试点工作,以检测必应搜索结果中与幸存者报告的未经同意的亲密图像的重复内容并将其从列表中删除;开发新的公共服务公告,为受害者和幸存者推广有关基于图像的性虐待的可信、权威资源;并继续在其搜索引擎中降级低质量内容。
Meta 继续禁止在其平台上推广产生基于图像的性虐待的应用程序或服务,并已将 StopNCII 和 TakeItDown 等解决方案直接纳入其报告系统,还宣布已在 7 月份删除了约 63000 个试图从事性勒索的 Instagram 账户。Meta 最近还扩大了与 Tech Coalition 的现有合作关系,包括通过 Lantern 计划共享有关色情信息勒索活动的信号,帮助在更广泛的互联网范围内破坏这种犯罪活动。
Snap Inc. 承诺通过应用内工具和网站加强报告流程,并为基于图像的性虐待幸存者提供更多资源。
白宫表示,为确保公司继续关注这一问题,包括民主与技术中心在内的民间社会组织正计划成立一个多方利益相关者工作组,帮助确定预防和减轻图像性虐待伤害的干预措施。
此外,一些公司还承诺遵守 Thorn 和 All Tech is Human 提出的"设计安全"准则,该准则旨在打击滥用基因人工智能传播儿童性虐待材料的行为。Thorn 将于今年晚些时候发布第一轮透明度报告,如果立法者需要对科技公司施加更大压力,可以参考这些报告。