欧盟委员会今天宣布，根据更新现有立法以跟上技术发展步伐的计划，人工智能生成的图像和其他形式的描述儿童性虐待（CSA）的深度伪造行为可能会在欧盟被定为犯罪。欧盟还提议将直播儿童性虐待行为定为新的刑事犯罪。根据该计划，拥有和交换"恋童癖手册"也将被定为刑事犯罪--欧盟称这是更广泛的一揽子措施的一部分，旨在加强对儿童性虐待的预防，包括提高对网络风险的认识，使受害者更容易报案和获得支持（包括赋予他们获得经济赔偿的权利）。
欧盟在这一领域的现行规则可追溯到 2011 年，更新这一规则的提案还包括对强制报告违法行为的修改。
早在2022 年 5 月，委员会就提交了一份单独的 CSA 相关立法草案，旨在建立一个框架，规定数字服务必须使用自动技术来检测和报告其平台上流传的现有或新的儿童性虐待材料（CSAM），并识别和报告针对儿童的诱拐活动。
事实证明，CSAM 扫描计划极具争议性--它继续分裂着议会和欧盟理事会的立法者，同时也引发了人们对欧盟委员会与儿童安全技术游说者之间关系的怀疑，并给欧盟行政部门带来了其他尴尬问题，比如为推广该提案而进行的微目标广告宣传在法律上就存在问题。
欧盟委员会决定优先针对数字信息平台来解决 CSA 问题，这招致了许多批评，认为欧盟的立法者们在解决这一复杂的社会问题时专注于错误的领域--这可能对欧盟委员会提出后续建议产生了一些压力。(当然，欧盟委员会并没有这么说，而是称今天的一揽子方案是对其早先提出的 CSAM 扫描提案的"补充"）。
尽管如此，即使在有争议的私人信息扫描计划提出后不到两年的时间里，人们对深度伪造和人工智能生成图像的风险的关注度也在大幅上升，包括担心这种技术被滥用于生产 CSAM，以及担心这种合成内容会使执法部门在识别真正受害者时面临更大的挑战。因此，人工智能生成技术的病毒式蓬勃发展显然促使立法者重新审视相关规则。
委员会在今天的一份新闻稿中提出："儿童上网人数的增加和技术的发展都为虐待行为创造了新的可能性。"委员会还表示，该提案旨在"减少网络儿童性虐待和性剥削普遍存在的有罪不罚现象"。
委员会在提交提案前进行了一项影响评估，认为儿童上网人数的增加和"最新的技术发展"为 CSA 的发生创造了新的机会。委员会还表示，它担心成员国法律框架的差异会阻碍打击虐待行为的行动，并希望改进目前"有限的"预防 CSA 和援助受害者的工作。
内政事务专员伊尔娃-约翰松（Ylva Johansson）在一份支持性声明中补充说："快速发展的技术为在线儿童性虐待创造了新的可能性，也为执法部门调查这种极其严重和广泛的犯罪带来了挑战。强有力的刑法是必不可少的，今天我们迈出了关键的一步，以确保我们拥有有效的法律工具来拯救儿童并将犯罪者绳之以法。我们正在兑现我们在 2020 年 7 月提出的《欧盟更有效打击儿童性虐待战略》中所做的承诺"。
关于儿童的网络安全风险，委员会的提案旨在鼓励成员国加大对"提高认识"的投入。
与 CSAM 扫描计划一样，欧盟议会和理事会的共同立法者将决定提案的最终形式。而在议会选举和今年晚些时候重启专员委员会之前，谈判的时间有限，尽管今天的 CSA 打击提案可能会比信息扫描计划更不容易引起分歧。因此，在另一项计划停滞不前的情况下，这项计划有可能获得通过。
根据欧盟委员会的说法，如果/一旦就如何修订现行的打击 CSA 指令达成一致，该指令将在欧盟官方公报上公布 20 天后生效。