周一，一名利用人工智能技术制作儿童性虐待图像的男子被判处18年监禁，这是英国对深度伪造案件的一次具有里程碑意义的起诉。休-尼尔森（Hugh Nelson）现年 27 岁，来自博尔顿（Bolton），他承认犯有 16 项儿童性虐待罪行，包括使用美国软件供应商 Daz 3D 的人工智能工具将真实儿童的日常照片转化为性虐待材料。
他还承认怂恿他人对儿童实施性侵犯。在博尔顿刑事法院，法官马丁-沃尔什（Martin Walsh）对纳尔逊实施了延长刑期的判决，称他构成了对公众造成伤害的"重大风险"。 这意味着纳尔逊要服满三分之二的刑期才有资格获得假释。
人工智能的进步意味着伪造图像变得更加逼真，也更容易创建，这促使专家们对计算机生成的儿童不雅图像的增加发出警告。英国皇家检察署有组织儿童性虐待部门的检察官珍妮特-史密斯（Jeanette Smith）说，尼尔森的案件为如何起诉计算机生成的图像和不雅和露骨的深度伪造图像开创了新的先例。这起案件是同类案件中的首例，但随着技术的发展，我们希望能看到更多此类案件得到审判。"
大曼彻斯特地区警方在纳尔逊的设备上发现了真实的儿童图像和计算机生成的儿童性虐待图像，这些设备是去年 6 月扣押的；计算机生成的图像看起来与真实照片并不完全相同，但可以归类为"不雅照片"，而不是"违禁图像"，后者的刑罚通常较轻。 史密斯说，之所以可以这样做，是因为调查人员能够证明这些图像来自发送给尼尔森的真实儿童图像。
尼尔森在 8 月份承认，他根据客户的具体要求制作并销售定制的儿童性虐待图像。 他利用客户提交的真实照片生成了儿童的数字模型。 警方还说，他还在网上免费或付费传播他制作的图像。
目前，科技行业和监管机构都在努力应对生成式人工智能带来的深远社会影响。 Google、Meta 和 X 等公司一直在努力解决其平台上的深度伪造问题。英国国家犯罪署署长格雷姆-比加尔（Graeme Biggar）去年警告说，该署已经开始看到人工智能生成的超逼真儿童性虐待图像和视频。他补充说，观看这类材料，无论是真实的还是计算机生成的，"都会实质性地增加犯罪者自己对儿童实施性虐待的风险"。
大曼彻斯特警方的专业在线虐待儿童调查小组表示，电脑生成的图像已成为他们调查的常见特征。"这起案件是对立法的一次真正考验，因为以这种特殊方式使用计算机程序对这类犯罪来说是非常新的，而且英国现行法律中也没有专门提及，"侦探警员卡莉-贝恩斯（Carly Baines）在 8 月份尼尔森认罪时说。
去年 10 月通过的英国《在线安全法》规定，传播未经同意的色情深度伪造文件属于违法行为。 但尼尔森是根据现行的虐待儿童法被起诉的。
史密斯说："随着人工智能图像生成技术的进步，区分不同类型的图像将变得越来越具有挑战性。是照片还是计算机生成的图像之间的界限将变得模糊。尼尔森所使用软件的开发公司Daz 3D表示，其用户许可协议"禁止将其用于制作违反儿童色情或儿童性剥削法律，或对未成年人有害的图像"，它表示将"致力于不断提高"其防止软件被用于此类目的的能力。