联邦调查局以刑事指控逮捕了一名男子，因为他涉嫌使用人工智能生成儿童性虐待图像，然后发送给未成年人。检方称，来自威斯康星州霍尔门市的 42 岁男子史蒂文-安德雷格（Steven Anderegg）涉嫌使用文本到图像生成人工智能模型 Stable Diffusion 制作"数千张青春期前未成年人的逼真图像"。
司法部在周一的一份公告中说："这些图像中有许多描绘了裸体或半裸的未成年人淫荡地展示或触摸自己的生殖器，或与男性发生性关系。从安德雷格的电子设备中找到的证据显示，他利用与未成年人有关的特定、露骨的文字提示生成了这些图片，然后将其存储在自己的电脑中。"
据称，他随后与一名 15 岁的男孩进行了交流，描述了自己创建图片的过程，并通过 Instagram 的直接消息向他发送了几张人工智能生成的未成年人图片。在一些信息中，安德雷格告诉 Instagram 用户，他使用 Telegram 发布人工智能生成的 CSAM。法庭记录指控说："他通过 Instagram 和 Telegram 积极建立了一个由臭味相投的犯罪者组成的在线社区，在这个社区里，他可以炫耀他对未成年人的淫秽描绘，并与这些其他犯罪者讨论他们对儿童的共同性兴趣。换句话说，他利用这些 GenAI 图像来吸引其他罪犯，这些罪犯可以将他对儿童的性兴趣正常化并加以确认，同时助长这些罪犯和他自己看到未成年人遭受性虐待的兴趣。"
这标志着联邦调查局首次指控某人利用人工智能制作儿童性虐待材料。
今年 3 月，威斯康星州警方指控安德雷格两项"让儿童接触有害材料"的罪名，以及另一项"与 13 岁以下儿童发生性接触"的罪名，但他拒绝认罪。根据福布斯当时的报道。警长的副手在一份宣誓书中说，安德雷格在网上接受其他人的请求，生成青少年的人工智能图像，现今人工智能色情市场已经成为 滥用图像制造商的大生意.
公告指出，安德雷格之所以落网，是因为 Instagram 向国家失踪与被剥削儿童中心报告了他的账户传播图片的行为。
法庭记录称，"他的笔记本电脑里有 13000 多张 GenAI 图像，其中数百张（如果不是数千张的话）描绘了未成年裸体或半裸的未成年人淫荡地展示或触摸自己的生殖器。还有一些图片描绘了未成年少女触摸看似成年男性的阴茎或进行性交的画面。笔记本电脑中的其他证据表明，他使用了极其具体和明确的提示来创建这些图像。同样，他还使用了特定的'负面'提示，即指导 GenAI 模型在生成的内容中不包含哪些内容的提示，以避免生成描绘成年人的图像"。
此前媒体报道了Stable Diffusion生成儿童性虐待材料的能力，以及生成式人工智能公司承认其用户可能使用其工具制作 CSAM 的情况，尽管官方已经使用"负面提示"来避免创建成人人工智能图像的情况。这个案例证明了在线虐童问题专家几个月前警告过的问题，当时LAION-5B 数据集被发现包含疑似儿童性虐待图像。专家曾警告过：即使在人工智能生成的图像中无法识别真实的儿童，性剥削者者也可能利用生成的图像来诱骗真实的儿童。
首席副助理司法部长 Nicole M. Argentieri 在联邦调查局的一份新闻稿中说："今天的公告传达了一个明确的信息：使用人工智能制作儿童色情图片是非法的，司法部将毫不犹豫地追究那些拥有、制作或传播人工智能生成的儿童性虐待材料的人的责任。"
安德雷格被联邦拘留，等待定于 5 月 22 日举行的拘留听证会。