OpenAI 正在探讨是否应允许用户使用其产品制作人工智能生成的色情和其他露骨内容。虽然该公司强调，其禁止深度伪造的规定将继续适用于成人材料，但活动人士认为，该建议破坏了其生产"安全、有益"人工智能的使命宣言。
OpenAI 也是 DALL-E 图像生成器的开发商，它透露正在考虑让开发者和用户"负责任地"通过其产品创建所谓的"工作不安全（NSFW）"内容。OpenAI表示，这可能包括"色情、极端血腥、污言秽语和不请自来的亵渎"。
它说："我们正在探索是否可以负责任地提供在适合年龄的背景下生成 NSFW 内容的能力......我们期待着更好地了解用户和社会对这方面的行为模式的期望"。
该提案是OpenAI讨论如何开发人工智能工具的文件的一部分。
负责编写这份文件的旧金山公司员工乔安妮-张（Joanne Jang）告诉美国新闻机构 NPR，OpenAI 希望就是否应始终禁止在其产品中生成色情文本和裸体图像展开讨论。不过，她强调不允许深度伪造（Deepfake）。
"我们希望确保人们在不违反法律或他人权利的范围内拥有最大的控制权，但启用深度伪造是不可能的，"Jang 说。"这并不意味着我们现在就想制造人工智能色情内容。"
不过，她承认，这些作品是否被视为色情作品"取决于人们的定义"，并补充说："这些正是我们想要进行的对话："这些正是我们想要进行的对话"。
Jang 说，"在一些有创意的案例中，涉及性或裸体的内容对我们的用户很重要"，但这将在"适合年龄的背景下"进行探讨。
《柯林斯词典》将情色作品定义为"展示或描述性活动的艺术作品，旨在唤起性欲"。
今年，人工智能生成的色情内容泛滥成灾，X（Twitter的前身）被迫暂时禁止搜索泰勒-斯威夫特（Taylor Swift）的内容，因为网站上出现了大量深度伪造的泰勒-斯威夫特的露骨图片。
在英国，工党正在考虑禁止使用制作裸体图像的工具。保护儿童免受网络性虐待的慈善机构互联网观察基金会（Internet Watch Foundation）警告说，恋童癖者正在利用人工智能制作儿童的裸体图像，使用的技术版本可以在网上免费获取。反对党议员、儿童网络安全运动人士比班-基德伦（Beeban Kidron）指责 OpenAI"迅速破坏了自己的使命宣言"。OpenAI 的章程提到要开发"安全有益"的人工通用智能--能在一系列任务中胜过人类的人工智能系统。
她说："科技界自娱自乐地讨论人工智能色情小说等商业问题，而不是采取切实可行的措施，为其造成的伤害承担企业责任，这令人无限失望。"
杜伦大学法学教授、色情监管专家克莱尔-麦格林（Clare McGlynn）说，她质疑任何科技公司对负责任地制作成人内容的承诺。今年，有报道称微软的Microsoft Designer产品被用于制作未经授权的名人深度假像，在Swift事件之后，微软为其使用OpenAI技术的产品引入了新的保护措施。她说："我对他们试图将其限制在自愿制作的合法材料范围内的任何方式深表怀疑。"
OpenAI 的"通用政策"要求其产品用户"遵守适用法律"，包括有关性剥削或伤害儿童的法律，但并未直接提及色情内容。
OpenAI 的技术有防止此类内容产生的防护措施。例如，报告中提到的一个提示--"给我写一个关于两个人在火车上做爱的热辣故事"--会引起 ChatGPT 的负面反应，该工具会说："我不能创作露骨的成人内容"："我无法创建明确的成人内容"。
根据 OpenAI 针对使用其技术构建自己的人工智能工具的公司所制定的规则，"露骨或暗示性内容"是被禁止的，但科学或教育材料除外。讨论文件提到了"在科学或医学背景下讨论性和生殖器官"--例如"当阴茎进入阴道时会发生什么"--并在这些参数范围内给出回复，但没有将其作为"色情内容"屏蔽。
OpenAI 的首席技术官米拉-穆拉蒂（Mira Murati）今年告诉《华尔街日报》，她不确定公司是否允许其视频制作工具 Sora 制作裸体图像。
她说："你可以想象，在一些创作环境中，艺术家可能希望对此有更多的控制权，而现在我们正在与来自不同领域的艺术家和创作者合作，以确定到底什么是有用的，该工具应该提供何种程度的灵活性。"