据报道，OpenAI 已封禁了几个与中国监控工具相关的账户。这些账户使用 ChatGPT 进行销售宣传，并为 AI 助手调试代码，以收集美国和英国等西方国家发生的有关中国议题抗议活动的实时数据。
据彭博社报道，OpenAI 首席研究员 Ben Nuimmo 表示，该公司正试图揭示中国等政权如何试图利用美国制造的技术来对抗美国及其盟友。
“根据他们自己生成的材料，这是一个相当令人不安的现象，让我们看到一个非民主行为者试图将民主或美国的人工智能用于非民主目的。”
OpenAI 进一步表示，这些账户还引用了其他人工智能工具，包括 Llama 的一个版本，这是 Meta 开发的开源人工智能模型。从OpenAI调查的情况看，这款监控软件似乎名为“千月海外舆情AI助手”，不过尚未核实其是否被部署。
OpenAI在报告中称，其政策包括防止独裁政权利用AI工具聚敛权力、控制公民。
“我们认为，确保AI惠及尽可能多的人意味着通过旨在保护人们免受实际伤害的常识性规则来赋能AI，并建设民主的AI。这包括防止独裁政权利用AI工具聚敛权力、控制公民，或威胁或胁迫其他国家；以及诸如秘密影响行动 (IO)、儿童剥削、诈骗、垃圾邮件和恶意网络活动等活动。”
该软件的创建目的是从 X、Facebook 和 Instagram 等社交媒体网站上识别西方国家关于中国人权和其他相关话题的在线帖子和对话，并将这些监视报告发送给中国当局、情报人员和中国大使馆的工作人员。
OpenAI 长期以来一直在警告美国政府，特别是在 DeepSeek 以其 R1 推理模型抢尽风头之后，该模型在基准测试中超越了许多其他美国制造的模型并在美国市场造成严重破坏。OpenAI 指责 DeepSeek 提炼其模型的输出，并指责中国公司可能正在窃取美国公司的专有数据。