路透社报道，知情人士透露，拜登政府准备开辟一条新战线，称将努力保护美国的人工智能免受中国的侵害，并初步计划在最先进的人工智能模型（即 ChatGPT 等人工智能系统的核心软件）周围设置护栏。三位熟悉内情的人士表示，美国商务部正在考虑推动一项新的监管措施，以限制专有或闭源人工智能模型的出口，这些模型的软件和训练数据都是保密的。
过去两年来，中国采取了一系列措施阻止尖端人工智能芯片出口到中国，以减缓中国政府为军事目的开发尖端技术的步伐。即便如此，监管机构也很难跟上行业快速发展的步伐。
美国商务部拒绝发表评论，中国驻华盛顿大使馆没有立即回应置评请求。
目前，微软支持的OpenAI、Alphabet旗下的Google DeepMind和竞争对手Anthropic等美国人工智能巨头都开发出了一些最强大的闭源人工智能模型，目前它们可以在不受政府监督的情况下向世界上几乎任何人出售这些模型。
政府和私营部门的研究人员担心，美国的对手可能会利用这些模型挖掘大量文本和图像，总结信息并生成内容，从而发动侵略性的网络攻击，甚至制造出强大的生物武器。
消息人士称，为了制定人工智能模型出口管制，美国可能会求助于去年10月发布的人工智能行政令中的一个门槛，该门槛基于训练一个模型所需的计算能力。当达到这一水平时，开发者必须向商务部报告其人工智能模型开发计划并提供测试结果。
据两位美国官员和另一位了解讨论情况的消息人士称，这一计算能力阈值可能成为决定哪些人工智能模型将受到出口限制的依据。由于细节尚未公开，他们拒绝透露姓名。
据追踪人工智能趋势的研究机构 EpochAI 称，如果使用这种方法，很可能只会限制尚未发布的模型的出口，因为目前还没有任何模型被认为达到了这一门槛，不过Google的 Gemini Ultra 被认为已经接近这一门槛。
消息人士强调，该机构还远未敲定规则提案。不过，尽管对快速发展的人工智能技术实施严格的监管制度面临严峻挑战，但美国政府正在考虑采取这一举措，这表明美国政府正在努力弥补在挫败中国政府的人工智能野心方面存在的差距。
前国家安全委员会官员彼得-哈雷尔（Peter Harrell）说，"拜登政府正在考虑与中国的竞争以及复杂的人工智能的危险，人工智能模型"显然是你需要考虑的工具之一，也是潜在的咽喉"。"他补充说："实际上，你是否能将其变成一个出口可控的咽喉要道，还有待观察。"
美国情报界、智库和学术界越来越担心外国敌对势力获得先进人工智能能力所带来的风险。研究人员指出，先进的人工智能模型可以提供有助于制造生物武器的信息。美国国土安全部在其2024 年国土威胁评估报告中称，网络行为者很可能会利用人工智能"开发新工具"，以"实现更大规模、更快速度、更高效率和更具规避性的网络攻击"。
其中一位消息人士说，任何新的出口规则也可能针对其他国家。
国家情报局局长办公室官员布莱恩-霍姆斯（Brian Holmes）在 3 月份的一次出口管制会议上说："[人工智能]的使用和开发可能会激增，我们实际上很难跟上这种趋势。"
为了解决这些问题，美国已采取措施阻止美国人工智能芯片和制造这些芯片的工具流向中国，同时它还提出了一项规则，要求美国云计算公司在外国客户使用其服务训练可能被用于网络攻击的强大人工智能模型时，必须告知政府。
但到目前为止，它还没有涉及人工智能模型本身。美国商务部负责监管美国出口政策的艾伦-埃斯特维兹（Alan Estevez）在12月表示，该机构正在研究监管开源大型语言模型（LLM）出口的方案，然后再征求业界的反馈意见。
华盛顿智库 CNAS 的人工智能政策专家蒂姆-菲斯特（Tim Fist）说，这个门槛"是一个很好的临时措施，直到我们开发出更好的方法来衡量新模式的能力和风险"。
这一门槛并非一成不变。其中一位消息人士说，商务部最终可能会降低下限，再加上其他因素，如数据类型或人工智能模型的潜在用途，如设计可用于制造生物武器的蛋白质的能力。
无论阈值如何，人工智能模型出口都将难以控制。许多模型都是开放源代码的，这意味着它们仍在考虑中的出口管制范围之外。
菲斯特指出，中国在开发自己的人工智能软件方面可能只比美国晚两年左右，即使对更先进的专有模型实施控制也将证明具有挑战性，因为监管机构很可能难以确定正确的标准来确定哪些模型应该受到管制。