加州议会周三通过了一项备受争议的人工智能安全法案，之后还需要进行一次程序性投票，该法案的命运将掌握在州长加文-纽森（Gavin Newsom）手中。开发生成式人工智能（能以完全成型的文本、图像或音频响应提示，并能在最少干预的情况下执行重复性任务）的科技公司大多对这项名为 SB 1047 的立法表示反对，认为它可能会将人工智能公司赶出本州并阻碍创新。
包括众议员南希-佩洛西（Nancy Pelosi）在内的一些美国国会民主党人也表示反对。支持者包括特斯拉首席执行官埃隆-马斯克（Elon Musk），他经营着一家名为xAI的人工智能公司，并表示支持该法案。
该措施强制要求对许多开发成本超过 1 亿美元或需要一定计算能力的最先进人工智能模型进行安全测试。在该州运营的人工智能软件开发商还需要概述在人工智能模型出现问题时将其关闭的方法，即有效的"阻断开关"。
该法案还授权州总检察长在开发商不合规的情况下提起诉讼，尤其是在出现持续威胁的情况下，比如人工智能接管电网等政府系统。
此外，该法案还要求开发商聘请第三方审计人员来评估其安全实践，并为揭发人工智能滥用行为的举报人提供额外保护。
该法案的作者、民主党州参议员斯科特-维纳（Scott Wiener）代表旧金山，这里是 OpenAI 和许多开发强大软件的初创公司的所在地。他曾表示，在人工智能的进步变得难以驾驭或无法控制之前，立法保护公众是必要的。
风险投资公司 Andreessen Horowitz 的普通合伙人马丁-卡萨多（Martin Casado）在投票前表示，他希望纽森能够否决该法案。他说："这是我见过的两党最广泛的反对意见。"
Alphabet旗下的Google、微软支持的 OpenAI 和 Meta Platforms在给维纳的信中表达了他们的担忧。亚马逊与Anthropic公司则表示，该法案的好处可能超过成本，但它补充说，仍有一些方面似乎令人担忧或模棱两可。