超过 100 名大型人工智能公司的现任和前任员工呼吁加州州长加文·纽瑟姆 (Gavin Newsom) 通过该州新的人工智能监管法案，该法案在科技界和政策界引起了分歧。这封信由 OpenAI、Anthropic、谷歌的 DeepMind、Meta 和 xAI 的现任和前任员工签署，表达了对某些人工智能模型开发的担忧。
该法案 SB 1047 要求人工智能公司在向公众发布系统之前对其系统进行安全测试。它还要求公司对其模型造成的灾难性损害承担责任，并允许为技术工人提供举报人保护。
信中写道： 我们认为，最强大的人工智能模型可能很快就会带来严重风险，例如扩大生物武器的使用范围和对关键基础设施的网络攻击。前沿人工智能公司测试最强大的人工智能模型是否会造成严重危害，并针对此类风险实施合理的保障措施，是可行且恰当的。
SB 1047 已在州议会和参议院获得通过。现在由纽森在 9 月 30 日之前签署该法案使其成为法律或否决它。州长尚未表明他对该法案的立场，他正面临双方的强烈游说。
该法案的支持者认为，如果没有护栏，人工智能的发展可能会带来灾难性的后果。xAI 创始人埃隆·马斯克 (Elon Musk) 公开支持对人工智能进行监管。OpenAI 的竞争对手 Anthropic 也支持该法案，该公司得到了亚马逊和 Alphabet 的支持。
人工智能先驱 Yoshua Bengio 和 Geoffrey Hinton 在之前致加州领导人的公开信中写道：政府现在就如何开发和部署这些强大的人工智能系统所做出的选择，可能会对加州当前和未来的几代人以及全世界产生深远的影响。