本周三，在加州州长加文-纽森（Gavin Newsom）签署新的人工智能法律不到两周后，一名联邦法官阻止了加州的一项新法律。 在签署第 2839 号法案后不久，纽森曾建议可以利用该法案来强制埃隆-马斯克（Elon Musk）删除他转贴的副总统卡马拉-哈里斯（Kamala Harris）的人工智能深度伪造照片（这又引发了两人之间的网上恶斗）。
不过，加利福尼亚州的一位法官刚刚裁定，该州不能强迫人们撤下选举相关的深度伪造内容，至少现在还不能。
AB 2839 针对的是社交媒体上的人工智能虚假信息发布者，特别是如果他们发布的信息与政治候选人相似，并且发布者知道这是可能混淆选民的虚假信息。 该法律的独特之处在于，它并不针对出现AI Deepfake的平台，而是针对那些传播人工智能Deepfake内容的人。 AB 2839法案授权加州法官命令人工智能Deepfake的发布者将其撤下，否则可能面临罚款。
也许不出所料，就在加州新法签署的第二天，该AI深度仿真的原始发布者--一位名叫克里斯托弗-科尔斯（Christopher Kohls）的 X 用户--就提起了诉讼，以违宪为由阻止加州新法的实施。 科尔斯的律师在一份申诉中写道，对卡马拉-哈里斯的deepfake是一种讽刺，应受到第一修正案的保护。
本周三，美国地区法官约翰-门德斯（John Mendez）支持科尔斯的观点。 Mendez 下达了一项初步禁令，暂时禁止加州总检察长对 Kohls 或其他任何人执行新法律，但属于 AB 2839 范围内的音频信息除外。
门德斯法官在判决中的内容节选：
"几乎所有经过数字篡改的内容，如果由互联网上的任意个人来决定，都可以被视为有害的。 例如，根据本法规，人工智能生成的关于选民投票率的近似数字可被视为虚假内容，合理地破坏了人们对选举结果的信心。 另一方面，许多'有害的'描述在向不同的个人展示时，可能根本不会最终影响选举前景或破坏对选举的信心。 正如原告有说服力地指出的那样，AB 2839 法案'依赖于各种主观用语和措辞笨拙的犯罪意图'，其结果是牵涉到大量受宪法保护的政治言论......。
尽管对数字操纵的媒体环境的恐惧可能是有道理的，但这种恐惧并没有给立法者肆无忌惮地践踏受第一修正案保护的批判、戏仿和讽刺的悠久传统的许可。 YouTube 视频、Facebook 帖子和 X tweets 就是当今的报纸广告和政治漫画，无论这些批评采用何种新媒介，第一修正案都保护个人的发言权。 其他法定诉讼理由，如隐私侵权、版权侵权或诽谤，已经为公众人物或个人提供了追索权，他们的声誉可能会受到讽刺家或机会主义者在互联网上兜售的被人为篡改的描述的影响......
记录显示，加利福尼亚州在维护选举公正性和解决人为操纵内容方面有着强烈的利益诉求。 但是，如果与第一修正案价值的严重性以及原告和其他类似情况的内容创作者在言论受阻时所经历的持续违宪行为相比，加利福尼亚州的利益和所面临的困难微不足道。
从本质上讲，他裁定该法律的内容过于宽泛，可能导致州政府严重越权，越权决定是否允许发表言论。
由于这是一项初步禁令，我们需要继续观察加州的这项法律是否真的会被永久封杀，但无论如何，它都不太可能对下个月的选举产生太大影响。 AB 2839 是纽森在上个月签署的18 项与人工智能相关的新法律之一。