科技公司签署协议打击人工智能制造的选举骗局

Facebook 和 Instagram 的母公司 Meta 公司全球事务总裁尼克-克莱格（Nick Clegg）在峰会前接受采访时说："每个人都认识到，没有一家科技公司、没有一个政府、没有一个民间社会组织能够独自应对这种技术的出现及其可能的邪恶用途。"

该协议在很大程度上是象征性的，但针对的是越来越逼真的人工智能生成的图像、音频和视频，"这些图像、音频和视频会欺骗性地伪造或改变政治候选人、选举官员和民主选举中其他关键利益相关者的外表、声音或行动，或向选民提供关于何时、何地以及如何合法投票的虚假信息"。

这些公司并未承诺禁止或删除深度伪造内容。相反，该协议概述了它们将采用的方法，以便在创建或在其平台上传播欺骗性人工智能内容时，对其进行检测和标记。协议指出，这些公司将相互分享最佳实践，并在这些内容开始传播时提供"迅速和适度的回应"。

承诺的模糊性和缺乏任何有约束力的要求可能有助于赢得众多公司的青睐，但可能会让希望得到更有力保证的民主活动家和监督机构失望。

克莱格说："每家公司都有自己的内容政策，这是无可厚非的。这并不是要给每个人都穿上紧身衣。而且，无论如何，业界没有人认为，你可以通过一扫而过、玩'打地鼠'游戏、找出所有认为可能误导他人的东西来应对全新的技术范式。"

就在 50 多个国家将于 2024 年举行全国大选之际，德国城市年度安全会议达成了这一协议。其中一些国家已经举行了选举，包括孟加拉国、台湾、巴基斯坦和最近的印度尼西亚。

人工智能干预选举的尝试已经开始，比如上个月，模仿美国总统乔-拜登声音的人工智能机器人电话试图阻止人们在新罕布什尔州的初选中投票。

就在斯洛伐克11 月大选的前几天，人工智能生成的录音冒充一名自由党候选人，讨论提高啤酒价格和操纵选举的计划。事实核查人员很快辨认出这些录音是假的，但它们已经在社交媒体上被当作真实录音广为传播。

从使用人工智能聊天机器人与选民沟通，到在广告中添加人工智能生成的图像，政治家和竞选委员会也在尝试使用这种技术。

在印度尼西亚大选之前，一个政党的领导人分享了一段克隆已故独裁者苏哈托面容和声音的视频。X 上的帖子披露了视频是由人工智能生成的，但一些网络批评者称这是滥用人工智能工具恐吓和左右选民。

周五的协议称，在应对人工智能生成的深度伪造时，平台"将注意语境，特别是保护教育、纪录片、艺术、讽刺和政治表达"。它表示，两家公司将重点关注向用户提供有关欺骗性人工智能选举内容政策的透明度，并努力教育公众如何避免上人工智能造假的当。

许多公司此前都表示，他们正在为自己的人工智能生成工具（可以处理图像和声音）设置保障措施，同时也在努力识别和标记人工智能生成的内容，以便社交媒体用户知道他们看到的是否是真实的。但这些建议的解决方案大多尚未推出，这些公司面临着来自监管机构和其他方面的压力，要求它们做得更多。

这种压力在美国更加突出，因为美国国会尚未通过法律来规范人工智能在政治领域的应用，人工智能公司在很大程度上只能自我管理。在没有联邦立法的情况下，许多州都在考虑如何在选举和其他应用中为人工智能的使用设置防护栏。

美国联邦通信委员会最近确认，人工智能生成的机器人电话音频片段是违法的，但这并不包括在社交媒体或竞选广告中流传的深度伪造音频。

虚假信息专家警告说，虽然人工智能深度伪造尤其令人担忧，因为它们有可能在暗中影响今年的选民，但更便宜、更简单的虚假信息形式仍然是一大威胁。该协议也注意到了这一点，承认"传统操纵也可用于类似目的"。

许多社交媒体公司已经制定了相关政策，以阻止有关选举程序的欺骗性帖子--无论是否由人工智能生成。例如，Meta表示，它会删除有关"投票、选民登记或参与人口普查的日期、地点、时间和方法"的错误信息，以及其他旨在干扰他人参与公民事务的虚假帖子。

诚信研究所（Integrity Institute）联合创始人、Facebook 前数据科学家杰夫-艾伦（Jeff Allen）说，该协议似乎是"积极的一步"，但他仍希望看到社交媒体公司采取其他基本行动来打击不实信息，比如建立内容推荐系统，而不是将参与度放在首位。

除了帮助促成周五协议的主要平台外，其他签署方还包括聊天机器人开发商 Anthropic 和 Inflection AI、语音克隆初创公司 ElevenLabs、芯片设计公司 Arm Holdings、安全公司 McAfee 和 TrendMicro，以及以制造图像生成器 Stable Diffusion 而闻名的 Stability AI。

值得注意的是，另一个流行的人工智能图像生成器 Midjourney 也没有加入该协议。这家位于旧金山的初创公司周五没有立即回复置评请求。

X的加入是周五协议中最大的惊喜之一。马斯克在接管前Twitter公司后大幅削减了内容审核团队，并将自己描述为"言论自由绝对主义者"。

但 X 公司首席执行官琳达-雅卡里诺（Linda Yaccarino）在周五的一份声明中说，"每个公民和公司都有责任维护自由公正的选举"。她说："X 致力于发挥自己的作用，与同行合作打击人工智能威胁，同时保护言论自由并最大限度地提高透明度。"