随着生成式人工智能的兴起，恶意行为者又掀起了新一轮数字"深度伪造"内容的浪潮，他们试图在互联网上获取有关人物和话题的虚假信息。由于 2024 年的美国总统大选，这一趋势变得尤为令人担忧。
在这方面，微软威胁分析中心（MTAC）一直在监测来自俄罗斯、伊朗和中国的国家支持的威胁行为者是如何制作虚假网站、社交媒体帖子和视频，试图影响 2024 年大选的。事实上，本周早些时候，该公司发布了一份新报告，声称俄罗斯的行为者正在制作视频，旨在推送有关美国民主党总统提名人卡马拉-哈里斯（Kamala Harris）及其副总统提名人蒂姆-瓦尔兹（Tim Walz）的虚假信息。
今天，微软在其博客上发布了公司总裁布拉德-史密斯（Brad Smith）的书面证词，他也出席了在华盛顿特区举行的美国参议院情报委员会听证会。听证会的中心议题是外国对美国选举的威胁，以及微软等美国科技公司应对这些威胁的责任。
史密斯在书面证词中重复了国家支持的组织利用人工智能和深度伪造来影响 2024 年选举的许多行动。他还敦促委员会和美国国会亲自采取行动。
史密斯在证词中写道：
首先，国会应颁布新的联邦"深度伪造欺诈法规"。我们需要为包括各州总检察长在内的执法官员提供一个独立的法律框架，以便在人工智能生成的欺诈和骗局以更快的速度和更复杂的方式扩散时对其提起诉讼。
史密斯还说，国会还应通过一项规定，要求任何人工智能系统提供商必须用"最先进的出处工具"标注任何人工智能创建的内容。最后，史密斯表示，国会应通过《保护选举免受欺骗性人工智能法案》，该法案已由美国两党议员小组提出。除其他事项外，该法案将防止使用人工智能为联邦立法者生成政治内容，但讽刺性内容或新闻编辑室使用的情况除外。