乔-拜登（Joe Biden）在昨晚的国情咨文演讲中谈到了几个与科技相关的话题，其中包括人工智能语音克隆。总统呼吁"禁止人工智能语音模仿"，今年早些时候有人利用他的声音试图影响选。
"在国内，我已经签署了 400 多项两党法案。"拜登总统在国情咨文中说："要通过我的团结议程，还有更多的法案。随后，他列举了如果他被选中连任，他希望解决的一些提案：加强对芬太尼贩运的惩罚力度，通过两党隐私立法来保护我们的儿童上网，利用人工智能的承诺来保护我们免受危险，禁止人工智能语音冒充等等"。
拜登有充分的理由呼吁禁止人工智能语音克隆。今年 1 月，新罕布什尔州的选民接到了一个 39 秒的机器人电话，告诉他们不要在民主党初选中投票，而是把选票"留给"11 月的总统选举。播报这条建议的声音听起来几乎和乔·拜登一模一样。语音欺诈检测公司 Pindrop 后来分析了这通电话，认为它是使用 ElevenLabs 公司的文本到语音引擎制作的，该公司也证实了这一点。
这一事件导致美国联邦通信委员会根据 1991 年的《电话消费者保护法》，规定使用人工智能生成的语音拨打机器人电话为非法行为。该机构担心，技术被用来模仿"名人、政治候选人和近亲属"的声音，从而混淆和欺骗消费者。
拜登提议的禁令范围尚不明确。它可能仅限于某些领域，比如模仿政客，但总统听起来确实在谈论全面禁止人工智能语音模仿，这将产生深远影响。
除了政治之外，使用人工智能重塑演员的声音和形象也是 SAG-AFTRA 演员罢工背后的问题之一。尽管并非所有人都对这一协议感到满意，但在达成一项协议，确保在使用人工智能复制演员时，演员同意并获得公平补偿后，罢工结束了。