美国和英国同意合作监控先进人工智能模型的安全风险。将合作开展研究,并至少进行一次联合安全测试。两国都表示,在使用人工智能模型时,安全是首要关注的问题。美国总统乔-拜登关于人工智能的行政命令要求开发人工智能系统的公司报告安全测试结果。与此同时,英国首相苏纳克(Rishi Sunak)宣布成立英国人工智能安全研究所,并表示Google、Meta 和 OpenAI 等公司必须允许对其工具进行审查。
两国人工智能安全研究所之间的协议立即生效。美国商务部长吉娜-雷蒙多(Gina Raimondo)表示,美国政府"致力于与其他国家发展类似的伙伴关系,在全球范围内促进人工智能安全"。
雷蒙多在一份声明中说:"这种合作关系将加速我们两家机构在各种风险方面的工作,无论是对我们的国家安全还是对我们更广泛的社会面。"
通过该协议,两国承诺在技术研究、人员交流和信息共享方面开展合作。
美国和英国的一个潜在合作伙伴是欧盟,欧盟通过了自己的人工智能系统使用全面法规。欧盟的人工智能法要求运行强大的人工智能模型的公司遵守安全标准。
英国的人工智能安全研究所是在 11 月的全球人工智能峰会前夕成立的,包括美国副总统卡马拉-哈里斯在内的多位世界领导人在峰会上讨论了如何利用并在可能的情况下对该技术进行跨境监管。
英国已经开始对一些模型进行安全测试,但目前还不清楚它是否能获得最近发布的版本。一些人工智能公司敦促英国人工智能安全研究所进一步明确时间表,以及在发现模型存在风险时的下一步措施。