据央视新闻报道,当地时间9月5日,欧洲委员会在立陶宛首都维尔纽斯举行司法部长会议,美国、英国、欧盟等多方共同签署了《人工智能(AI)框架公约》(以下简称《公约》),旨在应对人工智能技术可能带来的风险。
《公约》被称为首个具有法律约束力的人工智能国际条约,具有历史性意义。不过,有法律专家称,《公约》文本内容已被“稀释”,措辞模糊且存在漏洞,仅通过监督来强制遵守,实际约束力较为有限。
酝酿多年
《公约》全称《人工智能与人权、民主和法治框架公约》,由欧洲委员会起草,迄今已筹备多年。按照欧洲委员会的说法,此举旨在用一个法律框架,来管理人工智能系统的整个“生命周期”,防止人工智能技术被滥用,同时促进负责任的创新。
欧洲委员会与欧盟委员会、欧洲理事会不同,它不是欧盟机构,是一家总部设立在法国的国际组织,由46个成员国组成,包括27个欧盟国家。它旨在维护欧洲的人权、民主和法治,但一直以来存在感不高。中国不是欧洲委员会成员国。
2019年,欧洲委员会一个特设委员会开始研究制定人工智能框架公约的可行性,并于2022年成立人工智能委员会,负责起草和谈判案文。
过去两年,欧洲委员会的46个成员国、欧盟和11个非成员方(阿根廷、澳大利亚、加拿大、哥斯达黎加、罗马教廷、以色列、日本、墨西哥、秘鲁、美国和乌拉圭),以及私营部门、民间社会和学术界代表共同参与文本谈判。
今年5月,经上述多方讨论,《公约》在欧洲委员会的决策机构——部长委员会上获得通过。9月5日当天,欧盟、美国、英国、以色列、格鲁吉亚、挪威、冰岛、安道尔、摩尔多瓦和圣马力诺共同签署了《条约》。
“这是一份有力且平衡的文本。我们必须确保人工智能的崛起能维护我们的基本标准。”欧洲委员会秘书长布里克5日在一份声明中强调《公约》的重要性。
“人工智能有能力从根本上改善公共服务并推动经济增长,但其不得影响基本人权。”英国司法部长马哈茂德表示。
欧洲委员会希望上述签署国能很快对《公约》进行批准,以便《公约》尽快生效。根据规定,《公约》将在五个签署国(包括至少三个欧洲委员会成员国)批准三个月后生效。
内容“稀释”
欧洲委员会称,这是全球首个关于人工智能系统使用、具有法律约束力的国际公约,与上月生效的欧盟《人工智能法案》相协调,标志着建立全球框架的一次尝试。
不过,与欧盟《人工智能法案》相比,《公约》在侧重点、开放对象等方面有着明显不同。
先看侧重点,欧盟《人工智能法案》涵盖广泛的规则,对欧盟内部市场内人工智能系统的开发、部署和使用进行了全面规定。《公约》只有12页,只列出人工智能系统必须遵循的关键原则,例如保护用户数据、不歧视、尊重法律、保证尊严等,优先考虑人工智能监管中的人权问题。
再看目标对象,欧盟《人工智能法案》面向欧盟内部。《公约》具有开放属性,世界各国都有资格加入。不过,签署国必须“采取或维持适当的立法、行政或其他措施”,以落实《公约》。
欧洲非营利法律基金会中心法律专家弗朗西斯卡·法努奇指出,《公约》宣称具有法律约束力,但从文本内容看,它已被“稀释”,对原则和义务的表述过于宽泛,且存在许多漏洞和豁免。这引发对其法律确定性和有效可执行性的严重质疑。
比如,《公约》对用于国家安全目的的人工智能系统进行豁免;缔约方在具体怎么执行《公约》上有较大的自由裁量权;《公约》对公共部门及其承包商进行约束,但私营公司基本被排除在外。“这种双重标准令人失望。”法努奇说,但这是一些国家愿意签署《公约》的前提条件。
更重要的是,尽管《公约》标榜“法律约束力”,但没有对违反承诺的缔约方施加任何明确惩罚。有欧洲媒体指出,它的遵守情况主要通过监督来衡量,这是国际条约中一种相对较弱的执行形式。
有网友评论称,没有清晰的执行和惩罚机制,《公约》所谓的“法律约束力”将沦为毫无意义、具有误导性的字眼。
规则之争?
不过,尽管《公约》存在缺陷,也有观点认为,它可作为各国制定人工智能相关法律的蓝图。
过去一段时间里,随着人工智能技术发展的日新月异,各国都在积极考虑实施更本地化的人工智能法规。这似乎正引发一场全球范围内的规则之争。
欧盟已通过具有里程碑意义的《人工智能法案》,成为全球首个实施全面人工智能规则的司法管辖区。英国也在考虑制定自己的法规。
美国国会尚未批准全国性的人工智能法案。但拜登政府设立了人工智能安全委员会和特别工作组;加州议会通过了两项人工智能法案,等待州长纽森的最终决定。有评论称,加州的人工智能监管很重要,因为它是OpenAI、Meta等一些世界领先的人工智能开发商的总部所在地。
在人工智能开发商看来,日趋严格的监管可能会扼杀人工智能的创新和进步。Facebook的母公司Meta已搁置在欧洲推出其最新语言模型产品;多家科技公司上月联合给欧盟领导人致信,要求给予更多时间来遵守相关规定。
围绕人工智能监管,中国外交部此前曾表示,人工智能治理事关全人类共同福祉,需要国际社会群策群力。中方支持在联合国框架下讨论人工智能治理,增加发展中国家代表性和发言权,推动形成具有广泛共识的人工智能治理框架和标准规范。
在去年第三届“一带一路”国际合作高峰论坛开幕式上,习近平主席宣布中方提出《全球人工智能治理倡议》,发出了引领全球人工智能治理的中国强音。倡议提出,各国应加强信息交流和技术合作,共同做好风险防范,促进人工智能技术造福于人类,反对利用人工智能干涉他国内政、阻挠他国发展。