现在,所有美国联邦机构都必须有一名高管来监督他们使用的所有人工智能系统,因为政府希望确保人工智能在公共服务领域的使用是安全的。卡马拉-哈里斯(Kamala Harris)副总统在与记者的一次简报会上宣布了新的 OMB 指南,并表示各机构还必须成立人工智能治理委员会,以协调机构内部如何使用人工智能。
各机构还必须向管理和预算办公室(OMB)提交一份年度报告,列出其使用的所有人工智能系统、与之相关的任何风险,以及计划如何降低这些风险。
"我们已经指示所有联邦机构指定一名首席人工智能官,他要有经验、专业知识和权力来监督该机构使用的所有人工智能技术,这是为了确保人工智能得到负责任的使用,我们明白,我们必须在政府中设立高级领导人,专门负责监督人工智能的采用和使用,"哈里斯告诉记者。
首席人工智能官不一定是政治任命的,但这取决于联邦机构的结构。 管理委员会必须在夏季成立。
拜登政府的人工智能行政令要求联邦办公室制定安全标准,并增加在政府工作的人工智能人才数量。一些机构甚至在今天的公告发布之前就开始招聘首席人工智能官。司法部今年 2 月宣布乔纳森-梅耶(Jonathan Mayer)为其首位首席人工智能官。他将领导一个网络安全专家团队,研究如何在执法中使用人工智能。
据 OMB 主席 Shalanda Young 称,美国政府计划在今年夏天之前招聘 100 名人工智能专业人员。
各机构的人工智能官员和管理委员会的部分职责是经常监控其人工智能系统。杨说,各机构必须提交一份机构使用的人工智能产品清单。如果任何人工智能系统被认为足够"敏感"而被排除在清单之外,该机构必须公开提供排除的理由。各机构还必须独立评估其使用的每个人工智能平台的安全风险。
联邦机构还必须核实他们部署的任何人工智能是否符合"降低算法歧视风险并向公众提供政府如何使用人工智能的透明度"的保障措施。OMB 的概况介绍举了几个例子,包括:
在机场时,旅客可以选择不使用 TSA 面部识别系统,而不会耽误时间或失去排队的位置。
在联邦医疗保健系统中使用人工智能来支持重要的诊断决策时,会有专人监督这一过程,以核实工具的结果,避免医疗保健服务的不平等。
当人工智能被用于检测政府服务中的欺诈行为时,人类会对有影响的决策进行监督,受影响的个人也有机会就人工智能造成的伤害寻求补救。
"如果一个机构不能采用这些保障措施,该机构就必须停止使用人工智能系统,除非该机构的领导层能说明为什么这样做会增加整体安全或权利的风险,或者会对机构的关键业务造成不可接受的障碍,"概况介绍中写道。
根据新指南,任何政府拥有的人工智能模型、代码和数据都应向公众发布,除非它们对政府运作构成风险。
美国仍然没有规范人工智能的法律。人工智能行政令为行政部门下属的政府机构提供了如何处理这项技术的指导方针。虽然已经提交了几项法案对人工智能的某些方面进行监管,但在人工智能技术立法方面还没有太大的进展。