美国国土安全部发布关于在关键基础设施中采用人工智能的指南

该书面框架将涉及国土安全部确定的当今社会关键基础设施面临的核心风险领域的三个方面： 人工智能驱动的攻击、对人工智能系统的针对性攻击和设计缺陷。 该框架区分了每个人工智能利益相关者可能遇到的独特挑战，并针对每个群体提出了具体建议。

对于云和计算提供商而言、 它强调确保人工智能开发环境的安全，包括访问管理和物理数据中心安全，同时鼓励监控异常情况和报告可疑活动的途径。

敦促人工智能开发者遵循安全设计方法，确保模型符合人类价值观，评估偏差和失败风险，并支持独立评估。

建议关键基础设施运营商为人工智能部署实施强有力的网络安全，保护客户数据，保持人工智能使用的透明度，并积极监控人工智能系统的性能，以告知开发人员潜在的影响。

鼓励民间团体、大学和消费者权益倡导者参与标准制定，研究人工智能的社会影响，并帮助塑造人工智能在关键基础设施中的安全部署。 同时，根据人工智能指导方针，地方和联邦层面的公共部门实体负责促进负责任地使用人工智能，支持标准制定，并开展国际合作，保护可能受到全球影响的人。

Mayorkas 强调了人工智能对国家基础设施的变革潜力，同时强调要以微妙、平衡的方式对待这项技术。 "该框架如果得到广泛采用，将大大有助于更好地确保提供清洁水、稳定电力、互联网接入等关键服务的安全和安保。"国土安全部讨论各部门联合目标的新闻稿中说。

在周四的新闻发布会上，Mayorkas进一步介绍了今年早些时候成立的人工智能安全和安保委员会的构成，以及他们在全国范围内实施人工智能的总体目标是如何形成的。

"在组建委员会时，我寻求的成员都是各自领域的佼佼者，他们将共同代表定义人工智能在关键基础设施中部署的生态系统的每个组成部分，"他说。"我们......组建了这样一个委员会，由云和计算基础设施提供商、人工智能模型开发者、关键基础设施所有者和运营商、民间社会和公共部门的领导者组成。 我们相信，关键基础设施的安全和安保是一项共同责任。"

随着人工智能越来越多地促进各部门的复原力和风险缓解，该框架应运而生。 根据国土安全部的新闻稿，人工智能已经在加强地震探测、稳定电网和邮件分类。

"我们已经说过，我们不仅要确保这些指导方针在国内得到采纳和实施，还要确保它们跨越大西洋，在国际上得到采纳和实施，"马约尔卡斯补充说，"欧盟正在推进自己的人工智能法规，国土安全部的框架可以在协调全球努力方面发挥关键作用。"

不过，美国目前的首要任务是确保新发布的人工智能指导方针在全国范围内得到采纳。虽然该框架是自愿性的，但国土安全部希望各机构表示支持，这将鼓励迅速采用该框架。希望各决策层面的成员执行该指南，并在各自领域和整个生态系统中推动其他组织也采用和执行该指南。 如果指导方针被广泛采纳，该框架可能有助于推迟或防止不成熟的法规，这些法规可能"损害我们在世界上的领导地位，窒息我们的创造力"。