OpenAI正在成立一个 "独立"的安全委员会 有权阻止其模型的发布

2024年09月17日 09:12 次阅读 稿源:cnBeta.COM 条评论

根据 OpenAI 的一篇博客文章OpenAI 正在将其安全和安保委员会转变成一个独立的"董事会监督委员会",该委员会有权因安全问题推迟模型的发布。该委员会在最近对 OpenAI 的"安全和安保相关流程和保障措施"进行了为期 90 天的审查后,提出了成立独立委员会的建议。

该委员会由Zico Kolter担任主席,成员包括 Adam D'Angelo、Paul Nakasone 和Nicole Seligman。OpenAI 表示,该委员会将"听取公司领导层关于主要模型发布的安全评估简报,并将与全体董事会一起对模型发布进行监督,包括有权推迟发布,直到安全问题得到解决。OpenAI 的全体董事会还将"定期听取"有关"安全和安保事项"的简报。

OpenAI 安全委员会的成员同时也是公司董事会的成员,因此目前还不清楚该委员会的实际独立性如何,也不清楚这种独立性是如何构建的。(首席执行官山姆-奥特曼(Sam Altman)曾是该委员会成员,但现在不再担任该职务。

通过建立独立的安全委员会,OpenAI似乎正在采取与Meta的监督委员会(Oversight Board)有些类似的做法,后者负责审查Meta的一些内容政策决定,并做出Meta必须遵守的裁决。监督委员会的成员都不是Meta的董事会成员

OpenAI 安全和安保委员会的审查还有助于"行业合作和信息共享的更多机会,以推进人工智能行业的安全"。该公司还表示,它将寻找"更多的方式来分享和解释我们的安全工作"以及"更多的机会来对我们的系统进行独立测试"。

oai-safety-security.webp

对文章打分

OpenAI正在成立一个 "独立"的安全委员会 有权阻止其模型的发布

1 (50%)
已有 条意见

    最新资讯

    加载中...

    编辑精选

    加载中...

    热门评论

      Top 10

      招聘

      created by ceallan