2023年7月,OpenAI成立了由前首席科学家伊利亚·苏茨克沃和詹·莱克(Jan Leike)领导的人工智能超级对齐团队,致力于确保未来的人工智能系统能够被安全控制。为了表明其对这一目标的重视程度,该公司公开承诺将未来四年所获算力的20%用于这项工作。
现在,不到一年后,这个名为超级对齐的团队已经解散,员工纷纷辞职,并指责OpenAI将产品发布置于人工智能安全之上。据熟悉OpenAI超级对齐团队运作的六位消息人士透露,OpenAI从未履行向该团队提供20%算力承诺。
相反,据消息人士透露,该团队一再要求使用图形处理单元(训练和运行人工智能应用程序所需的专用计算机芯片),但却被OpenAI领导层拒绝,尽管该团队的计算总预算从未接近承诺的20%门槛。
这些披露让人质疑OpenAI在兑现其公开承诺方面有多认真,以及该公司做出的其他公开承诺是否值得信任。
该公司目前正卷入与好莱坞影星斯嘉丽·约翰逊(Scarlett Johansson)的纠纷中,后者指责该公司在未经她同意的情况下使用酷似她声音的AI语音。在这种情况下,人们对OpenAI公开声明的可信度提出了质疑,该声明称,其称之为“Sky”的AI语音与约翰逊的声音之间的相似性纯粹是巧合。
OpenAI否认在未经约翰逊允许的情况下使用她的声音,称其付钱给了一位专业女演员来制作Sky语音,并表示不能披露她的名字。但约翰逊的说法让人们对此产生了怀疑,社交媒体上有人猜测,OpenAI实际上克隆了约翰逊的声音,或者可能以某种方式将另一位女演员的声音与约翰逊的声音混合在一起,创造了Sky语音。