ChatGPT火了，OpenAI却飘了？

1月中旬，《纽约时报》报道称，北密歇根大学的哲学教授Antony Aumann在世界宗教课程评分时，惊喜地读到了一篇“全班最好的论文”。学生用简洁的段落、恰当的举例和严谨的论据，探讨了罩袍禁令的道德意义。然而，在Aumann的追问之下，学生承认论文用ChatGPT写的。

类似的例子还有很多。

也正是随着ChatGPT在全球范围内的爆火，OpenAI也被迅速推到了舆论的“风口浪尖”。

可以说，OpenAI目前处于聊天机器人军备竞赛的领头地位。单以ChatGPT为例，公开发布和微软数十亿美元的合作不仅刺激了Google和亚马逊紧急在产品线中布局人工智能，OpenAI还与贝恩合作，将机器学习引入可口可乐的运营，并计划扩展到其他企业合作伙伴。

毫无疑问，OpenAI的人工智能已经成了笔大生意，但其实这与OpenAI最初的计划有些出入。

“人类的未来应该由人类来决定”

上周五，OpenAI首席执行官Sam Altman发表了一篇博文，题为“规划AGI和超越”（Planning for AGI and beyond）。

在文章中，他宣称OpenAI的通用人工智能（AGI）目前还远没达到要求，许多人怀疑它能否造福全人类，是否“有可能给每个人带来令人难以置信的新能力”。

Altman用一种宽泛的、理想主义的语言来论证人工智能的发展不应停止，“人类的未来应该由人类来决定”，这里暗暗指向了OpenAI。

几乎是在ChatGPT爆火的周期内，这篇博文和OpenAI近期的行动不断提醒着大家，OpenAI的基调和使命与它成立时相比发生了多大的变化。

成立初期的OpenAI只是一个非营利组织。虽然公司一直着眼于AGI发展，但成立时他们承诺不追求利润，免费分享开发代码。

而今天，这些承诺已经无处可寻。

OpenAI的动力变成了速度和利润

2015年，Altman、马斯克、Peter Thiel、Reid Hoffman宣布成立一家非营利性研究机构OpenAI。在成立声明中，OpenAI宣布，研究承诺“以最有可能造福全人类的方式推进人工智能，不受产生经济回报的限制”。该博客还称，“由于我们的研究没有财务义务，可以更好地专注于对人类的积极影响”，并鼓励所有研究人员分享“论文、博客文章或代码，我们的专利（如果有的话）将与世界共享”。

8年后，我们面对的是一家既不透明也不以积极的人类影响为动力的公司。相反，正如包括马斯克在内的许多批评者所认为的那样，OpenAI的动力变成了速度和利润。

同时，OpenAI正在释放技术。当然其中存在缺陷，但仍准备以牺牲人类员工为代价增加工作场所的自动化转变。例如，Google强调了自动完成代码的人工智能带来的效率提升，从而导致数千名工人被裁。

OpenAI初期，媒体与从业者们都将其设想为以开放的方式进行基础人工智能研究，目的不确定。联合创始人Greg Bockman曾说：“我们现在的目标......是做最好的事情。这有点模糊不清”。

这也无形之中促成了公司在2018年方向的转变。当时，OpenAI向资本资源寻求一些方向，“我们的主要受托责任是对人类。我们预计需要调集大量资源来完成我们的使命”。

到2019年3月，OpenAI已经完全摆脱了其非盈利的头衔，建立了一个“封顶利润（capped profit）”部门。这使得OpenAI开始接受投资，并会为投资者提供封顶为投资100倍的利润。

这项决定被视为是与Google等大科技公司的一次竞争，而不久后公司也如愿获得了微软10亿美元的投资。在宣布成立营利性公司的博文中，OpenAI继续使用相同的说法，宣称其使命是“确保通用人工智能惠及全人类”。

但正如Motherboard写道，当风险投资家的主要目标是利润时，很难相信他们能拯救人类。

OpenAI还值得公众的信任吗？

2019年，OpenAI宣布和发布GPT-2语言模型时面临了舆论反弹。

起初，该公司表示，由于“担心该技术的恶意应用”，它不会发布训练模型的源代码。虽然这在一定程度上反映了其对开发有益人工智能的承诺，但它也不是很“开放”。

批评者想知道为什么OpenAI会在宣布了一个工具之后却不发布，于是不少人认为这只是宣传噱头。直到三个月后，OpenAI才在GitHub上发布了该模型，并表示这一行动是“负责任地发布人工智能的一个重要基础，特别是在强大的生成模型方面”。

调查记者Karen Hao在2020年期间在公司内部待了几天，根据他的说法，OpenAI的内部文化开始不再反映谨慎的、研究驱动的人工智能开发过程，而是更注重出人头地，这也导致人们指责其助长了“人工智能炒作周期”。员工现在也被要求对手头的工作保持沉默，以遵守公司新的章程。

“公司公开支持的内容和闭门造车的方式之间存在着错位。随着时间的推移，它已经允许激烈的竞争和不断增加的资金压力侵蚀其透明、开放和合作的创始理想。”Hao写道。

但总的来说，GPT-2的推出对OpenAI而言无疑是一件值得庆祝的事，也是公司发展至今的重要基石。“这绝对是成功故事框架的一部分”，现任政策研究主管Miles Brundage在一次会议上说，“这一部分的剧情应该是这样的：我们做了一件雄心勃勃的事情，现在有些人正在复制它，这里还应该有一些对这项创新益处的解释”。

从那时起，OpenAI保留了GPT-2发布公式中的炒作部分，但取消了开放性。2020年，GPT-3正式推出，并迅速“独家”授权给微软。GPT-3的源代码仍未发布，尽管目前OpenAI已经在紧锣密鼓地筹备GPT-4了；该模型只是通过ChatGPT的API向公众开放，OpenAI还推出了一个付费层以保证对该模型的访问。

这样做当然是有一些考量。首先就是钱。OpenAI在API公告博客中表示，“将技术商业化有助于支付我们正在进行的人工智能研究、安全和政策工作”。第二个原因是偏向于帮助大公司。“除了大公司之外，任何人都很难从底层技术中获益”。最后，公司还表示，通过API而不是开源发布更安全，因为该公司可以应对滥用情况。

“你们一直告诉我们AGI快了，但在你们的网站上甚至没有一个一致的定义。”计算机科学家Timnit Gebru在Twitter上表示。

华盛顿大学语言学教授Emily M. Bender在Twitter上说，“他们不想解决实际世界中的实际问题（这将需要让出权力）。他们想相信自己是神，不仅可以创造一个‘超级智能’，而且有恩惠，以一种与人类‘一致’的方式这样做”。

这种人工智能是否会像该公司最初设想的那样，负责任地分享，公开开发，没有盈利动机？或者它是会被匆匆推出，有许多令人不安的缺陷，但主要是为OpenAI带来收益？OpenAI是否会将其科幻的未来保持在闭源状态？

结合了ChatGPT之后，微软的必应聊天机器人处于“走火入魔”的状态，不断欺骗和呵斥着用户，传播错误信息。OpenAI不能可靠地检测自己的聊天机器人生成的文本，尽管教育工作者对学生使用该应用程序作弊的情况越来越关注。

人们也已经轻易地对语言模型进行了越狱，无视OpenAI在其周围设置的护栏，机器人在输入随机的单词和短语时会崩溃。没有人能说清楚原因，因为OpenAI没有分享底层模型的代码，可能在某种程度上，OpenAI自己也不太可能完全理解它的工作原理。

考虑到这一切，我们都应该仔细考虑OpenAI是否值得它要求公众给予的信任，而对此，OpenAI没有做出任何实质性的回应。