上周微软从旗下微软旅游平台上撤下了一系列用“算法技术”创作的文章。但微软表示,这些文章不是“人工智能在没人管的情况下”发布的,主要在于“人为错误”。无论如何,这些错误让媒体人更担心生成式人工智能对新闻报道的影响。
最近“微软旅游”发布的一系列文章,其中包括一篇奇怪的建议。文中建议去渥太华的游客一定要去当地慈善机构渥太华食品银行(Ottawa Food Bank,为经济有困难人士发放食品的慈善组织),并“建议空腹前往”。
现在这篇文章已经删除。其中建议称,“前往渥太华?这是你不应该错过的!”科技评论员帕里斯·马克思(Paris Marx)发现后,将其作为人工智能失败的例子分享后迅速走红。对于这篇文章的在线讨论以及明显冒犯性的建议,促使微软发布了一份声明,将责任归咎于人类。
微软发言人表示:“这篇文章已被删除,我们确定问题是由人为错误引起的。这篇文章不是由无人监督的人工智能发布的。我们将技术力量与内容编辑的经验相结合,呈现故事。在这种情况下,内容是通过算法技术与人工审查相结合生成的,并非大型语言模型或人工智能系统。我们正在努力确保今后不会发布此类内容。”
按照微软的说法,这篇文章的问题不在于人工智能,而在于人类,只是内容编辑犯了一个错误,而是人都会犯错。
如果只有那篇文章出了问题,尽管问题严重,我可能会更容易接受这种观点。实际上,情况并非如此。至少还有几篇文章提出了同样荒谬但不那么冒犯的旅行建议。
有一篇文章叫《在你的蒙特利尔之旅中 尝尝这些令人垂涎欲滴的菜肴》,文中提到了“汉堡包”,并像维基百科一样描述,虽然“汉堡包”一词可以用于任何类型的肉饼,但文中的“汉堡包”特指“由碎牛肉饼、某种面包片和生菜、番茄、奶酪等组成的三明治”。文章还将加拿大的麦当劳列为一个受欢迎的旅行地点。那篇文章后来也被删除了。
另一篇文章则写道,“要去安克雷奇吗?这里有6种当地美食,”其中包括“海鲜”。文中事无巨细地描述了一番海鲜的定义:“基本上是任何被人类视为食物的海洋生物,主要包括鱼类和贝类。”文中还说:“海鲜是一种多用途的食材,所以我们在世界各地都吃海鲜是有一定道理的。”这篇文章也同样被删除了。
还有一篇文章是关于“东京16个最值得拍照的景点!”。但其中莫名其妙地出现了一张题为“吃和牛”的幻灯片。这篇文章也已被下架。
如果像公司所说的那样,这些文章不是由“无人监督的人工智能”发布的,那么为什么会发生这种情况呢?
微软涉足新闻业已经有年头了。自1995年以来,微软一直运营着新闻聚合器(现在名为Microsoft Start,之前是Microsoft News和MSN News),从各种出版物中获取新闻链接。但在2020年,有爆料称微软正在裁减几十名外包员工,从人工管理转向人工智能驱动的系统。
显然,微软押注人工智能是新闻聚合的未来。现在看来,微软似乎有点过于自信,认为人工智能可以完成编写内容的工作。根据平台上的文章,微软现在的人工干预似乎非常少,也毫无用处。
这让人感到有些不安。一方面是这表明微软虽然与新闻业有长期联系,但已经忽视了人的作用,以至于事件发酵后才开始密切关注这一问题。另一方面,微软并没有对大部分文章进行审核。
微软发言人则表示,公司只会对建议去渥太华食品银行的文章发表评论,而不会对其他被删除的文章发表评论,也不会对那些被删除文章的审核过程发表评论。
微软在文章中犯的错误符合其他媒体发布人工智能辅助文章的模式,其中存在明显的错误。但是,诸如“汉堡”或者“海鲜”那些本身不包含实际“错误”的文章呢?当热度消退后,平台还会继续发表这类文章吗?
希望这只是个愚蠢的错误。希望微软以及其他科技巨头不要认为从事新闻行业的人的工作可以被人工智能发表的不连贯文章所取代。(辰辰)