Tumblr自动检测算法错给一些无害内容打上色情标签

2018年12月04日 10:10 次阅读 稿源:cnBeta.COM 条评论

据外媒报道,今天早些时候,Tumblr宣布将从12月17日起禁止该平台上的所有成人内容。不过这家公司的自动检测算法却遭到了长期用户的批评,因为这些算法似乎错误地将一些无害的图像也标记为了色情图像。对此,Tumblr要求用户在本月晚些时候禁令生效之前提出上诉,然而这些不准确之处仍旧在用户中引发了担忧,即对此类内容的全面禁令可能会牺牲掉一些无害的帖子并在创作者和Tumblr平台之间继续制造隔阂。

据了解,这些算法原本是安全模式的一部分,但现在则完全被成人内容禁止工具所取代。禁令包含所有露骨的性内容和裸体,不过有少数例外如母乳喂养和裸体经典雕像等。

从技术上来讲,任何以性行为为主题的插画都是被禁止的,但裸体插画则可以。不过Twitter和其他论坛上涌现出的一系列例子还是突显出了这个底层软件是如何犯下严重错误的。

01.png

但看起来Tumblr似乎也预见了这些会出现的错误。这家公司CEO Jeff D'Onofrio在博客中表示:“我们依靠自动化工具来识别成人内容和人以此来帮助培训和控制我们的系统。我们知道会出现错误。”Tumblr的职工帖子则进一步解释称:“电脑在缩放过程中会做得比人类更好--我们需要它们来完成这个--但它们在作出细微差别、与环境相关决定方面却不如人类。”这家公司表示,这将是一个不断发展的过程,他们承诺将让事态朝好的方面发展。

02.png

对文章打分

Tumblr自动检测算法错给一些无害内容打上色情标签

31 (89%)
已有 条意见

    最新资讯

    加载中...

    编辑精选

    加载中...

    热门评论

      Top 10

      招聘

      created by ceallan