iOS在Screen Time中拦截网站的方式出现了一个令人尴尬的问题,有报道称这项内容限制措施将拦截域名中含有 "亚洲人(asian)"一词的网站。在iOS中可以设置的Screen Time规则提供了许多方法来限制iPhone或iPad的使用方式,目的是控制年轻用户如何享受设备。虽然用心良苦,但该系统的部分内容似乎政治不正确,需要苹果公司注意。
周四,iOS开发者Steven Shen在推特上声称,Screen Time内容限制部分下的 "限制成人网站"选项给任何试图通过Safari访问URL中包含 "亚洲人 "一词的网站的人带来了问题。
虽然内容过滤器不允许访问使用该词的URL,但《独立报》报道称,同样的阻止不会发生在其他术语上,如访问带有 "black"、"white"、"Arab"、"Korean"或"French"的地址时都不存在这种问题。
有观点认为,该词之所以被包含在内,是因为它被作为成人网站的内容类别,但实在过于简单粗暴。例如,虽然 "schoolgirl"在测试中不会触发屏蔽,但 "amateur"、"mature"、"teen"等其他类似词汇却如期激活了它。
Steven Shen表示,他在2019年12月向苹果公司提交了一份报告,但问题并没有得到解决。虽然苹果并没有透露它如何决定要过滤的词语,但沈表示这 "不太可能"是一个有意的决定,可能是人工智能的结果。
部署内容过滤系统通常会遭遇"斯肯索普问题",多年来,自动系统因术语使用而阻止访问无辜的内容,是许多问题的根源。
这并不是苹果的内容过滤系统唯一一次出现纰漏。在iOS 12中引入的家长控制功能就曾出现过磨合问题,随后有报道称儿童能够看到暴力和色情内容,同时屏蔽了性教育和性侵犯热线的相关资源。
这不仅仅局限于文字过滤。2014年,苹果的iTunes Radio就曾允许带有露骨语言的歌曲流传给那些被默认屏蔽的用户,尽管有电台亵渎内容过滤功能。