YouTube的推荐算法会把你带入一些非常奇怪的兔子洞,相信很多人都会觉得这家网站推荐的视频让人感觉很奇怪。今天,Mozilla将推出一个新的浏览器扩展--RegretsReporter,旨在对用户的 "遗憾推荐"进行众包研究,让用户更好地了解YouTube的推荐算法是如何运作的,并提供它发现的模式细节。
Mozilla从去年开始收集用户关于YouTube推荐给他们的视频的故事,一位用户搜索关于维京人的视频,随后被推荐了关于白人至上主义的内容;另一位用户搜索 "失败"的视频,开始得到关于致命车祸的可怕视频的推荐。
但迄今为止还没有人真正通过大规模调查来独立追踪YouTube的推荐算法,以了解它如何决定推荐哪些视频,Mozilla的宣传和参与副总裁Ashley Boyd说。
"当涉及到误导信息时,那么多的注意力都放在了Facebook上--这是理所当然的,"博伊德说。"但数字生态系统中还有其他元素一直没有得到充分关注,YouTube就是其中之一。我们开始关注YouTube所说的话,他们如何策划内容,并注意到他们对算法的担忧做出了回应,并表示他们正在取得进展,很遗憾的是暂时没有办法验证他们的说法。"
YouTube发言人表示公司有兴趣看开展对YouTube推荐系统的研究。在过去的一年里,YouTube已经推出了 "超过30种不同的变化,以减少边缘内容的推荐。"
博伊德指出,这家谷歌旗下的视频平台曾多次承诺调整算法,甚至在公司高管意识到其推荐的视频中含有仇恨言论和阴谋论的时候。
Mozilla新发布的浏览器扩展将向Mozilla发送有关你使用YouTube的频率的数据,但不会收集有关搜索或观看的信息,除非志愿者选择特别提供扩展发送报告,提供更多关于在推荐中遇到的任何 "令人遗憾"的视频的细节,这将允许Mozilla收集关于报告的视频以及用户如何到达那里的信息。
Mozilla希望该扩展能让YouTube的推荐算法 "如何"变得更加透明;比如说,推荐的视频类型会导致种族主义、暴力或阴谋的内容,并识别任何关于有害内容被推荐的频率的模式。
"我很希望人们对人工智能以及在这种情况下,推荐系统如何触及他们的生活更感兴趣,"博伊德说。"它不一定是神秘的,我们可以更清楚地了解你如何控制它。"
博伊德强调,在整个过程中,用户的隐私都会得到保护。Mozilla从扩展中收集的数据将与随机生成的用户ID相连,而不是与用户的YouTube账户相连,只有Mozilla才能获得原始数据。博伊德说,它不会在私人浏览器窗口中收集数据,当Mozilla分享其研究结果时,它将以一种最小化用户被识别的风险的方式进行。
Mozilla并没有与谷歌或YouTube就推荐算法的研究做出正式安排,但Boyd表示,他们一直在与该公司沟通,并承诺分享信息。
但YouTube表示,Mozilla提出的方法论似乎 "值得商榷",并补充说,它无法正确审查如何定义 "遗憾"等问题。
Mozilla计划用6个月的时间来收集扩展的信息,之后将向用户和YouTube展示其调查结果。"我们相信他们致力于解决这个问题,"博伊德对YouTube说。"如果他们能从我们的研究中了解到任何额外的信息,并做出一些可行的改变,以努力构建更值得信赖的内容推荐系统,我们会很高兴。"