微软周四发布了一个新工具,这个工具可以扫描在线聊天记录以寻找想要性侵儿童的人。科技行业正在致力于打击网上儿童罪案,微软此举也是出于这个目的。这项服务的代号为“阿耳特弥斯项目”(Project Artemis),可以扫描历史聊天记录以发现潜在的儿童性侵者。
该工具以微软的一项专利为基础,这项专利技术可以利用历史聊天数据来给网上对话给出概率评级,使用该工具的公司可以通过这种评级来确定是否该对网上对话进行人工审查。
多年以来,微软一直都在使用这项技术监控Xbox平台上的聊天内容,而目前这家科技巨头正在考虑将Project Artemis整合到Skype等其他聊天服务中。
“‘阿耳特弥斯项目’是向前迈出的重要一步,但绝不是什么‘灵丹妙药’。”微软数字安全主管考特尼·格雷瓜尔(Courtney Gregoire)发表博文称。“网上儿童性剥削和虐待以及网上儿童性诱拐的探测都是重要的问题,但我们并没有被这类问题的复杂性所吓倒。“
微软与Meet Group、Roblox、Kik和Thorn合作开发了这个工具,目前正在向具有聊天功能并使用Thorn的第三方在线服务提供“阿耳特弥斯项目”。Thorn是个非营利组织,旨在开发技术来保护儿童免受性虐待,该组织将在本周开始把这项技术授权给其他服务。微软PhotoDNA工具背后的学者哈尼·法里德(Hany Farid)领导了“阿耳特弥斯项目”的开发工作,PhotoDNA工具的功能是扫描图像以寻找儿童性剥削的证据。