微软与StopNCII合作 从必应搜索引擎删除有害的私密图片

2024年09月06日 02:18 次阅读 稿源:cnBeta.COM 条评论

微软公司宣布了一项新的主动内容管控计划,以删除在其必应搜索引擎中发现的含有可能被贴上有害人体私密图像标签的图片。该公司与一个名为 StopNCII 的组织合作推出了这项计划。

1671811455_bing_logo_(2016).jpg

微软在一篇博客文章中称,StopNCII 允许那些未经同意就将自己的私密照片发布到网上的受害者,让他们创建一个数字指纹或照片的"哈希值"。这些散列图像(包括人工智能生成的图像)不会离开他们的设备。然后,在线服务可以检测到这些图像,并将其删除。

微软向 StopNCII 捐赠了自己的 PhotoDNA 技术,该技术过去曾被用于检测虐待儿童照片的在线图像。

微软对此补充道:

我们一直在试用 StopNCII 数据库,以防止在必应的图片搜索结果中返回此类内容。截至 8 月底,我们已对 268899 张图片采取了行动。我们将继续评估扩大这一合作关系的努力。我们鼓励担心自己的图片被公开或可能被公开的成年人向 StopNCII 报告。

除了删除此类图片外,微软还表示禁止使用其在线服务向他人发出发布此类图片的威胁。

这包括要求或威胁他人以获得金钱、图片或其他有价值的东西为交换条件,从而不公开国家信息基础设施。除了这项全面的政策外,我们还在相关的地方(如微软商店)制定了专门的禁令。微软《生成式人工智能服务行为准则》也禁止创建色情内容。

微软建立了自己的举报门户网站,人们可以在该网站上提交未经同意的亲密图片所在的网页甚至 URL:

https://www.microsoft.com/en-us/DigitalSafety/report-a-concern

微软将酌情对这些链接采取行动。

对文章打分

微软与StopNCII合作 从必应搜索引擎删除有害的私密图片

1 (50%)
已有 条意见

    最新资讯

    加载中...

    编辑精选

    加载中...

    热门评论

      Top 10

      招聘

      created by ceallan