安全专家认为可将一切截图的Windows AI功能堪称"安全灾难"

2024年06月03日 21:43 次阅读 稿源:cnBeta.COM 条评论

微软即将推出一项由人工智能驱动的新功能"Recall",它可以截图你在电脑上所做的一切。Recall 是将于 6 月 18 日推出的新Copilot Plus PC的一部分,但测试过该功能的专家已经警告说,Recall 可能会成为网络安全的"灾难"。

windows_11_recall.jpg

Recall 的设计目的是利用本地人工智能模型截取你在电脑上看到或做过的所有事情,然后让你能够在几秒钟内搜索和检索任何内容。你甚至可以滚动浏览可探索的时间轴。Recall 中的所有内容都被设计为在设备上保持本地和私密,因此不会使用任何数据来训练微软的人工智能模型。

尽管微软承诺提供安全加密的 Recall 体验,但网络安全专家凯文-博蒙特(Kevin Beaumont)发现,这项由人工智能驱动的功能存在一些潜在的安全漏洞。博蒙特曾于 2020 年在微软短暂工作过,他在过去一周对 Recall 进行了测试,发现该功能以纯文本形式将数据存储在数据库中。这使得攻击者可以轻而易举地使用恶意软件提取数据库及其内容。

图片.png

"每隔几秒钟就会截图。这些截图由 Azure AI 自动 OCR,在你的设备上运行,并写入用户文件夹中的 SQLite 数据库,"博蒙特在一篇详细的博文中解释道。"这个数据库文件以纯文本的形式记录了你在电脑上浏览过的所有内容"。

博蒙特分享了 X 上纯文本数据库的一个示例,斥责微软告诉媒体,黑客无法远程渗出 Recall 活动。该数据库存储在 PC 本地,但如果你是 PC 的管理员,则可以通过 AppData 文件夹访问该数据库。两名微软工程师最近在 Build 大会上演示了这一点,博蒙特声称,即使不是管理员也可以访问该数据库。

图片.png

"人们担心的是,Recall 会让恶意软件和攻击者更容易窃取信息。InfoStealer 木马早已经存在,可以从个人电脑中窃取凭证和信息,黑客目前也在传播这类恶意软件,以窃取和出售信息。"博蒙特说:"Recall 能让威胁行为者在几秒钟内自动搜索你浏览过的所有内容。"

博蒙特从自己的 Recall 数据库中提取了信息,并创建了一个网站,用户可以上传数据库并立即进行搜索。他说:"在微软推出该功能之前,我故意隐瞒了技术细节,因为我想给他们时间做一些事情。"

微软目前计划在 Copilot Plus PC 上默认启用 Recall。在对 Recall 预发布版本的测试中,当用户设置新的 Copilot Plus PC 时,该功能默认是启用的,而且在设置过程中没有禁用该功能的选项,除非你勾选一个选项,然后打开设置面板。据报道,微软正在讨论是否要更改这一设置过程。

微软的"Recall"公告引起了迅速的反响,隐私保护运动者称这是一场潜在的"隐私噩梦",英国信息专员办公室也介入调查微软使用人工智能功能的情况。

微软坚持认为,Recall 是一种可选的体验,它已在该功能中内置了隐私控制功能。你可以禁用某些 URL 和应用程序,而且 Recall 不会存储任何受数字版权管理工具保护的资料。微软在其解释性常见问题页面上说:"Recall 也不会对某些类型的内容进行快照,包括 Microsoft Edge、Firefox、Opera、Google Chrome 浏览器或其他基于 Chromium 的浏览器中的 InPrivate 网页浏览会话。"

不过,Recall 并不进行内容审核,因此不会在截图中隐藏密码或财务账号等信息。微软也曾警告说:"这些数据可能存在于存储在你设备上的快照中,尤其是当网站不遵循标准互联网协议(如隐蔽密码输入)时。Recall

不过,微软的常见问题页面并没有提到恶意软件试图窃取 Recall 数据库的可能性。微软表示:"Recall 快照保存在 Copilot Plus PC 本身的本地硬盘上,并使用设备上的数据加密和(如果您使用的是 Windows 11 Pro 或企业级 Windows 11 SKU)BitLocker 进行保护。"

"磁盘加密只适用于某些情况。"博蒙特解释说:"当你登录电脑并运行软件时,系统会为你解密。静态加密只有在有人到你家偷走你的笔记本电脑时才会有用,而黑客犯罪分子不会这么做"。

事情发生到现在微软很可能会发现自己需要重新设计 Recall,或者说干脆"Recall Recall"。因为它的数据存储方式显然存在一些明显的漏洞,需要加以解决。Recall 的推出正值微软首席执行官萨蒂亚-纳德拉(Satya Nadella)呼吁员工将安全作为微软的"头等大事"之后几周,即使这意味着安全优先于新功能。

纳德拉此前在一份内部备忘录中说:"如果你面临安全和其他优先事项之间的权衡,你的答案很明确:选择安全。在某些情况下,这意味着安全优先于我们所做的其他事情,例如发布新功能或为遗留系统提供持续支持。"

对文章打分

安全专家认为可将一切截图的Windows AI功能堪称"安全灾难"

1 (33%)
已有 条意见

    最新资讯

    加载中...

    编辑精选

    加载中...

    热门评论

      Top 10

      招聘

      created by ceallan