Recall回归：追踪你一切行为的“最愚蠢AI”！

Recall 回归：追踪你一切行为的“最愚蠢的 AI”！

欢迎来到 AI 代理的世界！

“如果你想保守秘密，你也必须对你自己隐瞒。”

——乔治·奥威尔，《1984》

微软终于决定发布其 Recall 功能。该功能原计划于 2024 年 5 月发布，后来推迟到 2024 年 10 月。之后又定于 2024 年 12 月发布，但再次因安全更新而推迟。现在，它已在 Windows 11 的预览版中发布[ here]：

基本上，Recall 会每隔几秒钟截取屏幕截图，并将它们发送到云端。然后，微软使用 OCR（光学字符识别）来提取屏幕上的文本，并将其发送回本地数据库。对某些人来说，这是一个“老大哥”的世界，并且可能是一场隐私噩梦。在过去一年左右的时间里，微软被迫增强了产品的安全性，例如使用生物识别认证（使用 Windows Hello 认证）：

要使用 Recall，你需要选择加入保存快照（即你活动的图像），并注册 Windows Hello 以确认你的存在，以便只有你可以访问你的快照。你可以随时控制保存哪些快照，并且可以随时暂停保存快照。

以及：

如果你选择加入该功能，那么当你使用 PC 时，你的活动屏幕的快照将每隔几秒钟保存一次，并且当你的活动窗口的内容发生变化时也会保存。快照还受到 Windows Hello 的保护，因此只有你（已登录的用户）可以访问 Recall 内容。Recall 允许你使用你记得的线索搜索内容，包括图像和文本。

一切听起来都不错？试想一下，如果有人窥探了你的数据存储……密码、搜索词、银行详细信息、PIN 码……一切！欢迎来到 AI 代理的可怕世界，谁将了解关于你的一切，包括你的密码、你的银行详细信息以及你曾经看过和读过的一切！

前言

为你的电脑收集数据的最愚蠢和效率最低的方式是什么？每隔几秒钟截取一次屏幕截图，然后像翻页书一样回放它。这听起来像是世界上最糟糕的 IT 学生项目，而它现在是 Copilot+ PC 上的一个新功能。因此，微软凭借触手可及的 OpenAI 的所有力量，采取了最愚蠢的方式来实现智能 AI，即实施 Recall 功能：

该功能默认启用，并且有些人已经发现很难禁用它：

介绍

我在星期五有个会议，一个 AI 笔记员加入了。基本上，它在那里记录所说的内容，并生成转录的会议记录。所以，不管你喜不喜欢，我们都无法躲避 AI 机器人。它们现在能理解我们的语音，它们学习我们说话的方式，它们几乎可以立即将我们链接到多个数据源——收集谁、在哪里和何时，以及我们做了什么和说了什么。基本上，机器现在可以链接你生活的几乎每个部分，但你可能实际上找不到你的数据日志，或者将其存储在数据库中。事实上，“你”可能存储在一个深度学习模型中，并且几乎不可能从收集到的数据中提取你自己。

你的电脑、智能手机和智能设备记录了关于你活动的大量信息，例如在 Internet 缓存、cookie 存储和其他日志中。但想象一下，如果一台机器可以记录你所做的每一件事，并且能够回放所有内容。有了这个，你可能会记得你有一个名为“wobbly bridge”的文件，并且一个 AI 代理可以搜索你之前的所有活动，找到一个具有相似名称的文件。基本上，该系统就像拥有照相记忆一样。一切听起来都很棒？

现在，想象一下，有人还获得了你电脑的访问权限，并设法窃取了你在一台设备上采取的每一个行动的数据。这可能会揭示你内心想法的什么？因此，将其推向极端，并添加从电子设备收集到的其他信息（例如你的位置），你生活的完整历史将被记录下来。

Recall 功能

作为 Mac 用户，我使用 Spotlight，它通常很擅长查找我丢失的东西。对于 Windows，甚至没有类似的东西。但随着 Copilot+ PC 的发布，这一切都将改变，它将每两秒钟截取一次屏幕截图——Recall 功能。除此之外，执行的每个动作也会被记录下来。对于许多人来说，围绕安全性的风险可能会导致 Copilot+ 的使用受限，尤其是在公司环境中，并且存在大规模数据泄露的风险。

除了网络安全风险之外，人们还必须怀疑微软是否会开始在用户身上训练机器学习模型或向他们投放有针对性的广告。

不过，微软表示，用户将可以控制屏幕截图，选择记录哪些应用程序，并且可以随时暂停或删除它们。该公司还必须证明 Recall 符合英国的《数据保护法》和欧盟的《通用数据保护条例》(GDPR)。

它是如何工作的？

该系统每隔几秒钟截取一次屏幕截图，然后使用 Azure 的 OCR 软件将其转换为文本形式，然后存储在用户文件夹中的 SQLite 数据库中。然后，会有一个明文记录，记录下查看的每一段文字。这些文件存储在 AppData 中的 CoreAIPlatform 文件夹中 [ here]：

参考 [ here]

以及微软工程师访问该文件的演示：

https://cyberplace.social/system/media_attachments/files/112/535/509/719/447/038/original/7352074f678f6dec.mp4

屏幕截图可能会与用户的加密密钥一起存储。这意味着当用户登录时，所有屏幕截图将被解密并可供查看。这意味着安装在计算机上的恶意软件将很容易查看和复制屏幕截图，因为它们对用户来说与对用户来说一样可用。

信息窃取者、广告商和执法部门的梦想

对于执法部门和广告商来说，截图方法将是一个梦想，并且可以完整地回放某人一生的轨迹。加上计算机收集的所有其他数据，我们拥有一个可以记录你从出生到死亡的系统。这就是我们创建的互联网。不幸的是，我们在创建互联网时使用的方法在诸如同意、隐私和信任之类的事情上并不真正适合。

对于数字调查员来说，查看两秒的屏幕截图并搜索某人的所有活动的能力将是已知的最佳调查工具。我们可以对网络犯罪分子说同样的话，泄露你最敏感的秘密可能会非常尴尬。因此，屏幕截图存储可能会成为恶意软件编写者的单一目标。事实上，它几乎构建了所有相关的内容：

• 谁？从语音、面部检测、设备、登录等获得。
• 与谁？从你的对话和与他人的通信中获得。
• 在哪里？从你口袋里的智能手机和 IP/MAC 地址日志中获得。
• 何时？时间戳和日志。
• 什么？对于我们所有购买的痕迹。
• 为什么？你在设备上的活动时间表。

如果一台机器可以交叉关联所有这些事情，它将能够深刻理解我们的世界，以及我们如何与它互动。

结论

我是 Mac 用户，如果我想在我的机器上找到某些东西，我只需打开 Spotlight，它就会为我找到它。当我使用 Microsoft Windows 机器时，我只是很难找到东西。也许 Recall 是一种以最简单的方式解决这个问题的方法——只需不断截取屏幕截图。因此，市场上不存在这种类型的产品是有原因的……它太冒险了！

总的来说，这里有很多问题要问，尤其是在日志是否会被加密并具有高水平的访问控制检查方面。微软在这方面有良好的记录吗？好吧，没有！并且，所有这些数据将占用大量空间，那么是否会使用云来存储或存档它们？如果是这样，谁可能有权访问它们？

因此，在 21 世纪，将没有藏身之处。颠覆安迪·沃霍尔的名言，我们可能会有，“在未来，每个人都将拥有 15 分钟的隐私”。

• 原文链接： billatnapier.medium.com/...
• 登链社区 AI 助手，为大家转译优秀英文文章，如有翻译不通的地方，还请包涵～