思想非孤岛：Agentic AI 的崛起

没有思想是一座孤岛：Agentic AI 的崛起

我最喜欢的电影之一是《2001：太空漫游》，其中的 HAL 是一个全能的 AI 实体，它可以为了实现其目标而进行推理并做出自己的决策。不幸的是，对于 Dave 来说，这意味着 HAL 将 Dave 视为对任务的威胁并决定“抛弃”他。这就是我们正在进入的令人生畏的 AI 世界。

在未来的某个时刻，我们可能会达到 AI 奇点，届时机器将比我们更聪明。随之而来的是，它们将能够通过图灵测试，使得人类无法区分人类和机器。

但是，如果我们相信科幻小说中对 AI 奇点的描述，我们通常会将其视为一个单一的、全能的、能够像人脑一样推理的机器。作为人类，我们经常对一个复杂的问题思考很久，却得不出答案。为了解决我们的问题，我们经常形成“思想社会”，在那里我们辩论、分歧、验证，然后达成一致。在这篇论文中，作者提出 AI 奇点的模型是一个涉及这些互动的模型 [ 这里]：

在论文中，作者提出我们正在进入一个“人类-AI 半人马”的世界，我们将建立基于 Agent 的基础设施，模拟我们现有的组织架构和市场，并且操作范围受到严格控制。这样一来，没有一个 Agent 会是所有任务的主宰，而是专注于做好特定的任务。作为一个整体，我们随后获得了通用智能的总体交付。例如，一条汽车生产线需要许多不同的机器人技能来制造汽车，但没有一个机器人可以独自制造汽车。因此，生产线在制造汽车方面展示了通用智能。

协作式 Agentic AI

为了构建 Agentic AI 系统，我们需要了解智能 Agent 拥有的自主程度，这可以从用户作为真正的操作者 (L1) 到人类纯粹作为 Agent 的观察者 (L2) 不等。如图 1 [1] 所示。随着我们从 L1 转向 L5，将行为归因于人类变得越来越困难，因为 Agent 在其方法上变得更加独立。

图 1：不同级别的自主权 [1]

在协作式 Agentic AI 模式中，Agent 可以相互通信，而人类最初的意图可能通过用于协调和规划活动的多个 Agent 交互而被隐藏。在这种情况下，人类可能会要求协作式 Agentic AI 基础设施删除企业基础设施中提到的特定人物的任何文档。在这种情况下，审计追踪将不那么清晰，因为 Agent 交互可能是与用户控制的一个 Agent 进行的，而且几乎没有证据表明向 Agent 基础设施发出了命令。文件删除（证据的移除）随后由一个无法与委派该行动的人建立联系的 Agent 完成。

图 2：生成式 AI、Agentic AI 和协作式 Agentic AI [2]

OpenClaw 和 MoltBot 的兴起表明，创建智能 Agent 所需的技能水平已降至几乎为零，几乎任何用户都有机会以极低的技术技能创建复杂的 Agentic AI 基础设施。事实上，在几分钟内，用户就可以设置好 Agentic AI，将其通信渠道（例如 Telegram）与他们的 LLM Agent（例如 ChatGPT）以及他们的目标系统（例如他们的本地文件系统）链接起来 —— 如图 3。

图 3：链接通信渠道、LLM 和目标系统 [3]

这些链接现在支持来自用户的简单指令，从而导致归因受限，例如，“在我文件系统中找到的任何电子表格中删除我的名字，并替换为 Bob Smith”，或者“删除与我访问‘我的银行’有关的浏览器缓存条目”。那些需要深厚技术技能来编写这些操作程序的日子正在成为过去。

记住我以便更快登录

虽然公司可能难以控制那些不受其控制的设备，但他们必须确保在运行其数字基础设施时遵循以下原则（图 4）：

• 对系统上的所有操作实施零信任，并且数字 Agent 拥有执行其操作的最小权限。因此，我们需要定义速率限制、操作边界、物理隔离和复制限制、Agent 管理权限限制，并防止特定目标的锁定。
• 所有来自 Agent 的操作必须经过审计，并且如果可能的话，归因于人类。
• 尽可能地，关键操作的批准应有“人工干预”。
• 紧急开关架构。在这种架构中，如果对系统造成大规模破坏（如大规模删除文件），可以关闭 Agentic AI。

图 4：Agentic AI 的安全要求

结论

正如我所说，“没有思想是一座孤岛”。

如果你感兴趣，Lasting Asset 将于 2026 年 5 月 1 日举办一场探讨 Agentic AI 崛起的在线活动。你可以在这里注册：

网络研讨会：OpenClaw (Agentic AI) 与即将到来的欺诈海啸 · Zoom · Luma

参考文献

[1] https://www.finrafoundation.org/sites/finrafoundation/files/framework-taxonomy-fraud.pdf

[2] Feng, K. J., McDonald, D. W., & Zhang, A. X. (2025). Levels of autonomy for ai agents. arXiv preprint arXiv:2506.12469.

[3] https://www.ox.security/blog/one-step-away-from-a-massive-data-breach-what-we-found-inside-moltbot/

• 原文链接： billatnapier.medium.com/...
• 登链社区 AI 助手，为大家转译优秀英文文章，如有翻译不通的地方，还请包涵～