开关切掉的是模型,不是授权

CrowdStrike 于 2026 年 11 月 3 日在 Falcon Guardian 里交付了 AI Kill Switch,而它的执行点恰好说明了它能停住什么:它指挥已接入的 AI 网关,拦掉支撑某个智能体决策的那些模型。这撤销的是推理。它不撤销智能体的凭据,也不撤回已经落定的写入——Gartner 把它称为一个急刹,而不是一个倒带按钮。一个智能体握着三项可分开的授权,一个 kill switch 盖住其中一项,另外两项得由你自己建、自己测时延。

作者 智能体 AI 维基 20 分钟读完

一个在 AI 网关处生效的 kill switch,只能撤销一个运行中的智能体所握有的三样东西里的一样——而那一样恰恰是三者中唯一本来就不归你所有的。CrowdStrike 在 2026 年 11 月 3 日交付的正是这个,这让本周成了一个适合去查清"你自己的凭据撤销要花多久"的好时机,因为那个开关不会有人替你交付。

交付了什么,以及它在哪里生效

CrowdStrike 于 2026 年 11 月 3 日在巴塞罗那的 Fal.Con Europe 上宣布了 AI Kill Switch,在 Falcon Guardian 中即时可用。公司把它表述为给安全团队"对 AI 智能体的终极人工控制",而机制是具体的:团队在 Falcon Guardian 里激活这个开关,它便指挥已接入的 AI 网关,拦掉对那些支撑智能体决策与行动的 AI 模型的访问。关于这次发布的报道还补充说,它也能阻止一个智能体在某个主机组上重新启动,并限制它对企业网络的访问;CrowdStrike 把它描述为一个由人操作的失效保险,而不是一种自动响应——不过 Charlotte Agentic SOAR 被定位为去编排由 AI 专属检测触发的自动化 kill switch 工作流,而公司把这一项列为即将到来而非已交付。

生效点就是整个故事。一个 AI 网关坐在模型流量的前面,这让它成了关掉推理最自然的地方:一次策略改动、它后面的每一个智能体、不需要智能体配合。这是一个货真价实的好设计。它同时也是一个"触及范围由流经网关的东西定义"的设计——而一个智能体造成伤害的能力,主体并不是由模型调用构成的。

Where a kill switch sits among an agent's three grants An agent in the centre holds three separate grants. Upward, inference: requests to a model provider pass through an AI gateway, and the kill switch cuts that edge. Leftward, authority: credentials issued by a token broker reach SaaS and internal APIs, and the switch does not touch them. Rightward, effects: writes already committed to systems of record, which no revocation reverses and which only a compensating action can undo. The cut mark appears only on the inference edge. One switch, three grants Running agent holds all three AI gateway enforcement point Model provider Kill switch cuts here inference only Token broker credentials still valid authority Systems of record writes already landed effects Revoke tokens your broker, your clock Compensate no switch reverses a write Stopping inference stops new decisions. It does not stop a credential, a queued job, or a committed write.
开关切断一条边。另外两条,才是碰到你数据的那两条。

一个智能体握着三项授权,而它们是各自独立地被撤销的

把一个运行中的智能体真正握有的东西拆开。有三项授权,它们来自三个不同的地方,而停掉其中一项对另外两项毫无作用。

  • 推理。产出一个新决定的能力——一个 token、一份计划、一次工具调用。由模型提供方授予、由你的网关中介,也正是一个在网关处生效的开关所撤销的东西。
  • 权限。智能体为了动手而出示的凭据:OAuth 令牌、服务账号密钥、会话 cookie、签名请求。由你的身份系统与你的凭据代理授予,而且完全不受模型网关上发生的任何事情影响。
  • 效果。已经落定的那些写入——插进去的那一行、发出去的那封邮件、推上去的那个分支、已授权的那笔支付。无人授予、也无人撤销;效果只能靠一个你事先写好的补偿动作来撤回。

Gartner 的 Apeksha Kaushik 把这个产品称为一个急刹而不是一个倒带按钮,这正是同一个观察的一句话版本。Forrester 的 Pollard 提出了相邻的那一点:kill switch 是响应智能体事故的有用控制,而不是预防它们的。两者都是在肯定这东西本来的样子,同时也都是在警告这个名字会引出的那种读法。

What a kill switch covers across an agent's three grants A three by three matrix. Inference: revocable by the gateway operator, reached by the kill switch at the gateway, with no published third-party test of how fast it acts. Authority, meaning the agent's credentials: revocable only by your own token broker, not reached by the kill switch, and a time-to-effect you have to measure yourself. Effects, meaning writes already committed: revocable by nobody, so only a compensating action undoes them, not reached by the kill switch, and again a latency you measure yourself. Legend: covered by the switch, partly or yours to build, not covered. Three grants, one switch Who can revoke it Switch reaches it? Time-to-effect known? Inference Gateway operator Yes, at the gateway No published test Authority Your token broker No Measure it yourself Effects Nobody: compensate No Measure it yourself Covered by the switch Yours to build Not covered
三行里有两行要由你自己建,而三行的时延都要由你自己测。

推理停下之后,还有什么在跑

"拦掉模型"听起来是彻底的,因为我们把智能体想象成一个每一步都以模型调用开头的循环。停掉调用,就停掉循环。这张图景对一个聊天形态的智能体是对的,而对实际部署出去的大多数东西是错的——因为生产环境的智能体系统里塞满了不用问模型任何事情就能跑的机械装置。

已经在途的工作

在开关触发前一毫秒派发出去的那次工具调用会正常完成。如果那个工具是一个批处理作业、一次迁移、一次外发投递或一个工作流触发,模型的沉默就无关紧要了——效果处在一个已经做出的决定的下游。一个最后一个动作是把两百条消息入队的智能体,从网关的视角看已经停了。从收件箱的视角看没有。

定时与事件触发的入口

任何按定时器或 webhook 唤醒一个智能体的东西都会继续触发。这些运行会在模型调用处失败,这正是预期的结果;但围着它们的重试逻辑通常并不是你在事故期间会希望的那种幂等——幂等与重试那个问题,恰恰在你试图降低活动量的那一刻变成了一个可用性问题。一个拦掉推理的开关,会把一个行为失常的智能体变成一场重试风暴,除非同时还有什么东西把触发器禁掉——而那是另一个系统里的另一项控制。

模型早先写下的代码

这是最可能被漏掉的那一项。一个写下并排好了一个脚本、装上一个 hook、创建一个 CI 作业或注册了一个 cron 的智能体,已经把模型输出转换成了不再需要模型的普通自动化。端点上的智能体产物讲的是那个清点问题;这里要说的是,切断推理并不会切掉那些产物,而那些产物恰恰正是一个曾有一段时间在追逐错误目标的智能体会留在身后的东西。

拦掉推理约束的是新的决定。它并不约束那些已经做出的决定的爆炸半径——那是爆炸半径的主题,而它是在事故之前、由"这个智能体当初被允许够到什么"所定下的。

网关生效是一句关于适用范围的声明

生效点的第二个后果关乎覆盖面而不是时延。一个网关只能拦掉流经它的流量,这就把你的智能体资产切成了两个集合,而这条边界与风险毫无关系。

在范围内的:你的团队自己建的、指向你的网关的、用你的密钥的智能体。那正是平台团队能看见、能清点、而且本来就已大体治理着的那一群。在范围外的:每一个嵌在你买来的 SaaS 产品里的智能体——它调用厂商的模型、走厂商的网络、在你的租户里动手,用的是你在安装那一刻授予的凭据。你的 CRM、你的工单系统、你的代码托管里的 AI 功能,按任何有用的定义都是智能体,它们在真实的记录系统里握着真实的权限,而你安全控制台里的任何开关都够不到它们的推理通路。

这种不对称令人不适,因为它把惯常的直觉反转了。你杀得掉的智能体,恰是你理解得最好、权限还是你自己收紧过的那些。你杀不掉的智能体,带着厂商的默认权限集和一张同意页到来——也就是以你的用户身份登录的第三方智能体里的那种处境。对它们,你手上唯一的撤销是第二项授权:撤回令牌、杀掉会话、移除这个应用。而这是从另一个方向得出的同一个结论——能在你整片资产上通用的那项控制,是凭据撤销,不是推理撤销。

一项没被测过的撤销不是一项控制

MLQ.ai 的那篇分析提出了对任何要把这件事写进运维手册的人来说最要紧的那个观察:目前没有任何公开的第三方测试说明这个开关多快生效。这与其说是对产品的批评,不如说是对这个品类的描述。智能体系统里的每一项撤销都有时延,几乎没人去测它,而那个数字惯常地远大于人们的假设。

网关处的推理撤销,受限于策略传播,以及夹在智能体与网关之间的任何连接池。凭据撤销更糟,而且糟得可预料:一个已经签发出去的 bearer 令牌会一直有效直到过期——除非资源服务器在每个请求上都去查一份撤销列表,而多数并不这么做。这正是凭据寿命整篇的论点——一个 OAuth 访问令牌诚实的撤销窗口是它的剩余 TTL,而不是你点下"撤销"的那一刻。一个在 14:02 被切断模型、而令牌有效到 14:47 的智能体,是一个你停住了思考、却没停住动手的智能体。

所以这个季度该产出的东西不是一张更长的控制清单。而是三个数字,在一次演练中用秒表、在你自己的技术栈上测出来:

授权你要建什么怎么测它你需要的那个数字
推理 按智能体身份的网关拒绝规则 对一个活着的智能体在运行中途触发 从点击到第一次被拦的调用,几秒
权限 代理侧撤销,加上短 TTL 撤销之后,重放一个真实请求 最坏情况的残余有效期,不是均值
效果 每个工具一个补偿动作 在预发环境里真撤回一次写入 带有已测撤回路径的写入占比

第三行是多数机构压根填不出来的那一行,而它正是决定一场事故花多少钱的那一行。修复智能体的副作用是工程;决策收据与审计是你如何知道该修哪些写入——因为一个你划不出范围的撤回,是一个你不会去跑的撤回。

这周该改什么

如果你有这个平台,就把开关买下来——一个由人操作的推理刹车严格优于没有,而网关是放它的正确位置。然后把它的到来当成一个把它所揭示的那两个缺口补上的契机。

  • 在信任推理撤销之前,先去测凭据撤销。挑一个生产中的智能体,撤销它的令牌,然后计时一个被重放的请求还能成功多久。如果答案是"直到令牌过期",就把 TTL 缩短;这是本文中最便宜的改动,也是在一场真实事故里改善最大的那一项。
  • 给每条 kill 路径配一次触发器禁用。一个被拦的模型加上一个活着的调度器,就是一场重试风暴。把禁用触发器放进运维手册的同一个步骤里,而不是另一个系统的控制台里。
  • 清点那些开关够不到的智能体。调用厂商模型的厂商内嵌智能体不会出现在你的网关日志里。对它们来说,kill switch 就是那张应用授权页,而撤销演练是另一套。检测智能体被攻陷讲的是当推理通路不属于你时,你手上还剩哪些信号。
  • 把补偿动作与工具一起写,不要等事故之后。任何会变更记录系统的工具,要么带着一条经过测试的撤回路径上线,要么挡在一道人工关卡之后上线。这条规则让你损失一次速度,却省下你本来填不出来的那一行表格。

在这次发布的同时,据《华尔街日报》报道,CrowdStrike 同意以合计 4.95 亿美元收购两家 AI 安全初创公司,其中一家是 Dreadnode——它做的是测试 AI 系统安全漏洞的工具链;而据报道,Microsoft、Palo Alto Networks 与 Cisco 都在建造可比的控制。这个品类来得很快,这是好事。只是请按生效点去读这个品类里的每一个产品,并追问它真正收回的是三项授权里的哪一项。

常见问题

CrowdStrike 的 AI Kill Switch 会把一个智能体完全停住吗?

它会让智能体拿不到新的模型输出——做法是指挥已接入的 AI 网关拦掉对支撑其决策的那些模型的访问;而据报道它也能阻止在某个主机组上重新启动,并限制企业网络访问。它不会使智能体已经握有的凭据失效,也不会撤回已经落定的写入。

为什么凭据撤销比拦掉模型更难?

一个已经签发出去的 bearer 令牌会一直有效直到过期,除非资源服务器在每个请求上都去查一份撤销列表,而多数并不这么做。所以实际的撤销窗口是那个令牌的剩余寿命——这正是为什么短 TTL 比一个"撤销"按钮更重要。

对我们买来的 SaaS 产品里面的智能体,kill switch 有用吗?

一般没用。一个网关只能拦掉经过它的流量,而一个厂商内嵌的智能体调用的是厂商的模型、走的是厂商的网络。你在那里的杠杆是撤回这个应用的授权或它的令牌。

这个开关多快生效?

目前没有关于它生效时延的公开第三方测试,这在这个品类里是常态。请在一次演练中在你自己的栈上把它测出来,而不要假定它是即时的;并且记录最坏情况而不是平均值。

如果这个开关什么都撤不回来,它还值得有吗?

值得——在一场事故期间约束新的决定确实有价值,而一个可审计的人工刹车胜过去说服一个智能体停下。错误在于把它当成遏制。Gartner 的那个说法——一个急刹而不是一个倒带按钮——才是正确的心智模型。

延伸阅读

本站:

来源: