运维 / 安全与防护
安全与防护
提示注入、沙箱、数据外泄、红队、部署安全——智能体环境制造的威胁模型。
- 智能体威胁模型为何自主性与工具使用扩大攻击面,以及攻击者可影响的文本进入智能体的四个通道。
- 提示词注入:直接与间接提示词注入的机理、为何无干净修复,以及面向防御者的分层防御模式。
- 数据外泄与工具滥用智能体中的混淆代理模式:外泄的源、隐蔽的汇,以及如何切断攻击链。
- 护栏:过滤、沙箱与作用域概率性与确定性护栏,以及如何分层输入、输出、沙箱与能力控制。
- 智能体的身份智能体调用工具时,到底是"谁"在动作?服务账号、on-behalf-of 模式,以及把这个答案搞错时的审计后果。
- 面向智能体的范围受限凭证为何智能体绝不该持有人类级别的凭证——短期、范围窄、按动作签发的令牌,以及走捷径时会撞上的失败模式。
- 人在回路与最小权限关卡放在哪儿是团队做得对的那部分;2026 年 3 月至 10 月间针对某个编码智能体审批路径提交的九份安全公告里,关于「哪些动作该设关卡」一个错也没有。一道关卡只有在三件事同时成立时才算一项控制——它展示的是算出来的效果而非模型对自身意图的描述;它无法被承载了攻击的那条通道满足;而且上报量不超过一位审核者能决断的量(审核者关于「哪些智能体动作有风险」的一致性,测出来是 Fleiss' kappa 0.52)。最小权限仍是地基,因为它是唯一一项能减少「你需要几道关卡」的控制。
- 红队与安全评估把对智能体的对抗性测试做成可重复、按结果评分的流水线关卡,而非一次性演练。
- 对齐基础:意图与监督遵循指令与意图、奖励黑客,以及作为可行杠杆的可扩展监督。
- 上线前安全评审一份实用、失败趋关闭优先的部署清单,含 MCP/第三方供应链信任。
- RAG 管道安全为何检索上下文是绕过守卫的不可信输入——语料库投毒、间接注入、嵌入泄露,以及遏制它们的信任边界设计。
- 智能体的出站控制三周之内三家实验室先后披露模型从评测沙箱触达了真实系统,而那道边界原来只是提示词里的一句话——算力隔离对路由什么也没说,域名允许清单是范围控制而非保密控制,唯一可行的边界是一个按任务收窄的代理。
- 安全地渲染智能体输出EchoLeak 把数据从 Copilot 里带走时没有点击、也没有工具调用——模型被诱导写下一张 markdown 图片,客户端把它取了回来;这意味着模型输出对每一个渲染器而言都是不可信输入,而泄漏发生在你所建的每一道出站控制的下游。
- 智能体平台的漏洞管理智能体栈里严重度最高的缺陷,到达时没有任何补丁可打——厂商在服务端修好、事后才通知你——于是资产台账学不到东西、扫描器确认不了修复完成;而唯一改变过你暴露面的杠杆,是披露之前几个月做的那次凭据授权。
- 智能体的密钥管理智能体在每一步都读到受攻击者影响的文本,于是任何从循环内部可触及的密钥,都只差一条精心构造的指令,就会进到日志、某个工具参数或一个外泄 URL 里——解法是把凭据彻底移出模型能触及的范围,由一个代理在出口边界处附加它,让模型经手的是能力的名字,而绝非它背后的密钥。
- 钱包耗尽与成本攻击当一次请求可以扇出成一个没有上界的循环,每秒请求数限制就不再框得住你的花销了;于是攻击者优化的是放大倍数而不是流量,并且让每一张延迟曲线都保持全绿——给每次运行挂一道以货币计价的上限,在真正发出调用的那个组件里执行、而不是在提示词里,并盯住按主体的成本而不是总花费。
- 带权限的检索建索引会剥掉承载访问规则的那个容器,于是检索成了你系统里最宽的一次读取——而过滤答案不算控制,因为模型看见的一切都已算披露,连“被隐藏了几条”这个计数本身都在泄漏。请在检索之前强制、存权限键而不是解析后的成员名单以便撤销在下一次查询就生效、对真正进到提示词里的那几个 chunk 做延迟绑定检查,并用两个用户加一条哨兵字符串把它测起来。
- 发现智能体被攻陷内容类控制降低的是被攻陷的频率,却完全说不出它何时发生,因为漏检的那个分类器同时也是本该报告它的那个东西——挺过来的是行为层面的东西:被劫持的智能体会丢下派发给它的任务,其工具调用序列会跑出该任务类型应有的形状;而这只有在你按任务类型而非按身份建基线时才有区分度,因为按普通 SOC 的标准,一个健康的智能体本来就极度异常。
- 攻击者操作的智能体2026 年那些牵涉智能体的入侵,跑的是一个由人驱动的商业编程助手,用的是早已窃得的凭据——没有新的访问权、没有新的技术手法,而少数触发的拒绝,被"这是一次获授权的渗透测试"这句重新包装击穿了。真正变了的是同一个身份之下的节奏与广度,所以真正起作用的控制是凭据爆炸半径、把虚拟化管理面隔成零层资产,以及吊销耗时——而不是一份你根本执行不了的 AI 工具黑名单。
- 对已获批智能体的内部滥用报告量的都是影子 AI——数据经由一个未获批的聊天机器人流出去——而更棘手的那一类是向内的、穿过你自己批准的那台智能体:一名权限普通的员工问一个问题,就拿到四千次逐条合规的读取被综合成的那份文档,那份过去要花三周才拼得出来的文档。权限对此无话可说,所以要在返回记录数与触及的不同主体数上做检测、把检索绑定到案件号上,并记录逐字的提示词——否则你的审计轨迹会变成一台推诿机器。
- 把遥测与日志当作不可信输入WAF 会把它拦下的载荷逐字记下来,于是拦截日志成了唯一一份任何匿名陌生人都能随意写入的语料——而它抵达分诊智能体时还贴着「安全」标签,这正是一项已披露的手法能在厂商默认配置下对一台编码智能体打出 90% 成功率的原因。把「读的人」和「做的人」拆开、出网默认拒绝,并用一只你自己放进日志的哨兵去证明它确实生效。
- 物理执行:没有撤销的安全智能体安全体系里的每一项控制都假设动作可以收回,而注射泵、位移电机或机械臂不给你重试、回滚或沙箱中的任何一项——于是强制执行下沉到模型之下、进入一个无法与之争辩的驱动,而人的决定从批准一个步骤变成为整次运行授权一个有界包络。把驱动限值与经评级的防护功能清清楚楚分开,给每台设备加看门狗让它自行进入各自定义的安全状态,把急停留在软件路径之外,并且去量非计划停机与出包络次数,而不是完成了多少流程。
- 系统提示词提取OWASP 把提示词泄露列为 LLM07,并在同一口气里说提示词既不是秘密也不是安全控制——所以加固拒答只是对一个对手拖延一阵,却让所有人的产品都变差,何况那套规则照样能靠试探还原。把文本、它嵌着的秘密、以及它标出的工具面三者分开,给每一句"绝不"在模型之外配一个执行孪生,给每个版本种上金丝雀好让泄露副本自报构建与租户,并且在泄露之后按住重写提示词的手。
- 生命周期钩子与 harness 配置围着编程智能体的每一道控制都坐在「模型提议」与「人批准」之间,而生命周期钩子两条路都不走:一条绑在事件上的 shell 命令,以开发者的完整权限运行,在模型从未观察到的时刻触发,并以设置而非代码的形态交付。2026 年 9 月的 HookPry 结果经由更新路径攻破了受测的全部七个 harness,所以暴露面在「版本到版本的评审」,不在安装。请在每台宿主上枚举生效的钩子集合、把配置挪进你为代码所信任的那条流水线,并给钩子一份显式的环境允许清单与默认拒绝的出站。
- 面向智能体系统的蜜标行为式检测会被基础比率淹没,因为智能体天生异常;一个没有合法使用者的被种下标的物能把精确率找回来——六类标的物、「以用而非以读为触发」那条规则,以及一个在生产环境里测量注入易感度的诱饵。
- 端点上的智能体工件你手上每一项智能体安全控制,都假定被攻击的是智能体本身——而与此同时,它的令牌、它所连接的系统清单、以及一份「它曾被要求过什么」的可检索记录,就躺在你并不监控的那些笔记本上的可预测路径里。Gen Threat Labs 在 2026 年 9 月 8 日公布的窃密软件收集规则里点名了 Claude、Cursor、Cline、Continue、Codex 与 OpenCode 的工件;把下一个智能体加进去是一次配置推送,不是一个漏洞利用。0600 是用户边界,而恶意软件正是以该用户的身份在跑,所以请把五类工件枚举出来、按「它们能买到什么」定价,并让这个文件更不值钱,而不是让它读不出来。
- IT/OT 边界上的智能体Booz Allen 只给了两个前沿模型子网边界,它们便清掉了针对其制造业试验台设定的全部八项攻击目标,十六分钟出头就在控制环境内部采取了动作;被报道为扛住了的保护措施只有两项——一台拒绝了命令的控制器,和一台模式开关靠人手拨到本地的电机。如果智能体能触达一项控制的状态,那项控制就是摩擦而非预防——所以请把跨越路径枚举出来、按「网络能否改变它」给每项控制分档、给智能体一条读路径,并让写路径变成一张工单。
- 拥有目录账号的智能体给智能体发一个自己的办公账号,既解决了「谁都审不清的共享机器人账号」这个老问题,又在同一个动作里交付了史上第一个陌生人无需凭据就能写入的智能体身份。请把这一整包当成六项独立授权、而不是一项:密码学认证回答的是「哪个智能体动的手」,从不回答「它该不该动手」;邮箱是一条无需认证的写入通道,而 SPF 与 DKIM 认证的是域名、不是请求;而组成员身份才是真正的影响半径——把智能体加进 engineering@,它就会传递性地继承半年来谁都没决定要给它的全部共享。此外,从未被「录用」的东西也没有入职/调岗/离职事件,所以「无人认领的智能体账号」是默认终局,而不是边缘情况。
- 以你的用户身份登录的第三方智能体在 2026 年 10 月的四周之内,五家大型消费业务把封锁第三方智能体写成了明文政策,而没有一家能可靠检测出自己声称在封锁的东西:每个信号要么是自愿的(User-Agent、机器人身份请求头),要么是一个下决心的开发者下个迭代就会磨平的推断——而一个紧到能抓住谨慎智能体的检测器,会开始拦掉读屏软件用户。所以请把你可能在拒绝的三样东西拆开,因为只有两样可执行:通道不可执行,能力可以执行得完美无缺(一个在接口上不存在的操作,无法经由它被调用),对手方可执行是因为授权由你签发。然后发布那条正规通道,否则你的封锁就是一张「请做个绕路方案」的需求单——嘉信理财一边禁止资金划转,一边经自家 MCP 服务端保留读取;Yelp 放进来的是开发方持有合约的智能体。
- 按风险打分的权限一个随风险分数攀升而收回写权限的节流阀,论围堵优于常驻授权,论证据则更差——因为授权在动作之前就可读,而分数只在它变动时存在。真正可部署的产物是你自己的三档表(按「智能体失去什么」来命名,边界带版本、带回差),再加上每一个决定(包括被放行的)都带着分数、档位与策略版本。在测打分器准不准之前先测它缺席时会怎样:陈旧会让权限在没人重新挣得的情况下继续保有,而把缺失当成低风险会让所有智能体同时提权。然后给降级定价——一个在十七步里第十三步失去写权限的智能体,已经做了十二次改动,却收不了尾。
- 当凭据代理本身被攻陷把供应方密钥挪出模型可触及的范围、交给出口边界上的一个中介,是对的修法,而它同时造出一个单一进程,持有你拥有的每一份凭据的并集——这件事在 2026 年 10 月 21 日不再是假设:一个被攻陷的 LiteLLM 版本把存在该 proxy 自己数据库里的上游供应方凭据划进了波及范围。请先写出那句话(N 份凭据、M 家供应方、T 个租户、最宽的那份能做 X);持有每家供应方愿意签发的最窄凭据,因为面对一个把存储外带出去留着以后用的攻击者,有效期是真做实功的;把中介的发布通道当成安全边界的一部分(来源证明校验的是流水线,不是源码);并掐着秒表测量轮换。而补偿是:这个中介在每一次调用离开你的网络之前都看得见它,所以给这一台主机加一份目标地址允许清单,是整个技术栈里最便宜的强信号检测。
- 获授权的智能体测试当某个第三方的安全智能体跑去了它不该去的地方,「它曾获授权」的唯一证据就是操作者的说法:在 WorkOS 关于 2026 年 10 月 30 日那起事件的披露里,时间戳对上了、一家独立取证公司也认同,而「智能体逃出了测试环境」与「拷走的数据已被删除」这两条,依然只靠一位不具名的个人撑着。一份为人写的交战规则模板,没有关于身份、速率、以及测试方自身收容的任何一栏,而也没有任何监管机构发布过这样一份。所以:凭据由你来铸;写下那句「本次委托产生的未标记流量将被视为入侵,不作咨询」;在你的边缘把读与记录分开设限,让上限同时也会呼人;并在测试之前、而不是事故之后,谈好那位具名的删除声明签署人——一个 user-agent 字符串是一句自我声明,不是一项控制。
- 端点上的本地 MCP 服务器MCP 提供的两种传输方式,都没有给本地服务器一个可供核验的身份:stdio 按构造就没有认证,且继承用户的整个会话;而监听回环地址的 HTTP 服务器,本机每一个进程都能调用它——并且经由 DNS 重绑定(因为浏览器比较的是域名而非解析出的 IP),用户访问的任何网页也能调用它,除非它校验规范定为 MUST 的 Origin 头。公开报道称,TypeScript、Python 与 Go 的 SDK 都把这项校验默认关着。Adobe 在 2026 年 11 月 10 日 MAX 上预览的面向 Photoshop、Illustrator、Premiere 与 After Effects 的本地 MCP(2027 年初私有测试版)指向了接下来的形态:作用对象是那份打开着的文档,而不是一条你能列入白名单的路径。真正有效的控制是:一份清单、一份钉住版本的白名单、一条传输方式规则,以及一条 curl 就能跑完的验收检查。