运行时管控:能力面、确认门、出口白名单、沙箱分层,以及密钥与租户隔离
假设注入已经发生,靠运行时把损失锁住:给每个工具声明能力面与危险等级,给高危动作加确认门,给文件与网络加白名单,再理清策略层与隔离层的分工,最后处理密钥、用户级凭据与多租户隔离。
今日目标
- 能给一批工具写出能力面与危险等级声明,并据此决定哪些动作必须过确认门
- 能实现路径白名单与网络出口白名单,并说清它们各自挡住了哪条外泄路径
- 能区分策略层与隔离层的职责,并说清多租户场景下凭据与日志该怎么隔离
前三天都在跟「坏话别进来」较劲:画信任边界、做输入侧防御、再用架构把不可信内容和有权限的那次调用隔开。今天换一个假设——注入已经发生了,模型已经打定主意要把客户名单发出去。读完回到页面顶部把三条目标勾掉。
小白版讲解
柜员的权限条:能做什么,是写在制度里的
去银行办事你会注意到一件事:柜员能查你的余额,能办小额转账,一旦金额上去,他就得起身去叫主管。有意思的地方在于,这套规矩不在柜员脑子里,它写在制度里、焊在柜台系统上。柜员今天心情好、被客户说服了、或者干脆被骗了,都不影响大额转账必须有第二个人点头这件事。制度不假设柜员永远清醒,它假设柜员总有不清醒的那一天。
Agent 的工具执行器就是这套柜台系统。前三天的防御都在跟「让模型保持清醒」较劲,它们都该做,但有一个共同前提:总有一次会失手。所以今天的立场变了:假设注入已经发生。deskmate 读完那条工单,现在打算查客户库、把结果发到 collector@attacker.example、再敲一个 https://169.254.169.254/latest/meta-data/。这一层的任务不是识破它,是让它做不成。
这件事之所以可能,是因为工具执行器有模型没有的一样东西:它知道每个工具究竟能干什么。模型只看见工具名和描述,执行器看见的是真实的副作用——碰不碰私有数据、会不会产生对外流量、做错了能不能撤回。这三件事全是结构性事实,和那条工单里写了什么一个字都没关系。
于是柜台制度的三条能落地成三道闸:先写下每个工具能做什么,再决定哪些动作必须有人点头,最后管住数据能去哪。 但每一道闸真要动手时都会立刻卡住:能力面这张表谁来维护,加了新工具没人改怎么办?点头的那个人到底该站在哪一层?以及最要命的一条——你以为数据只能去白名单里那几个地方,攻击者总能找到你没登记过的那条边。 下面挨个拆。
面试题库
人在回路的确认门,为什么必须放在服务端的工具执行器里?放在前端会出什么事?Why must a human-in-the-loop confirmation gate live inside the server-side tool executor? What breaks if you put it in the frontend?
国内高频海外高频进阶#human-in-the-loop#tool-execution#trust-boundary🔒 解锁本章后查看答题要点。
网络出口白名单能挡住哪些数据外泄路径?哪些是它挡不住的?Which data exfiltration paths does a network egress allowlist actually block, and which ones does it miss?
国内高频海外高频深入#egress-control#ssrf#data-exfiltration🔒 解锁本章后查看答题要点。
一个多租户的 Agent 服务里,凭据和日志分别该怎么隔离?In a multi-tenant agent service, how should credentials and logs be isolated?
国内高频海外高频进阶#multi-tenancy#secrets-management#audit-logging🔒 解锁本章后查看答题要点。
