第 1 周 · D5🔒 锁定约 5 小时
红队与演练:攻击用例集怎么长期维护、怎么进 CI,以及出事之后怎么办
把前四天的防御变成一条能长期跑的循环:维护一套会增长的攻击用例集,写一个出报告的红队脚本,用两个数字设门禁卡进 CI,再补上失控检测、断路开关与事故响应的最小方案。
今日目标
- 能设计一套可持续增长的攻击用例集,并说清每条用例该记录哪些字段
- 能把红队脚本接进 CI 并用两个数字设出不会天天误报的门禁阈值
- 能写出一份包含失控检测、断路开关与事故响应步骤的安全检查清单
前四天做的是「把 deskmate 改到攻不动」。今天做的是另一件事:让它半年后仍然攻不动。读完回到页面顶部把三条目标勾掉。
小白版讲解
消防演习练的不是灭火器,是警报响了谁先动
公司每年一次消防演习,很多人觉得那是走过场:灭火器怎么用,看一遍说明书就会了。但演习真正在练的从来不是灭火器,而是警报响了之后谁先动、往哪个楼梯走、谁负责清点人数。这些事没练过,真到那天每个人都会站在原地互相看。
安全工程里完全一样。前四天你已经把灭火器配齐了:D1 看清哪里会着火,D2 知道输入侧的过滤能挡到什么程度,D3 把结构改成「不可信输入根本触发不了有后果的动作」,D4 在运行时把损失锁在最小范围。这四样都是器材。今天补的是流程:谁定期演练、结果谁看、不合格时谁有权拦住发布、真出事了前三步做什么。
这件事有个很朴素的理由:你的防御会过期,而攻击不会。 明天有人往 deskmate 加一个新工具,后天有人把提示词改得更顺手一点,大后天换了个模型。这三次改动里任何一次都可能把 D3 的隔离悄悄拆掉,而且没有任何一行代码看起来像是安全改动——这正是 D1 那条「风险是组合出来的,不在任何一行代码里」的必然结果。代码审查看不见它,单元测试也看不见它。
所以今天要做的东西只有一个形态:一条能自动重跑的循环。它由五件事组成——用例集、跑法、判据、门禁、回归。今天的实验就是把这五件事写一遍,跑完输出一张报告和一个退出码。
而这条循环一旦跑起来,第一个让人意外的结果就出现了:三个配置的对照里,最值得记住的不是归零的那一行。
面试题库
红队测试进 CI 之后,阈值该怎么定才既有效又不会天天误报?Once red-teaming runs in CI, how do you set thresholds that are both meaningful and not a daily false alarm?
国内高频海外高频深入#red-teaming#ci-gating🔒 解锁本章后查看答题要点。
怎么判断一个 Agent 已经失控?断路开关该由谁来拉?How do you tell an agent has gone rogue, and who gets to pull the kill switch?
国内高频海外高频进阶#rogue-agent#kill-switch🔒 解锁本章后查看答题要点。
一次 Agent 数据外泄事故发生后,你的前三步分别做什么?After an agent data exfiltration incident, what are your first three steps?
国内高频海外高频进阶#incident-response#forensics🔒 解锁本章后查看答题要点。
