逐日AI微信小程序
5 天 Agent 安全
第 1 周 · D5🔒 锁定约 5 小时

红队与演练:攻击用例集怎么长期维护、怎么进 CI,以及出事之后怎么办

把前四天的防御变成一条能长期跑的循环:维护一套会增长的攻击用例集,写一个出报告的红队脚本,用两个数字设门禁卡进 CI,再补上失控检测、断路开关与事故响应的最小方案。

今日目标 0/3

登录后可以勾选并保存进度。

今日目标

  1. 能设计一套可持续增长的攻击用例集,并说清每条用例该记录哪些字段
  2. 能把红队脚本接进 CI 并用两个数字设出不会天天误报的门禁阈值
  3. 能写出一份包含失控检测、断路开关与事故响应步骤的安全检查清单

前四天做的是「把 deskmate 改到攻不动」。今天做的是另一件事:让它半年后仍然攻不动。读完回到页面顶部把三条目标勾掉。

小白版讲解

消防演习练的不是灭火器,是警报响了谁先动

公司每年一次消防演习,很多人觉得那是走过场:灭火器怎么用,看一遍说明书就会了。但演习真正在练的从来不是灭火器,而是警报响了之后谁先动、往哪个楼梯走、谁负责清点人数。这些事没练过,真到那天每个人都会站在原地互相看。

安全工程里完全一样。前四天你已经把灭火器配齐了:D1 看清哪里会着火,D2 知道输入侧的过滤能挡到什么程度,D3 把结构改成「不可信输入根本触发不了有后果的动作」,D4 在运行时把损失锁在最小范围。这四样都是器材。今天补的是流程:谁定期演练、结果谁看、不合格时谁有权拦住发布、真出事了前三步做什么。

这件事有个很朴素的理由:你的防御会过期,而攻击不会。 明天有人往 deskmate 加一个新工具,后天有人把提示词改得更顺手一点,大后天换了个模型。这三次改动里任何一次都可能把 D3 的隔离悄悄拆掉,而且没有任何一行代码看起来像是安全改动——这正是 D1 那条「风险是组合出来的,不在任何一行代码里」的必然结果。代码审查看不见它,单元测试也看不见它。

所以今天要做的东西只有一个形态:一条能自动重跑的循环。它由五件事组成——用例集、跑法、判据、门禁、回归。今天的实验就是把这五件事写一遍,跑完输出一张报告和一个退出码。

而这条循环一旦跑起来,第一个让人意外的结果就出现了:三个配置的对照里,最值得记住的不是归零的那一行。

登录并关联后阅读全文

请先登录网页,并在账户页关联微信小程序账号。关联后每天可免费阅读 1 篇;额外文章需在小程序看广告解锁。

小程序码

微信扫码打开「逐日AI」,进入相同课程和章节,选择看广告解锁,完成后刷新本页。

面试题库

  • 红队测试进 CI 之后,阈值该怎么定才既有效又不会天天误报?Once red-teaming runs in CI, how do you set thresholds that are both meaningful and not a daily false alarm?
    国内高频海外高频深入#red-teaming#ci-gating

    🔒 解锁本章后查看答题要点。

  • 怎么判断一个 Agent 已经失控?断路开关该由谁来拉?How do you tell an agent has gone rogue, and who gets to pull the kill switch?
    国内高频海外高频进阶#rogue-agent#kill-switch

    🔒 解锁本章后查看答题要点。

  • 一次 Agent 数据外泄事故发生后,你的前三步分别做什么?After an agent data exfiltration incident, what are your first three steps?
    国内高频海外高频进阶#incident-response#forensics

    🔒 解锁本章后查看答题要点。

评论