逐日AI微信小程序
全部课程

5 天课程 · 约 23 小时

5 天 Agent 安全

把一个凑齐了致命三件套的内部助手 Agent 当靶子:五天从威胁建模走到架构级防御、运行时管控与红队演练,让攻击成功率归零而正常任务完成率保住。

登录并关联微信后,两端共享每天 1 篇免费额度;额外阅读在小程序看广告解锁。

开始第一天

学完你将得到

一份带两个数字的安全报告:攻击集的攻击成功率从高位归零,正常任务完成率基本不掉,且每一条防御都能说清它挡的是哪一类攻击

围绕同一个虚构的内部知识助手 Agent,先画清它的信任边界,再依次在输入侧、架构层、运行时三处下手,最后收进一套能长期跑的红队循环

查看账户与关联状态 →5 天课程 · 约 23 小时

第 1 周

从看清威胁到挡住威胁

01
D1🔒 锁定

威胁模型:致命三件套、信任边界,以及两张 OWASP 清单怎么当检查表用

先用致命三件套判据看清一个 Agent 危险在哪:私有数据、不可信内容、外部通信三者同时具备时,一次提示注入就能变成一次数据外泄;再把它画成信任边界图,用两张 OWASP 清单逐条对照。

02
D2🔒 锁定

注入靶场与输入侧防御:四档防御各自挡住了什么,又各自在哪里失手

搭一个能复现的注入靶场,把分隔符、来源标记、聚光标注与检测器四档输入侧防御逐一接上,用攻击成功率与任务完成率两个数字看清它们的效果边界,以及为什么没有一档能当边界用。

03
D3🔒 锁定

架构级防御:六个设计模式,以及先定计划后执行怎么把攻击成功率压到零

把防御从提示词挪到结构上:动作选择器、先定计划后执行、分片归并、双模型隔离、先写程序后执行、上下文最小化六个模式各自约束了什么,再挑两个落到靶场上,让攻击成功率归零而任务完成率保住。

04
D4🔒 锁定

运行时管控:能力面、确认门、出口白名单、沙箱分层,以及密钥与租户隔离

假设注入已经发生,靠运行时把损失锁住:给每个工具声明能力面与危险等级,给高危动作加确认门,给文件与网络加白名单,再理清策略层与隔离层的分工,最后处理密钥、用户级凭据与多租户隔离。

05
D5🔒 锁定

红队与演练:攻击用例集怎么长期维护、怎么进 CI,以及出事之后怎么办

把前四天的防御变成一条能长期跑的循环:维护一套会增长的攻击用例集,写一个出报告的红队脚本,用两个数字设门禁卡进 CI,再补上失控检测、断路开关与事故响应的最小方案。