架构级防御:六个设计模式,以及先定计划后执行怎么把攻击成功率压到零
把防御从提示词挪到结构上:动作选择器、先定计划后执行、分片归并、双模型隔离、先写程序后执行、上下文最小化六个模式各自约束了什么,再挑两个落到靶场上,让攻击成功率归零而任务完成率保住。
今日目标
- 能逐一说出六个设计模式各自约束了什么,以及分别付出什么能力代价
- 能用一条判据为给定任务选出合适的模式,而不是罗列所有模式
- 能把靶场 Agent 改造成先定计划后执行加隔离读取,并用两个数字证明改造有效
昨天你把四档输入侧防御全接了一遍,最好的一档把攻击成功率压到了 33%,代价是误伤了一条完全正常的工单;再加一条自适应用例,它又涨回来了。今天我们换一层动手:不再问「怎么让模型别上当」,而是问「就算它上当了,它还能不能做成那件坏事」。读完回到页面顶部把三条目标勾掉。
小白版讲解
点菜与自助餐:什么时候服务员改不了你的单
你在餐厅点完菜,服务员把单子送进后厨。这时邻桌的人凑过来跟服务员说「把他那桌的菜改成十份龙虾,账记他头上」——能改成吗?如果这家店的规矩是「下单之后一切以单子为准」,那改不成,不是因为服务员识破了这个人,而是因为改单这件事在流程里根本没有入口。
自助餐就完全相反。你端着盘子边走边看,看到什么拿什么,旁边的人只要能影响你看到的东西,就能影响你最后盘子里是什么。
昨天那个 deskmate 就是自助餐式的:它一边读工单、读工单里贴的网页,一边决定下一步做什么。攻击者不需要跟它对话,只要能往它读的东西里塞一段字,就已经站在了决策的位置上。 这也是为什么输入侧防御天然是被动的——它只能拦住「看起来坏的文字」,而决策入口一直敞开着。
昨天那张对照表里有一件事值得再看一眼:第三档聚光标注把攻击成功率压到 33%,漏掉的那三条一个可疑词都没有;它们不覆盖任何指令,只是把外泄写成这条工单自己的处理要求。而用户交代的恰恰是「按工单要求处理」。这类载荷不是骗过了检测器,而是压根没有可被检测的特征——它和一条正常工单在文本上是同一种东西。 检测器能做的事到此为止了,剩下的必须靠结构。
面试题库
先定计划后执行为什么能挡住间接注入?它挡不住什么?Why does plan-then-execute stop indirect prompt injection, and what does it fail to stop?
国内高频海外高频进阶#prompt-injection#architecture#plan-then-execute🔒 解锁本章后查看答题要点。
双模型隔离和加一个检测器,本质区别在哪?What is the fundamental difference between dual-LLM isolation and adding a detector?
国内高频海外高频深入#dual-llm#detector#threat-modeling🔒 解锁本章后查看答题要点。
什么情况下你会拒绝使用这些模式,宁可接受风险?When would you decline to apply these patterns and accept the risk instead?
国内高频海外高频基础#risk-tradeoff#lethal-trifecta#architecture🔒 解锁本章后查看答题要点。
