前端侧 Agent 体验:流式渲染、工具调用可视化、打断/重试、SSE hooks
给 mini-koda 写一个 React 聊天前端:流式渲染回复、可视化展示工具调用过程,并支持打断和重试。
今日目标
- 能实现一个消费 SSE 流式输出并逐字渲染的聊天界面
- 能把工具调用过程(调用了什么工具、参数、结果)可视化展示出来
- 能实现打断当前回复和失败重试两个交互
后端到昨天为止已经会分诊、会拆任务、会自我评审、会主动关怀、找得准、还挡得住攻击——但你从头到尾没有从浏览器里看过它一眼。今天把它接到人眼前。读完回到页面顶部把三条目标勾掉。
小白版讲解
同声传译:边听边说,还得能被叫停
国际会议上的同声传译,做的事和一个流式聊天前端一模一样。
他不会等发言人讲完再翻。 讲一句译一句,落后三五秒,听众几乎是实时听到的。这就是流式:后端每吐出一小段就往前端推一段,而不是憋到最后一次性返回。区别有多大?一次回复要生成十几秒,等全量返回的界面在这十几秒里是一个转圈的图标;流式的界面在第一秒就有字出来。同样的总耗时,感知完全不同。
但他也不会听到半个词就开口。 「我们将在下个季度……」这句话没说完,谓语还没出现,急着译只会译错。所以译员心里始终留着一小段缓冲,攒够一个完整意群才出口。前端也一样:SSE 报文是按帧走的,一帧可能被网络切成两半到达,你必须留一个缓冲区把半截的部分留到下一块再拼——D1 讲透了这件事,今天只在前端复用同一个手法。
发言人去查资料的那几十秒,译员会说一句「他正在查数据」。 干沉默会让听众以为设备坏了。Agent 调工具的那几秒也是同样的处境:如果界面什么都不显示,用户会以为卡死了。所以工具调用要被看见——调了什么工具、传了什么参数、结果是什么,做成一张卡片,而不是一段黑盒。
最后一件事,也是今天最重要的一件事:听众举手说「这段跳过」,译员停下来是不够的。 译员闭嘴了,发言人还在讲——真正要做的是让主持人示意发言人停。前端的「打断」也是两件事,不是一件。 这一点后面会单独展开,它是本章的核心。
面试题库
前端怎么消费 SSE 并实现打字机效果?为什么一般不用浏览器自带的 EventSource?How does a frontend consume SSE to render a typewriter effect, and why do people usually avoid the built-in EventSource?
国内高频海外高频基础#sse#streaming#frontend🔒 解锁本章后查看答题要点。
用户点了「停止生成」,前端调用 AbortController.abort() 之后,后端在做什么?The user hits Stop and the frontend calls AbortController.abort(). What is the backend doing at that moment?
国内高频海外高频深入#streaming#cancellation#cost🔒 解锁本章后查看答题要点。
流式场景下前端的状态管理要注意什么?为什么不能每个 token 都 setState?What is different about frontend state management under streaming, and why not call setState on every token?
国内高频海外高频进阶#react#streaming#performance🔒 解锁本章后查看答题要点。
失败重试怎么设计才不会产生重复副作用?工具调用过程要不要暴露给用户?How do you design retry so it does not duplicate side effects, and should the tool-call process be visible to the user?
国内高频海外高频进阶#idempotency#retry#ux🔒 解锁本章后查看答题要点。
