端云切换时日报流程的编排方案
输入旧流程图与三十天失败日志 → 产出端云分工编排与降级路径
适用场景
- 端侧模型接入后的流程改造
- 日报流程断点排查
- 端云降级策略
PROMPT
端侧模型接进来后日报老是断在第七步,手上有旧流程图和三十天失败日志,明天要交一版新编排。 【思考】 1. 先判断断点性质:是端侧推理超时、上下文被截断,还是云端回写失败。 2. 把日报流程拆成采集、摘要、校验、推送四段,标出哪段跑在端侧。 3. 端侧只做摘要与格式校验,云端负责聚合与推送,避免端侧长上下文。 4. 按失败日志的报错码归三类,每类给出一个可验证的假设。 5. 先算端云各段平均耗时,再定重试次数与超时阈值。 【行动】 1. 第一步把采集与摘要挪到端侧,输出一份本地缓存的中间结果。 2. 第二步由云端拉取中间结果做聚合,聚合失败时回落到本地缓存。 3. 第三步在推送前加一次格式校验,不合格直接退回上一步重做。 4. 第四步记录每段耗时与失败原因,写进当日运行日志。 5. 第五步按日志每周调一次超时阈值,不靠感觉改参数。 【观察】 1. 观察端侧耗时是否稳定在阈值内,超出就降级为纯云端流程。 2. 观察失败率是否从三成降到一成以内,达不到就回滚上一版编排。 3. 观察日报到达时间是否稳定在早九点前,迟到两次即视为失败。 4. 观察端侧内存占用是否超过限制,超过就缩短上下文长度。 5. 把观察结论写成一页纸,标明哪一段仍需人工兜底。
复制后直接粘贴到模型使用