引子

2024 年起,浩途陆续把 LLM Agent 嵌入到客户的真实业务系统里——审批流、知识问答、 工单分发、报表分析等。一年下来,复盘了 7 类反复踩过的坑,写下来给同行做避雷参考。


坑 1:权限边界没想清楚就让 Agent "全能"

现象:Agent 调用 API 时,能看到不属于本用户的数据。

业务系统的权限模型通常是基于"会话用户"的,但 Agent 工作时是另一个身份。 我们最早的做法是给 Agent 一个"超级账号"——很快就出问题:审批流里,Agent 帮 A 用户 看了 B 用户的工单详情。

Plan B:让 Agent 以调用者身份访问业务 API,所有权限控制由原系统继承。


坑 2:上下文窗口一旦满了,行为就开始抖

(… 因篇幅省略,正文未来由内容运营补齐 …)


坑 3—7:(占位)

  • 幻觉与业务规则的协调
  • 工具调用的失败重试
  • 多轮对话状态管理
  • 成本失控与模型路由
  • 灰度上线与可回滚

写在最后

把 LLM 接进业务系统,难的不是模型,而是 业务约束如何被表达成 Agent 能理解的规则。 浩途下一篇会写"如何把审批流的 50 条规则,结构化喂给 Agent 而不超 token"。