八成半在试点,5% 上生产:智能体卡在哪一步

一个反差:大约 85% 的企业在试点智能体,但只有约 5% 真正把它送上了生产环境 [1]。中间这 80 个百分点,就是这篇要讲的东西。

问题不在能力,在可靠性

直觉上我们会以为,没落地是因为 AI 还不够聪明。但一线的判断是反过来的:能力一直在涨,可靠性没跟上同样的速度 [2]。

「挡住企业部署的是智能体的可靠性,不是它的能力。」

这句话值得本地企业主认真对待,因为它意味着:你在演示里看到的效果是真的,你在自己业务上跑不通也是真的 —— 两者不矛盾。

可靠性要拆成四件事

业界把可靠性拆成四个维度来看:一致性、鲁棒性、可预测性、安全性 [1]。一个常见的现象是,智能体在内部评测里表现优秀,一放到真实环境就垮 —— 因为评测集是干净的,真实世界不是。

有一半的锅在数据上

这是最容易被忽略、也最应该被本地企业听进去的一条:有调查显示,57% 的企业把智能体的失败追溯到了「业务上下文缺失或前后不一致」[3]。

说人话:同一个事实,在你的内部文档里是一个版本,在 PDF 里是另一个版本,在工单系统里又是第三个版本。人看到会自动挑对的那个,AI 不会 —— 它检索到哪个就用哪个。

所以「上 AI」这件事,有相当一部分工作量根本不在 AI 上,而在把你自己的流程和口径理顺。这也是为什么超过九成的企业技术负责人反映,真正限制他们从 AI 拿到价值的是数据准备和算力成本,而不是模型 [3]。

长流程还有工程问题

除了数据,还有一层是纯工程的:一个要跑很久的智能体流程,必须能在崩溃后恢复、能保住中间状态、能控制推理成本、能协调多个系统和接口 [4]。模型本身的表现,决定不了这些。

可行的做法:有限自治

行业里逐渐形成的一个共识叫「有限自治」——只给智能体刚好够用的自主权,让它既能创造价值,又保持可靠和安全 [1]。高风险场景(钱、合同、人事)继续保留人工审批,自主权随着信任的积累再一点点放开。

对本地企业的三条建议

• 从边界清楚、出错代价小、人能随时接管的环节开始,别一上来就想让它跑完整条业务线
• 先花时间统一口径:同一个数据只留一个权威版本,这一步省不掉
• 把「人工审批」当成设计的一部分,不是过渡方案 —— 高风险环节长期都需要它

如果你不确定自己该从哪个环节切进去,这正是我们做免费企业问诊要解决的问题:坐下来看一遍你的真实流程,指出哪几个环节今天就能动,哪些现在动不划算。