智能体落地的三道坎:权限、评测、审计
智能体(Agent)的演示很容易:给一个目标,它自己拆步骤、调工具、交付结果。但放进生产环境,问题立刻变成治理问题。
权限:智能体能否代用户发起付款、修改工单、删除数据?必须按最小权限原则分配,并保留人工确认节点。
评测:多步任务的失败率是链式放大的。需要按任务类型建立回归集,而不是只看单轮回答质量。
审计:每一次工具调用都要留痕,能回放到具体输入与输出,否则出问题无法定位。
三者缺一,业务部门就不敢把真实流程交出去。智能体的竞争,最终是工程治理能力的竞争。