AI 智能体可能误解请求、选错工具或错误解释结果。可靠性必须针对具体流程和案例评估。没有测试方法的统一准确率，对企业决策价值有限。
有限任务、动作校验、测量和人工接手共同支持可靠性。重要操作前应明确何时必须停止。
定义正确结果
分类任务要求正确类别，支持任务要求依据最新文档，CRM 录入要求字段正确且不重复，预订要求符合可用情况和条件。
分别评估每项任务。快回复不证明动作正确，漂亮文字不证明数据保存。模型质量和技术服务可用性也应区分。
建立代表性测试集
使用匿名普通咨询与困难案例，包括拼写错误、多语言、矛盾、缺失信息和任务外请求，另加工具不可用与重复事件。
测试前写明预期结果。澄清或转人工也可能是正确答案，不能把拒绝回答一概算成错误。
测量重要指标
记录正确完成、错误动作、人工接手、延迟和费用。测试 100 个案例得到的是这些案例的结果，不是未来所有请求的保证。
考虑错误严重程度。分错类别和错误确认付款后果不同，上线标准应反映具体动作风险。
有效限制与检查
只提供必要工具，修改记录前验证格式和允许值。价格、库存与状态应从主系统读取，不应凭记忆生成。
敏感动作采用员工确认，并限制步骤、运行时间和预算。信息缺失或工具失败时，提供明确后备路径。
上线后持续检查
复盘错误并加入测试集，模型、指令或知识库变化后重新测试。避免同时改多个部分，以免难以判断质量变化原因。
试点可能说明完全自主不合适。如果草稿辅助减少人工工作又保持控制，它仍有价值。
单一质量百分比为何不够
假设 100 例中 96 例正确、四例失败，不能看出后果。措辞小错与 CRM 错误动作，对业务的影响不同。
分别看资料回答、澄清、交接和修改；示例不是生产质量 96% 的承诺。也要区分可用性、答案质量和动作正确性。
建立代表性测试集
使用脱敏真实咨询、错字、多语言和不完整条件，加入知识缺失场景，此时澄清或转人工可能才是正确结果。
提前规定可接受结果和禁止动作，统一审核标准，并保留未用于调试的独立例子。记住演示问题不代表能处理新咨询。
限制错误影响
先开放读取和草稿，限制步骤及费用，以普通规则验证工具参数；敏感修改须审批。
提供停止和人工路线，信息不足应澄清，CRM 故障要可恢复，不能编数据。仅对重要重复问题报警，让员工知道下一步。
上线后保持质量
把脱敏失败加入测试集，模型、指令、工具或文档变化后复测。
按语言、渠道和任务分析，避免平均值隐藏弱场景。区分旧知识、检索错误和动作错误，约定试点停止及扩展条件。可靠性属于具体流程。
检查清单
- 为每项任务定义正确标准。
- 测试常规、异常和中断情况。
- 区分准确度、可用性、费用和错误严重度。
- 改动后重测并保留人工接手。
