把系统能力封装为受控工具
智能体不应直接获得数据库或系统的无限访问能力。更合适的方式是把查询、创建、更新等动作封装成参数明确的业务工具。
每个工具都应定义可访问数据、输入校验、调用权限和返回结构。
高风险操作需要人工确认
查询信息和修改业务状态的风险不同。涉及发送、审批、付款、删除和批量更新的操作，应设置明确的确认或审批节点。
- 低风险查询可自动执行
- 影响业务状态的操作需要确认
- 敏感操作沿用既有审批流程
为异常和不确定性设计回退
系统超时、参数不完整、模型判断不确定都属于正常运行情况。流程需要定义重试、补充信息、转人工和终止条件。
完整日志是持续优化的基础
记录用户目标、模型决策、工具参数、系统结果和人工操作，可以支持审计、问题定位和效果评估。
企业智能体的价值不仅来自自动执行，也来自让复杂流程变得可观察。