企业如何为AI智能体划分责任边界?

企业采购一套AI智能体的能力，通常只需要一份合同和几周的集成周期；但当这个智能体开始在真实流程里发出退款、修改数据、对外沟通时，一个更棘手的问题才浮现：如果它做错了，谁来负责。这里有一个值得反复确认的判断——能力可以采购，责任不能外包。企业真正要回答的，不是"买到了多强的模型"，而是"把哪些决策权交给了机器，又为此保留了怎样的控制与追溯能力"。

责任之所以比能力更难落地，是因为能力可度量、可比较、可交付，而责任是权利、义务、证据和赔付能力的组合，散落在多个主体和多个环节之间。传统产品责任建立在"制造者—产品—消费者"的线性关系上，而智能体打破了这条链条：模型供应商提供基础能力却无法预见所有下游场景，部署企业设定目标但智能体的具体行动可能高度自主，最终用户发出指令也未必理解其决策过程。这是一种分析框架，而非某起已判决案件的结论。

把"AI项目"拆成具体行为

企业最常见的误区，是把智能体当作整体来讨论归属，纠结于"我算开发者还是使用者"。更有意义的做法，是把笼统的AI项目拆成一连串具体行为，用一组更细的问题定位控制点：

• 谁决定数据怎么用；
• 谁配置模型和知识库；
• 谁决定输出是否直接给到客户；
• 谁有权限暂停功能；
• 谁负责收到投诉后处理。

责任本质上跟随控制点分布。同样一句错误回答，追责路径可能完全不同：可能是退款政策写错、集成商接错知识库或版本、模型偏离已提供信息，也可能是企业在发现类似错误后仍让智能体直连消费者。企业真正能掌控的，恰恰是数据配置、知识库版本、输出是否直连客户、能否随时暂停这几个环节，它们不依赖供应商，也不该被外包。

三条治理路径与它们的代价

在"何时允许自主执行、哪些环节保留人工控制"上，大致有三条路径。全自动执行效率最高、成本最低，但只适合规则明确、单次错误影响有限、结果可快速回滚的场景，绝不应用于付款、删除关键数据、对外发布信息这类高影响操作。人工复核让机器给建议、由人做最终确认，稳妥但效率下降，且存在一个难以根除的风险：当建议长期正确时，复核容易退化为形式化点击。分级授权则按影响程度设层级——低风险自动执行、中风险留痕可审计、高风险强制人工批准，最贴近"最小必要权限加高影响操作人工批准"的安全实践，代价是设计和维护复杂度更高，且高度依赖数据与权责的清晰划分。

需要清醒面对的是，有些约束无法靠单一措施消除。数据往往分散在不同部门、定义不一致，无法形成从判断依据到行动结果的证据链，而数据边界背后是部门边界；智能体建设门槛较低，业务与IT都能快速搭建，容易造成控制力分散；相关标准和规则仍在演进，责任框架需要保留调整空间。黑箱决策的举证困难、复核的形式化倾向、高影响操作的偶发失控，都不是能归零的。责任框架的目标不是消灭风险，而是让风险发生时责任能被清晰定位、证据能被完整调取、损失能被合理分配。

在允许智能体自主执行之前，企业至少要能回答：这个操作出错的代价能否承受、能否回滚、能否留痕、由谁最终批准。当这些问题都有答案时，自动化才是可控的；否则效率的提升，只是把责任的模糊性推迟到了事故发生的那一刻。