智能体从演示走向业务，责任敞口如何放大

说实话，我第一次看到智能体在演示里行云流水地点开网页、填好表单、把活儿干完的时候，是真的被惊到了。那种"它好像真的能上班了"的感觉，谁用了都想立刻搬进自己的工作流。但冷静下来我越想越觉得，演示环境和真实业务之间，隔着一条很多人没算清的账。

演示里跑得再漂亮，错了也就是重来一次，没人受伤。可一旦智能体真的开始执行任务、调用工具、动真实数据，一次失误就不再是"重开一局"，而是直接落到业务流程上。我看到报告里提到计算机操作类智能体在 OSWorld 上的成功率已经到了 66.3%——这数字听着挺高，但反过来想，剩下那部分失败在演示里无所谓，在真实场景里就是实打实的责任。能力越接近"可用"，单次翻车的代价就越大。这就是我说的责任敞口被放大。

更让我在意的是另一组数字：有记录的 AI 事件从 2024 年的 233 起涨到了 2025 年的 362 起。能力在狂飙，踩坑也在同步变多。可大多数项目的治理假设，还停在当初做概念验证时那种"轻量级、出事再说"的状态。我自己踩过类似的坑：当初图快省掉的那些评估和兜底，后面全都加倍还了回来。

它贵在哪，又藏在哪

治理这东西最阴险的地方，是它平时看起来只花钱不产出。你买一套能力，季度内就能看到效率提升；你做评估、留行为日志、划清责任边界，不出事的时候它就像纯成本。于是预算一分配，它天然排在后面。

而且它还不是一次性买断就完事的。报告里提到负责任 AI 存在内部权衡——你把安全性拉满，可能牺牲准确；你追准确，又可能放大风险。这意味着你没法花一笔钱就"达标",而是要持续调、持续测、持续取舍。这是运营成本，却总被人塞进一次性支出那个格子里，算得当然偏乐观。

我现在会怎么看一个智能体项目

我不太信"面面俱到"的框架，但有几个判断条件我现在会真的去问：这个项目的治理预算是不是零或者纯象征？出错时责任到底算谁的、系统会不会在拿不准的场景选择降级而不是硬答？以及，ROI 估算里有没有给那些尾部事件留位置，而不是默认永远不出事。

说到底，智能体从演示走向业务，惊艳的是能力，但真正决定你走多远的，是你有没有提前把那条隐性的账摊到桌面上。能力可以买，责任买不掉，它只会等着你，迟早还。