AI参与行政审批时说明理由义务如何适用

前两天和朋友聊天，他在某地政务大厅做窗口审核，吐槽说现在系统会先给一份"建议意见"，他大多数时候扫一眼就点了确认。我问了句：那如果这个建议是错的呢？他愣了几秒，说"应该……不至于吧"。

这个"应该不至于"，恰好是AI进政务之后最要命的地方。

以前系统是工具，人做决定，谁签字谁负责，路径清楚。现在智能体不一样，它能理解目标、调数据、给建议，甚至直接触发下一步流程。当人只是形式上点个确认，责任就开始飘了。

我琢磨了三个绕不过去的问题。

第一个，谁有能力阻止错误？如果窗口人员根本看不懂模型的推理依据，也没时间逐条复核，那把责任全压给他，制度上站不住。日本总务省讨论这事时就强调过，行政服务提供主体有限、国民选择余地小，不能简单把责任推给"最后签字的人"。

第二个，谁从自动化里拿到了效率？审批时间被压缩了，那相应的审核和纠错成本，也该由受益方承担，而不是出事之后找个人背锅。

第三个，也是最现实的：公民受损时，救济入口在哪？这个入口绝不能是"请自行联系技术供应商"。

具体到"说明理由"这项义务，麻烦更明显。行政决定本该向相对人说明依据，可如果决定实质来自一个难以解释的模型输出，机关怎么说明？说不清，是干脆不用AI，还是改说明理由的标准？这不是技术问题，是法治原则怎么适应新条件的问题。

目前的探索大致有几条路：设专门的AI治理角色，把责任前移；按人类介入程度分级配责任；把问责嵌进采购和运维全周期，让"可问责"建立在"可观测"上。

但每条都有局限。治理角色能保证"有人管治理"，不等于"有人为具体决策负责"；"人类介入程度"本身难以量化——三十秒扫一眼算实质审核吗？制度给不出一个可操作的阈值。全周期问责又要求采购方有足够技术能力，多数部门其实没有。

所以我现在更愿意把这事看成一个提问方式：别问AI能不能用，先问清了——谁在什么条件下，对什么负责。这个答案的质量，才决定智能体在公共治理里能走多远。