系统级AI代理如何监管

系统级 AI 代理的监管难点，不在于它能否生成内容，而在于它能否代表用户调用系统权限、读取敏感数据并执行连续操作。当代理从“回答问题”升级为“替用户办事”，其风险边界就从模型输出扩展到身份认证、应用互操作、数据访问和责任追溯。

苹果与欧盟围绕新版 Siri 的争议，正好揭示了这一变化。新版 Siri 被设计为能够理解上下文、调用应用并完成多步任务，因此不再只是一个独立功能，而是连接操作系统与第三方生态的系统级入口。若只有平台自有代理获得最完整的系统权限，第三方助手就可能长期处于次等地位；但如果所有代理都能直接访问通知、应用和用户数据，隐私与设备安全又会面临更大压力。

监管不能停留在“开放”或“禁止”二选一，而应建立分层治理框架。第一层是能力分级：查询信息、读取个人数据、修改系统设置和代表用户完成交易，应适用不同的授权强度。第二层是权限可控：授权必须具体、可撤回、可审计，不能用一次笼统同意覆盖所有后续行为。第三层是生态公平：平台可以设置安全门槛，但安全标准应当透明、可验证，并对自有代理与第三方代理适用一致规则。

“可信系统代理”这一思路具有合理性，因为系统级代理确实需要统一处理权限和安全边界。但可信不能只由平台单方面宣布。监管者需要审查接口是否足以实现实质互操作，开发者需要知道申请权限的明确条件，用户则应能看见代理访问了什么、执行了什么，以及如何撤销结果。

更关键的是责任链必须先于功能上线确定。代理误读指令、越权调用应用或执行错误操作时，不能把责任简单归咎于用户。平台、代理提供者和具体应用应依据各自控制的环节承担责任，并保留可追踪的操作记录。对于高风险行为，还应保留人工确认，而不是允许代理自动完成。

系统级 AI 代理的监管目标，不是让所有代理拥有完全相同的权限，而是防止平台借安全之名固化竞争优势，也防止开放要求突破用户的安全边界。真正可持续的方案，应同时满足可互操作、最小权限、用户控制和责任可追溯四项条件。