AI公司自拟监管草案合理吗?

一家直接受规则约束的公司，亲自执笔写下约束自己的规则，这件事本身就值得拆开看。Anthropic 近期私下向美国国会议员推介一份前沿 AI 安全法案草案，核心问题不在于它是否关心安全，而在于：由被监管者起草监管文本，这套流程能否产出可信的公共规则。

草案的门槛设计是理解整件事的钥匙。政府要强制阻止模型发布或使用，需同时满足两层条件：风险须是"可预见且迫在眉睫"，且可能造成超过10亿美元损失，或导致50人以上死亡重伤；风险类型还被限定在生物武器、模型规避开发者控制措施、网络攻击三类情形。这意味着广泛的社会影响或经济竞争扭曲，都不构成叫停的法定依据。批评者的质疑正落在这里——按此标准，2024年至2026年被记录在案的 AI 恶性安全事故，尚无一起能达到触发线。

监督机制的设计同样体现了这种"高门槛、窄通道"的思路。前沿实验室须接受在商务部注册的独立第三方评估机构的定期审查，实验室可支付评估费用，但报酬不得与评估结论挂钩；评估机构一旦认定存在迫在眉睫的风险，须在72小时内向商务部报告；商务部再向哥伦比亚特区联邦地区法院申请暂停，由法官裁决。草案还明文禁止其他任何政府部门或官员单独叫停模型的开发、部署与内部使用，把权力高度集中于商务部和特定联邦法院。

支持方的逻辑是：门槛高才能避免过度监管扼杀创新，聚焦最极端风险；权力集中可统一联邦标准，避免多部门重复监管。反方的质疑则指向两个结构性缺陷。其一，评估机构由被评估企业付费，即便报酬与结论脱钩，其收入来源仍与被监管对象绑定，这与评级机构模式面临的利益冲突如出一辙。其二，排除国防部等机构的独立行动权，在理论上削弱了安全防线的冗余度。

更值得琢磨的是时机。今年夏天，Anthropic 受出口管制影响，两款最先进模型被迫关闭；10月初，五角大楼正式停用其产品。此后公司选择主动参与规则制定。CEO 达里奥·阿莫迪此前已公开呼吁政府拥有阻止危险模型部署的法定权力。而草案的触发门槛与加州已签署的《SB 53》措辞高度一致——把联邦提案锚定在既有州法先例上，既获得合法性外观，也为全国统一标准铺路。

判断这类"企业自拟监管草案"是否合理，可以看三个维度。第一，门槛是否与已知风险的实际分布匹配，还是高到几乎无法启动。第二，监督者的独立性是否有制度保障，而非仅靠"报酬脱钩"这类自我约束。第三，规则是否在客观上固化了起草者的既有优势——以算力规模和公司收入界定监管对象，会把监管聚焦到极少数前沿开发者身上，同时带来可审计性与"规则锁定自身优势"的风险。

草案目前仍处游说阶段，尚未进入正式立法程序。它是否合理，最终不取决于起草者的动机是否真诚，而取决于立法者是否愿意在门槛高度、评估独立性和权力分配上做出独立判断。一家被监管企业起草监管初稿，本身就是 AI 治理时代最具标志性的样本——规则正在成为竞争的新战场，而谁来写规则，和规则写了什么同样重要。