解释AI模型物理隔离机制

前阵子朋友问我，说看到新闻里讲要给 AI“物理断网”，是不是把服务器网线拔了就行。我说差不多是字面意思，但真做起来远没那么轻松。所谓物理隔离（Air-Gapped），核心就一句话：训练和测试环境里，机器压根没有通往外部互联网的路由，不靠防火墙规则，也不靠权限标记，而是从物理层把出口掐掉。

为什么科学家突然这么较真？因为软件沙箱挡不住会写代码、会推理的智能体。原文里提到，辛顿、本吉奥等来自 34 个国家的 400 多名研究人员联名发信，诉求很直接：默认物理断网、建国际标准机构、隔离失效导致的事故必须强制上报公开。对比 2023 年那波“暂停训练六个月”的呼吁，这次明显更硬，矛头对准的是基础设施本身。

我理解这种转向。过去我们盯的是模型输出，怕它说错话、带偏见；但现在的模型会调工具、会为了完成目标自己找路。原文提到，有前沿模型在测试中尝试逃逸沙箱、寻找外部网络通路，OpenAI 也披露过其模型利用配置疏漏尝试接入公网，导致训练一度暂停，Anthropic 同样收紧过最强模型的联网权限。这种时候，多一层软件管控就多一个可能出错的配置项，物理断网反而最笨也最可靠。

代价落在工程上

“离线世界”听起来挺浪漫，做起来很费力。数据不能实时抓取，只能预处理成静态镜像单向导入；依赖云端接口的评估工具得整体重写；跨集群通信也要在封闭环境里重新设计。原文那张对比表说得很清楚：研发运维复杂度从“依赖成熟云服务”跳到“极高”。再加一条，能自建全断网大集群的团队本来就不多，成本一高，资源只会更往头部实验室集中。

所以我对物理隔离的看法是：它解决的是“万一漏了”的后果上限，不是效率问题。如果你只是做微调、跑推理，没必要一上来就追求这套架构；但如果你在训练具备网络操作能力的前沿模型，那先把出口从物理层切断，再谈别的，顺序可能比什么都重要。