首页 > AI技术 > 正文

Anthropic公布FlashProve原型:云端AI模型身份验证能解决什么问题

yjcdj 2026年11月9日 2 AI技术
Anthropic公布FlashProve原型:云端AI模型身份验证能解决什么问题插图
生成摘要
AI 生成,仅供参考

Anthropic公布开源研究原型 FlashProve,探索用零知识证明核验云端模型是否按承诺生成回答。它瞄准的是企业和开发者调用云端模型时的身份信任问题:服务商声称使用某个模型,并不等于调用方能够独立确认实际运行的模型。FlashProve目前仍是研究原型,证明生成的计算开销和适用范围也限制了它的实际部署。

Anthropic公布FlashProve原型:云端AI模型身份验证能解决什么问题

它试图验证什么

通过第三方 API、中转服务或模型聚合平台调用模型时,请求可能经过多个环节。调用方通常能指定模型名称,却难以仅凭回答确认后台实际运行的是不是该模型。服务商可能将请求路由到较便宜的模型;服务器也可能遭遇篡改。回答质量的变化本身不足以证明发生了替换,因为模型输出还会受提示词、推理设置和服务状态等因素影响。

FlashProve采用可证明推理的思路。服务提供方先为特定模型权重建立密码学承诺,相当于形成一个可核验的模型版本标识;返回回答时,再附上证明,供调用方检查输出是否由对应权重执行生成。方案使用零知识证明技术,意在验证执行过程,同时不公开模型权重。

因此,它验证的不是“这个模型很强”或“这个回答正确”,而是回答与事先承诺的模型权重之间是否符合证明所描述的关系。模型版本、权重承诺和推理计算范围,都必须明确,验证结果才有意义。

测试结果与成本

媒体报道援引 Anthropic 的测试称,FlashProve 在 Meta 的 Llama 4 Maverick 上进行过演示。该模型为约 4000 亿参数的混合专家模型;测试使用单张 Nvidia H100,证明生成速度约为每秒 110 个 token,每个 1024-token 请求对应的证明约为 19MB。报道给出的计算开销约为普通推理 GPU 时间的 70 至 95 倍。

这些数字说明,验证并非免费附加项。若每次云端推理都要即时生成证明,服务商需要承担额外算力和数据传输成本,用户也需要具备验证证明的能力。证明生成速度较高,不代表成本已经接近普通推理;两者是不同指标。

测试范围也有限。现有实验针对整数运算版本和贪婪解码等特定计算形式,报道所述上下文规模为最多 1024 个 token。浮点运算、随机采样、长上下文以及多轮或复杂 Agent 工作流,还不能据此视为已得到同等支持。

对采购与评估的意义

对企业采购而言,模型身份验证可能补上合同承诺与实际调用之间的核验环节。采购方若要求供应商对特定模型版本作出权重承诺,并在响应中提供可验证证明,就能获得比模型名称或供应商声明更直接的技术证据。对于安全评估和合规审查,证明也可能帮助确认被测试或审批的模型,与实际部署的模型是否一致。

但它不能单独解决供应链信任问题。采购方仍需确认承诺由谁发布、如何绑定到具体版本、证明覆盖了推理链路的哪些部分,以及验证工具和参数是否可靠。证明若只覆盖部分执行过程,也不能自动排除系统其他环节的替换或篡改。

更重要的是,模型身份不等于回答质量。证明只能说明回答符合特定模型及证明设定下的计算关系,不能证明事实无误、符合安全要求,或适合某项业务决策。企业仍需进行准确性评估、权限控制、日志审计和人工复核。

后续观察

Anthropic公开 FlashProve 的代码和技术资料,呈现的是研究进展,而不是已经可直接采购的商用保障。后续值得关注的重点包括:支持的模型与推理方式能否扩大,证明成本和体积能否下降,长上下文下的验证是否可行,以及模型供应商和企业能否形成可操作的版本承诺与审计流程。

在这些问题得到更多验证之前,FlashProve更适合被视为云端推理可验证性的技术探索。它提出了一种检查“实际调用了什么模型”的路径,但距离让企业对每次模型调用都低成本、可靠地验明身份,仍有工程工作要完成。

文章版权归作者所有,未经允许请勿转载。

本文链接:https://www.chatcpt.com.cn/aijs/720.html