AI

Anthropic发布FlashProve,用密码学验证人工智能输出

这一开源零知识系统可证明响应由真实模型生成,同时保守专有神经网络权重的秘密

作者: Giovanni Sapere
阅读约2分钟由人工智能辅助撰写 · 审校与批准:Giovanni Sapere

分享LinkedInFacebookX

Anthropic发布FlashProve,用密码学验证人工智能输出
Photo: Growtika / Unsplash

Anthropic发布了FlashProve,这是一个开源密码学系统,可以验证某个人工智能(AI)模型是否生成了特定响应,而无需暴露其专有权重。该工具使客户、审计人员和监管机构能够确认,提供商运行的正是所承诺的那个模型,而不是更廉价的替代品,从而解决了云计算中一个核心的知识产权难题。

数学证明取代盲目信任

开发者越来越多地通过第三方API和路由服务使用先进的机器模型。如今,用户没有技术手段来确认提供商是否真的运行了所请求的系统,还是换成了更小、成本更低的替代方案以降低运营开支。Interesting Engineering报道称,Anthropic设计FlashProve就是为了解决这一真实性难题,同时不要求模型所有者向公众披露专有参数。

该系统依赖zkSNARK,这是一种零知识密码学证明方法,可以确认计算已正确完成,同时隐藏底层数值。FlashProve分两个阶段执行。第一阶段,提供商发布一个密码学承诺,它代表神经网络权重的唯一数字指纹。第二阶段,当查询到达时,系统输出文本,并附上与最初承诺绑定的数学证明。任何持有提示词、输出和承诺的人,都可以在普通硬件上验证该证明。

在4,000亿参数模型上的基准测试表现

Anthropic用Llama 4 Maverick对该软件进行了测试,这是一个拥有4,000亿参数的混合专家模型。据Interesting Engineering报道,在单块英伟达(NVIDIA)H100 GPU上测试时,FlashProve生成密码学证明的速度约为每秒110个token。

对于1,024个token的提示词,每个生成的证明大约占用19 MB。验证该证明不需要专用加速器。一颗标准的24核中央处理器大约需要17秒即可完成验证计算,因此可在普通计算设备上进行客户端验证。

技术开销与开源发布

在投入商业部署之前,这一原型目前仍面临巨大的计算障碍。正如Interesting Engineering所指出的,生成FlashProve证明所需的GPU运行时间是vLLM等标准推理引擎的70至95倍。该软件可处理最长1,024个token的上下文窗口,依赖贪心解码,并且评估的是整数表示,而不是完整的浮点运算。

虽然代码隐藏了特定的参数权重,但整体架构仍然可见。为了推动进一步的技术创新,Anthropic以Apache 2.0许可证发布了FlashProve,公开了可执行代码、协议规范、形式化验证证明和技术报告,供独立检查。

另请阅读The Patent:用Scentronic在互联网上传输气味 · 宾夕法尼亚大学工程师将事件相机视觉速度提升至每秒440次

由英文原文自动翻译. 阅读原文

The Patent ® 编辑部的文章,借助人工智能,依据编辑部选定的来源撰写。审校、更正及批准发布:Giovanni Sapere。责任出版方:WitUp Ltd。