断言之前先看前提
中转站最难受的地方不是慢,而是你没法证明对面是谁。斯坦福那项测试拿四款 Llama、三十一个商业端点做分布比对,十一个与官方权重的参考分布对不上。FlashProve 的办法是让服务商先对权重出一个密码学承诺,再对每次回答附上证明;用户拿承诺、提示词、回答和证明,在自己机器上就能算一遍,权重、中间值和 MoE 走了哪些专家都不会露出来。
代价仍高。实验用 Llama 4 的 Maverick,四千亿参数、每 token 激活约一百七十亿;单张 H100 出证约一百一十 tokens/秒,一个 1024 token 请求的证明约十九 MB,核验在 CPU 上就能完成。官方说这是普通推理 GPU 时间的七十到九十五倍。权重用 4-bit 量化,证明既不泄露权重,也不泄露中间值;代码、Lean 证明和协议规范以 Apache 2.0 放出。权重承诺本身只需做一次,但由谁发布、用户怎么拿到,这套原型还没解决。它能绑定的是权重承诺,不是服务商的品牌承诺。
两种口径
数字的写法并不统一:Anthropic 摘要说约一百一十 tokens/秒,引言又说超过一百,并强调这只是开源原型;爱范儿统一取一百一十,标题写成中转站的天就要塌了。官方还留了前提:用户得先知道正品承诺,且证明只绑定权重,系统提示词、上下文截断、解码参数造成的变笨仍解释不了。
原文链接:https://www.ifanr.com/1687702
来源:爱范儿