mw00/project-maya
mw00 · 上架 2026-10-06 · 等级 B
数据来源:什么值得做(stringers.io)。此处为摘要引用,文章与数据版权归原作者所有。 数据截至 2026-11-20 查看原文
关键原因
- 时机:GLM-5.3-Flash 8-26 发布,口碑很好(HN 1,132 分),但 321B 在本地通用方案上只有 1-10 tok/s;Strata 9-24 已经证明需求在,却不支持 GLM,Maya 10-06 正好填进去。
- 实际速度:单张 5090 30+ tok/s,两张 V100 40-54 tok/s;Reddit 上最典型的说法是「从 10 tok/s 到 30 tok/s」。
- 自家量化标了质量:相对 FP8 保留 97.7-99.2% 的零样本准确率,打消低比特量化的顾虑;HF 下载 100 万以上次。
- 一键安装,硬件覆盖面极广:老 V100、P40、矿卡、AMD ROCm、Strix Halo、Windows 都能跑,正中 r/LocalLLaMA 里攒旧卡的那群人。
- 兼容 OpenAI 和 Anthropic API 并支持 tool call、Codex CLI,对上了编码 agent 的用法。
- 迭代极快:31 天 616 次提交、发到 v1.1.55,每次发版都在 X 上当推广素材。