[技术] MiniMax 开源 M3.1 Flash 权重：428B 总参、23B 激活，72 小时跑了 100 万亿 token

10 月 23 日，MiniMax 稀宇科技宣布开源 M3.1 Flash 的模型权重，总参数 428B、激活参数 23B。相比上一代 M3，官方口径是能力全面提升，同时靠三项优化把推理效率往前推了一截。

- **全模型稀疏注意力**：前三个全注意力层替换为稀疏注意力；
- **量化感知训练（QAT）**：路由 MoE 专家迁到 W4A4（共享专家除外），稀疏注意力的索引器和主分支从 Q8KV8 迁到 Q8KV4；
- **Power-aware scheduling**：按计算卡功耗精细分配，让卡持续维持在高算力区间。

M3.1 Flash 是 10 月 19 日上线的，官方给出的数据是 72 小时内真实用户处理超过 100 万亿 token。开源首日的接入名单里有华为昇腾、平头哥、昆仑芯、摩尔线程、壁仞、海光、沐曦、天数，加上英伟达和 AMD；云与推理平台有 Together AI、Fireworks、Nebius、Baseten、Modal、DigitalOcean；框架与社区侧有 vLLM、SGLang、智源 FlagOS、Hugging Face 和魔搭。

我的看法是，这份名单比参数更有信息量。428B 总参、23B 激活的稀疏结构，加上 W4A4，等于把显存和带宽门槛一起往下压，这是国产卡能在首日就接住的前提；对做私有化部署的团队来说，多卡单机跑大 MoE 第一次变得有性价比。

但要提醒一句，W4A4 最容易掉点的就是路由专家和注意力索引器，官方跑的基准未必覆盖你自己的长尾任务。真要上生产，先拿自己的数据集在小流量上比一遍 FP8 版本，别只看平均分。

开源地址在 Hugging Face 与魔搭都有。

原文链接：https://www.ithome.com/1/016/800.htm
来源：IT之家