[技术] Strata 开始支持 macOS，新增更轻量的 Qwen3.6-35B-A3B 模型

想让家用显卡跑本地大模型的玩家，又多了一个选择。此前介绍过的本地推理工具 Strata 最近连续更新：不仅开始支持 Apple Silicon Mac，还新增了体积更小的 Qwen3.6-35B-A3B 模型，硬件门槛再次降低。

先说支持范围。Strata 目前支持 NVIDIA 与 AMD 显卡，Intel Arc 和 Apple Silicon 属于实验性支持，官方建议至少 12GB 显存 + 32GB 系统内存。新增的 Qwen3.6-35B-A3B 目前仅支持 NVIDIA 和 AMD，喂给 Intel Arc 和 Mac 版还不行。

新模型采用 MoE 架构，总参数约 35B、激活 3B，比之前主打的 Qwen3.8-Flash-Next（125B / 激活 6B）小一大截：复杂推理稍弱、编程能力适合日常任务，但资源占用低得多。官方还给它加了 MTP（多 Token 预测）加速——在 AMD Radeon AI PRO R9700 上的测试中，普通推理 83 tokens/s，开启 MTP2 后达到 161 tokens/s，提速约 94%。

内存与存储方面，35B-A3B 的 UD-Q4_K_XL 量化版约需 32GB 内存、模型文件 22.4GB；Flash-Next 官方推荐的 IQ2_XS 则要 48GB 内存、68GB 存储。

Mac 侧从 v0.1.44 起加入原生 Metal 后端，支持 M1～M5、要求 macOS 15 或更新。目前仍是实验性：需要克隆源码后运行 ./setup.sh 从源码编译推理引擎，且只支持单个并发请求、官方仅验证到 32K 上下文，Qwen3.6-35B-A3B 暂未适配。两个参考数据：Mac mini M4（32GB）跑 Flash-Next Q2_0 约 8～14 tokens/s；M5 Max（128GB）跑 IQ3_S 约 95～103 tokens/s。

安装门槛也一并降低了，甚至可以让 AI 帮你装：把仓库和 docs/AI_SETUP.md 丢给助手即可；也可以直接下源码，Windows 双击 START-HERE.bat，Linux / macOS 运行 ./setup.sh。装好后会自动弹出浏览器对话界面，还能把模型提供给其他应用调用。

唯一要提醒的是：跑起来之后系统内存基本吃满，想用得舒服，还是得加内存。

原文链接：https://www.appinn.com/strata-macos-35b-model/
来源：小众软件