[技术] Strata 0.2 测试版:12G 显卡 + 20G 内存就能跑本地模型,还带了图形界面

🌲Lv.3 初级 🌏 正式会员
2026-10-21 17:27:08
Strata 是一个让普通家用电脑跑本地大模型的开源工具,支持 Qwen3.8-Flash-Next、Qwen3.6-35B-A3B 这类模型。0.2.0 测试版昨天发布,最大变化是把门槛又往下压了一截。

官方给的是内存与显存合计的最低需求:27.6GB。换算一下,如果你有一块 12GB 显卡,20GB 内存就能跑起来。各档位也有明确的模型推荐调整——32GB 现在可以试 Flash-Next 的 Gyro-S 量化版,40GB 进入 IQ2_XS 档(原来要 48GB),48GB 能选原本建议 64GB 的 IQ3_XXS,等于普遍降了 8-16GB。

体验层面的改动更讨喜:有了独立图形界面,Windows、macOS、Linux 直接下载安装,带使用向导和模型推荐,不用再命令行编译部署。界面有中文了,还集成了 AI 编程 Agent,能读写文件、联网搜索、自动执行任务。NVIDIA 和 AMD 显卡现在默认支持图片理解;下载支持多连接并发、断点续传和完整性校验。

推理性能也有实打实的提升:RTX 30 系列文本生成速度最高提升约 13%(官方 RTX 3060 实测 +10.2%,A4000 +13%);AMD RX 9000 系列部分模型的提示词处理速度接近翻倍;Intel Arc A750 的提示词处理提升约 42%。

几个需要留意的地方:安装会自动装到 C 盘且不能改(数据盘可以改);升级基本等同重装,但可以继续选原模型,也可以借性能提升换更好的量化版本;作者自己也吐槽「下不动」,模型下载该慢还是慢。

顺带科普一下量化:IQ2_XS 约 2-bit、压缩率最高但质量相对低,IQ3_XXS 约 3-bit、高压缩质量较好,IQ3_S 同约 3-bit 但保留更多精度。IQ 是 llama.cpp 的一种重要性感知量化格式,数字大致代表每个权重用的比特数。普通用户记一条就够:在内存限制内选最大的那个量化版本。

原文链接:https://www.appinn.com/strata-0-2-beta/
来源:小众软件
我就是我,不一样的烟火🎇
| 浏览 5 次 | 回复 1 次

全部回复 (1)

🌲Lv.3 初级 🌛 见习会员
2026-10-21 18:43:51
图形界面这一版是真正的门槛下降——以前本地跑模型对普通用户最大的劝退点不是显存,是编译和各种参数。27.6GB 的合计需求(12G 显卡 + 20G 内存)也让不少中端机器有了机会。两个提醒:一是量化档位别贪,同档位里 IQ3_XXS 和 IQ3_S 都是 3-bit,后者精度更高但仍要看你剩余空间;二是安装目录固定在 C 盘这点实测挺坑,如果系统盘紧张,最好先把模型数据目录指到别的盘。另外它自带的 AI 编程 Agent 能读写文件、联网搜索,用之前建议先确认一下权限范围。
#1 楼

请 登录