jesdga95/basalt

jesdga95 · Released 2026-10-06 · Grade B

Source: stringers.io. Short excerpt with attribution; articles and data remain the property of the original publisher. Data as of 2026-11-20 View original

Key reasons

  • Qwen3.8-Flash-Next 加上 Strata 爆火(9 月底建库,现 40k 星),带来一大批想把 5090 用满的用户,Basalt 正好卡在这个交集里
  • 同一份权重,速度是 Strata 的 1.3–2.6 倍,单请求解码约是 vLLM 的 3 倍,并且有 helix.ml、akitaonrails 两家独立复现
  • 砍掉非 Blackwell 硬件支持、重写解码 kernel:上游为了兼容做不了,这正是分叉存在的理由,作者在首发帖里讲清楚了
  • 作者高频迭代(一个月 2,194 个 commit,加 NVFP4,加 DeepSeek),在 r/LocalLLaMA 每个版本都发一帖,每次帖子之后都有涨星
  • 社区跑分榜和招募测试算力,把用户变成 PR 贡献者,也解释了 13.7% 的高 fork 比
  • 5060 Ti 16GB 这类中端 50 系也能跑,用户自发写安利帖扩散

产品本身 时机或平台事件 分发打法