vladimirrott/mojo-dllm

vladimirrott · Released 2026-10-04 · Grade B

Source: stringers.io. Short excerpt with attribution; articles and data remain the property of the original publisher. Data as of 2026-11-20 View original

Key reasons

  • 时机:Mojo 2026-08 发 1.0 并开源,MAX 10-22 变成 source-available;Google 2026-08 发 DiffusionGemma,扩散 LLM 正热,两个圈子都在找'能在本地真跑起来'的证据
  • 产品拿得出手:README 头条就是和 llama.cpp 同机对比的表,CPU 1.33 对 0.69 tok/s,GPU 18.13 对 16.46 tok/s、内存 1.1 对 5.3 GB;每张表都有结果文件对应,CI 校验
  • 填了 llama.cpp 的空白:llama.cpp 的扩散支持只是一个示例 CLI,mojo-dllm 专门为'每步重算整块画布'做了权重重排和 VNNI / tensor core 内核
  • 用切好难度的 issue 招来外部贡献者,11-04 前后的 PR 潮和 star 加速是同一段时间
  • 在 Mojo 圈里它是少数能对标 llama.cpp 还赢了的项目,正好是 Mojo 社区想要的故事;本周 Mojo 涨星第一

产品本身 时机或平台事件 分发打法