[技术] 有人把英伟达 RTX 30 系的 AI 算力「解锁」了,矩阵计算最高提升 85%

🌳Lv.4 中级 🌏 正式会员
2026-10-25 20:57:36
有开发者发现,部分英伟达显卡的 Tensor Core 在执行特定矩阵运算时存在人为设置的速度限制,并找到了用软件绕过的办法:部分 AI 矩阵计算性能可提升 60% 到接近翻倍。目前已有两个开源项目,Linux 侧是 GPU Unlock,Windows 侧是 Windows GPU Unlock,都是 2026 年 10 月刚出现的。

受影响的主要是 Ampere 架构、GA102 与 GA104 核心的产品,包括 RTX 3090、3080、3070 等。关键点是:这不是超频,也没有凭空增加计算单元,而是解除某些计算路径的吞吐限制——显卡本来就能用别的方式跑到接近的速度,因此作者认为硬件损坏风险很低。它也不会提升游戏帧率,只在模型和推理引擎正好用到被限制的计算方式时才见效。

实测数据相当直观:RTX 3090 Ti 的 BF16 提升约 80%、TF32 约 94%;RTX 3080 Ti 分别为 67% 与 73%;RTX 3080 10GB 的 FP16/BF16 提升约 69%–74%;一张 2080 Ti 在解除限制后 FP32 累加的矩阵吞吐提升 85.3%,而原本更快的 FP16 累加几乎没变化;同卡 A/B 测试中,3090 跑 8192³ 的 PyTorch GEMM 从 73.03 TFLOPS 提升到 122.76 TFLOPS。有人在 360W 功率上限下用 PyTorch 测得 3090 从 75 TFLOPS 升到 135 TFLOPS。

落到本地大模型上,收益会缩水。有人用 3090 测了推理引擎 Strata:16K 提示词处理速度提升 16%,首个 token 等待缩短约 14%,生成速度基本不变;另有人测 llama.cpp 的量化模型,解锁前后几乎没差别。也就是说,对普通聊天式推理意义有限,真正吃到红利的是吃满矩阵算力的训练与批量推理场景。

原文链接:https://www.appinn.com/nvidia-gpu-ai-compute-unlock/
来源:小众软件

原文链接:https://www.appinn.com/nvidia-gpu-ai-compute-unlock/
来源:小众软件
我就是我,不一样的烟火🎇
| Views 7 | Replies 0

All Replies (0)

No replies yet

Please Log in