卓琪的开发笔记zhuoqidev.com← 回工作台RSSllms.txt
~/posts/nvidia-tensor-half-speed-explained.md
本地 AI 硬件实测 · 第 2 篇折腾记录约 1,100 字 · 3 分钟

同一块芯片,为什么你的显卡只给一半 — 图解 NVIDIA 的半速张量核

TL;DR

你买的游戏显卡里,专门算 AI 的那部分零件,有一半时间在空等。不是它坏了,也不是它不够快,而是厂商在出厂时就这么设好的,满速留给了贵一截的专业卡。2026 年 10 月有人把这把锁解开了,我在自己的笔记本上试了一下:同样的电,AI 计算快了约 1.6 倍。这篇用图讲清来龙去脉,细节在详细版里。

目录 · index
  1. 来龙去脉:一块芯片,两种卖法
  2. 我做了什么测试
  3. 意味着什么
  4. 想看细节
AI 矩阵计算×1.65BF16 矩阵乘法,解锁前后
训练小模型+40%每秒处理的字数
功耗105 W前后一样,没多吃电
我的 RTX 3060 笔记本,2026-10-29 实测。

来龙去脉:一块芯片,两种卖法

NVIDIA 会把同一块芯片做成两种产品:卖给玩家的游戏卡(GeForce),和卖给公司的专业卡。专业卡贵一截,差价里有一部分不是因为它多了零件,而是游戏卡上有些能力在出厂时被按住了。

被按住的这次,是张量核:显卡里专门做矩阵乘法的零件。今天的 AI,不管是训练模型、出图还是读提示词,绝大部分时间都在做矩阵乘法。

锁在哪:发号员每两拍才递一次活

张量核本身完全能跑满速。被动了手脚的是它前面的发号员:显卡每个时钟周期(一「拍」)本来都能给张量核递一条指令,游戏卡上被改成了每两拍才递一条。点下面的按钮对比:

同样 8 拍,出厂设置下张量核只干了 4 拍的活(点按钮切换)

所以这把锁不是让零件变慢,而是让它一半时间没活干。同一块芯片做成专业卡时,发号员每拍都递,张量核就是满速。

钥匙是怎么来的

这类「厂商按住、社区解开」的拉锯,前后已经好几轮了。点「下一步」往下看:

第 1 步 / 共 6 步

同一块芯片,两种价钱

NVIDIA 用固件和驱动给同一代芯片分档:游戏卡便宜,一些能力被按住;专业卡贵,能力全开。

第 2 步 / 共 6 步

第一把锁:挖矿限速

2021 年矿工抢游戏卡,NVIDIA 给 RTX 30 加了挖矿限速。先是自家一版测试驱动意外把它解开,后来被第三方软件完全绕过,最后 NVIDIA 自己在驱动里删掉了。

第 3 步 / 共 6 步

第二把锁:矿卡

专卖给矿工的 CMP 矿卡,显存和算力被固件锁住。社区在显卡开机时跑的一段固件里找到一个漏洞,把它们放了出来。

第 4 步 / 共 6 步

第三把锁:半速张量核

2026-10-18,有人用同一个漏洞去开另一把锁:张量核的半速。项目叫 gpu-unlock,10-24 上了 Hacker News,到 10-29 约 1.2 万星。

第 5 步 / 共 6 步

我拿自己的笔记本试了

10-29,我在一台 RTX 3060 笔记本上装上它,开机前后各跑一遍同样的计算。结果在下一节。

第 6 步 / 共 6 步

新卡:锁还在,钥匙没了

RTX 50 换了一套开机流程,那个漏洞用不上了。第三方测过 RTX 5090,半速还在,只是没人解得开。

来源:项目说明、Hacker News 和当年的科技媒体报道,链接都在详细版里。

我做了什么测试

一句话:同一台笔记本,装钥匙前后各跑一遍同样的 AI 计算,看快了多少,再看本来就没锁的那几种计算有没有跟着变。

被锁的三种半精度计算(AI 训练和出图常用的格式)都快了约 1.6 倍;两种本来没锁的当对照组,一点没动。对照组不变,说明快出来的这部分确实来自解锁,不是别的原因:

解锁前解锁后
BF16被锁的25.4 → 41.9 +65%FP16被锁的25.5 → 41.7 +64%TF32被锁的12.6 → 20.4 +62%FP32对照:本来没锁6.5 → 6.5 不变
RTX 3060 笔记本,单位 TFLOPS:每秒能做多少万亿次运算(越高越好)。另一个对照组 INT8 前后都是 74.5,刻度差太多没画进来。

放到真实任务上:我训练了一个小模型,每秒处理的字数(token)多了四成,最后训出来的结果和解锁前一样。

解锁前解锁后
训练一个小模型6 层 Transformer,BF1631,457 → 44,116 +40%
单位:每秒处理的 token 数。训练结束时的 loss 前后相差 0.00001,和连跑几次的正常浮动一个量级。

为什么不是翻倍

活多了一倍,速度却只涨了约 1.6 倍,差在电上。笔记本的显卡最多吃约 105 W,解锁前后都顶在这条线上。每一拍干的活变成两倍,同样的电就撑不住原来的频率,频率降了约 17%:

每拍干的活×2发号员每拍都递了
频率×0.83电不够,1760 → 1470 MHz
实际快了×1.652 × 0.83 ≈ 1.66

电更充足的台式卡会更接近翻倍。项目说明里,台式 RTX 3060 快了 87%,这个数不是我测的。


意味着什么

影响一:本地跑 AI 的人白捡了一截速度,打游戏的人什么也没变。 被解开的只有 AI 常用的那几种计算,所以:

会变快的,和不会变快的

影响二:同一块芯片,你拿到的未必是全部。 显卡的价格不只按零件定,也按「打开了多少」定。这次被看见的是张量核,以前是挖矿速度、是矿卡的显存。下次看显卡跑分,可以多问一句:这是芯片的全部,还是出厂设置?

影响三:这把钥匙只对老卡有用。 新出的 RTX 50 把开机流程换了,路被提前堵死了:

各代显卡能不能解开(只支持 Linux)

想看细节

详细版《半速的张量核》讲了这些,这篇都没展开:

  • 锁具体在哪个寄存器、为什么只有那三种格式被锁
  • 它怎么赶在显卡驱动之前、在开机的那个窗口里把锁打开
  • RTX 50 为什么解不了,两家第三方怎么测出锁还在
  • 全部测量数字、频率和功耗记录,以及你可以自己跑的测速脚本

同系列的上一篇《Mac 到底适不适合跑大模型?》讲的是另一个问题:决定本地大模型快不快的,其实是哪几个数。

一句话收尾:张量核没有变快,它只是终于不用等了。

来加个微信吧

刘卓琪的微信二维码

微信扫码,或在手机上长按识别

加好友请备注来意,不然可能会漏掉哦~