Nanbeige4.3-33B 放出来了，稠密 33B，agent 和写代码的分数多数压过 Qwen3.8-27B。 几项分数，左边 Nanbeige，右边 Qwen3.8-27B： 1. Terminal-Bench 2.1：80.9 对 73.0 2. DeepSWE：65.5 对 42.5 3. Automation Bench：54.2 对 38.3 4. SWE-Bench Pro：60.3 对 61.7，这项 Qwen 略高 稠密模型和 MoE 对硬件的要求不一样。每生成一个 token 都要把 33B 权重完整读一遍，decode 速度基本由显存带宽决定。 BF16 权重 66GB，一张 RTX PRO 6000 96GB 放得下，剩下 30GB 左右给 KV cache。按它的配置每个 token 的 KV 约 0.2MB，放 10 万 token 以上的上下文够用。带宽 1,792 GB/s，BF16 理论上限约 27 tok/s，FP8 约 54。 DGX Spark 带宽 273 GB/s，同样算，BF16 只有 4 tok/s 左右，FP8 也就 8。这种稠密模型我会放在 PRO 6000 上跑，Spark 留给 MoE。

TensorFold 1.1.6 出了，这版有两条和我两台 DGX Spark 直接相关。 1. 几个请求同时带着同一段新的长 system prompt 进来，以前每个请求各自 prefill 一遍，现在只算一次，其他请求等着接着用。 一台 GB10 上 8 个对话、28K token 的 system prompt，最后一个对话拿到首 token 的时间从 201 秒降到 31 秒。Flash Next FP4 是 146 秒降到 25 秒。跑 agent 的人基本都是这种场景，多个会话共用一段很长的 system prompt。 2. 两台 GB10 跑 GLM-5.3-Flash TP=2，现在也能用上共享的 KV 页池，之前要三个 rank 才行。NVFP4 权重下，两路并发的总吞吐多了 14%，prefill 持平到多 17%。 我两台 Spark 跑 GLM-5.3-Flash 用的是 EXL3，单路 62.2 tok/s，4 路合计 104.6。这个 14% 是 NVFP4 权重测的，我这套能不能吃到，更新完测了再说。

同一套 DeepSeek V4.1 Flash 1017，四台 DGX Spark，SGLang 默认参数和调好参数，代码单路差了 44%。 默认 71.6 tok/s，调完 103.1。换成 TensorFold 是 110.9，比调好的 SGLang 只多 8% 左右。 131K 上下文、4 路并发的合计速度： 1. SGLang 默认 61.2 2. SGLang 调好 90.5 3. TensorFold 90.6 后两个基本打平。冷启动 131K 的 prefill，调好的 SGLang 32.5 秒，TensorFold 56.0 秒，这一项 SGLang 反而快。 以后看引擎对比图，我会先看两边是不是都调过参数。

5090 被整箱拆掉改 AI 卡的视频，这两天传得很广。 流水线上全是新卡，公版也有。三风扇散热拆掉，GB202 芯片和 32GB GDDR7 吹下来，焊到新板子上，换成双槽涡轮散热，进服务器机架。 做推理，值钱的就是这 32GB 显存和 1.8 TB/s 带宽。游戏卡的大散热往机箱里吹热风，8 卡并排根本塞不下，换成涡轮才能密排。 所以零售货架上的 5090 越来越少，价格一路往上。跟玩家抢卡的，还有改装厂。 我那张 RTX PRO 6000 也是 GB202，带宽一样，显存 96GB。改装厂愿意收 5090，是因为一块 Blackwell 加 32GB 快显存，放在 AI 服务器里比放在游戏机箱里卖得上价。

3090 解锁之后，prefill 快了三到五成，decode 几乎没动。 这周 GitHub 上很火的 gpu-unlock，一周多涨到 9,400 多星。它动的是 GeForce 显卡上一个存在很久的限制。 1. 锁的是什么 GeForce 30 系做 FP16 和 BF16 矩阵乘时，如果用 FP32 累加，张量核的指令发射速率只有专业卡的一半。3090 和 RTX A6000 是同一颗 GA102，差别就在这条路径上。 gpu-unlock 是一个 Linux 内核模块。开机时赶在 NVIDIA 驱动加载之前，改写芯片里的速度选择寄存器。不刷 BIOS，不改驱动，驱动照常装官方版本。 2. 矩阵乘快了多少 项目首页给的 3090 Ti 数据，8192 尺寸的稠密矩阵乘，450W： 1. BF16 87.5 → 157.4 TFLOPS 2. FP16 87.5 → 118.4 TFLOPS 3. TF32 42.6 → 82.6 TFLOPS 40 系有社区分支 gpu-unlock-ada。4090 的 FP16 和 BF16 指令吞吐从约 165 翻到约 331 TF/s，但实际的 cuBLAS 矩阵乘只快了 12% 到 34%，有的尺寸基本没变，功耗墙先顶住了。 3. 为什么 prefill 快、decode 不快 prefill 是把整段提示词一次算完，全是大矩阵乘，吃算力。 decode 每出一个 token，都要把权重从显存完整读一遍，吃带宽。解锁只加算力，3090 的显存带宽还是 936 GB/s。 用户提交的实测正好对上： 1. 一张原版 3090，vLLM 跑 27B BF16，2,904 token 提示词。prefill 12,346 → 16,165 tok/s，快 33%，首 token 时间少了约 24%。decode 112.98 → 114.24，基本没动。 2. 一张 3090 跑 Qwen3.8-27B W4A16，功耗墙 350W 时 prefill 1,269 → 1,874 tok/s，快 48%。96K 提示词在 375W 下，首 token 从 105.7 秒降到 71.4 秒。decode 一直在 80 tok/s 上下。 4. 不是所有量化都吃得到 快的只有 FP16、BF16 输入加 FP32 累加这一条路。 W4A16 用的 Marlin 内核，是把 4 bit 权重解回 FP16 再乘，所以能吃到。一张 48GB 改装 4090 跑量化 MoE，8K prefill 是解锁前的 0.983 倍，等于没变。两张 3090 跑 GGUF IQ3_XXS，prefill 平均快 8%，128K 以上快 11%。 功耗墙也有影响。同一张 3090，250W 时 prefill 快 25%，375W 时快 50%。多出来的算力要电，墙压得太低就用不出来。 5. 门槛 只支持 Linux，要关 Secure Boot，冷启动时才生效。30 系在主仓库，40 系在分支里实验，有一张 3060 报告解锁失败。50 系还不在支持列表里。 对 3090 用户，长提示词、agent、RAG 这类读得多的场景，首 token 的等待能明显缩短。聊天时出字快不快，还是看显存带宽。