跳至正文返回首页TPUv7 每美元性能超 GB300 1.64×，Vera Rubin 在长上下文 Agent 负载上达 7.3×
- TPUv7 vs GB300：Inferact 在 Google TPUv7 上提交 Kimi K3（2.8T）推理结果，使用 TorchTPU vLLM 栈上的 megakernel；NVIDIA GB300 FP4 反向提交在大多数延迟曲线上每美元性能差 1.64×。
- Vera Rubin：NVIDIA 称 Vera Rubin NVL72 在 1M-context agentic workloads 上比 GB300 最高好 7.3×。
- SGLang megakernel：SGLang 已合并 megakernel 支持，在 GB300 NVL72 上接近 1000 tok/s/user。
- 行业意义：推理硬件的竞争从绝对吞吐延伸到每美元性能与长上下文 Agent 负载；不同加速器在不同负载形态下的优势不重叠，选型需按任务类型与精度路径分开评估，而非只看单一基准。
🔗 TPUv7 提交 | GB300 对比 | Vera Rubin 评估 | SGLang megakernel