TPUv7 在 agentic 推理基准上每美元性能超 GB300
- 提交配置：Google 首次向 SemiAnalysis 的 agentic inference benchmark 提交 TPUv7，使用 4 芯片 TorchTPU vLLM FP8。
- 最新数据：SemiAnalysis 最初报告每美元性能比 GB300 NVL72 FP4 高 1.67×，后按外部非 Google 成本基准修正为 1.42×；比 MI355X 高 2.5×。GB300 与 GB200 在低交互性场景仍具优势。
- 争议：Zach Mueller 质疑数据是否假设最大利用率。 🔗 SemiAnalysis 初始 | 更新