跳至正文返回首页SemiAnalysis 拆解 GLM 5.3：后训练驱动提升，AMD MI355 推理成本反超 B200
- 前情提要：GLM 5.3 为智谱两个月前发布的开源权重模型；此前已有多条关于其网安能力、OpenCode 免费接入与后训练表现的报道。
- 最新拆解：SemiAnalysis 播客指出，GLM 5.3 与 5.2 架构相同，全部提升来自后训练；稀疏注意力节省的是内存带宽而非 KV cache 容量，HiCache/HiSparse 通过将 KV cache 卸载到主机 DRAM 处理容量问题。
- 成本与硬件：InferenceX 基准显示，AMD MI355 借助 ATOM 推理引擎的持续优化，在每百万 token 服务成本上反超 NVIDIA B200；播客认为推理引擎的软件迭代会改变硬件竞争位置。
- 网安与国产芯片：嘉宾称 GLM 5.3 的网络安全能力较 5.2 有“昼夜之差”，开放权重使红队可在闭源模型拒绝时回落到它；GLM 5 论文写明模型从第一天适配华为昇腾、摩尔线程等七家国产芯片平台。
- 行业意义：这条拆解把开放权重模型的竞争力归因于后训练、推理引擎优化与面向非 NVIDIA 硬件的协同设计；同时指出模型效率提升不会减少内存需求，反而可能因并发与 token 消耗上升而放大 HBM/DRAM 需求。
🔗 SemiAnalysis 播客 | 文章 | 原帖
