跳至正文返回首页面壁开源 MiniCPM-V 4.7：iPhone 3GB 内存跑 35B-A3B MoE
- 模型规格：OpenBMB 开源 MiniCPM-V 4.7，提供35B-A3B和1B两种规格，其中35B-A3B为 MiniCPM-V 系列首个 MoE 模型。
- 端侧表现：35B-A3B 在 iPhone 17 Pro Max 上仅占约3GB内存，实现13+ token/s 解码；在 iPad Pro M4 16GB 上达到17+ token/s，官方称相比此前方案约5倍加速。
- 关键技术：LES 前瞻专家调度利用跨层路由预测预取专家权重；配合层级量化与 DSpark 投机采样，在不变更模型原有路由结果的前提下降低闪存加载等待。
- 评测：官方称35B-A3B在OCRBench上得分90.4，超过 Qwen3.6 35B-A3B 5.2分；1B 版本在综合得分与推理效率上领先 Qwen3.5 0.8B。
- 微调方案：同步提出 SRFT 自回放微调，用模型自生成标签混入任务数据，官方称可将定制化带来的通用能力遗忘降低80%–99%。
🔗 魔搭 ModelScope 发布