返回首页

Recursive 发布 Flint:39.8B 总参数、2.5B 激活的 Apache-2.0 本地编码 MoE

  • 模型规格:Flint 为 decoder-only MoE,39.8B 总参数、约 2.5B 激活参数,49 层、每层 256 个 routed experts、每 token 选 6 个,混合滑动窗口/全注意力,262K 上下文,Apache-2.0。
  • 宣称成绩:Terminal-Bench 2.1 54.9%、SWE-bench Pro v2 89.7%、SWE-bench Verified 74.2%;均为发布方口径,尚无独立复现。
  • 本地运行:LM Studio 称约需 24GB 本地资源;官方宣称在 MacBook Pro 超过 125 tokens/s、RTX Spark 超过 150 tokens/s,第三方在 M5 Max int4 MLX 测得 114–132 output tokens/s。
  • 服务侧:vLLM 报告单台 GB200 在 100K 上下文、NVFP4 下达到 500 tokens/s;OpenRouter 提供限时免费启动访问。
  • 行业意义:小激活 MoE 继续把编码 Agent 的本地部署门槛压到消费级/工作站显存区间,但其真实竞争力取决于独立评测、长上下文稳定性与工具调用可靠性。 🔗 Hugging Face | LM Studio | 基准宣称 | vLLM