美团与北大 GeoRA 获 ACL 2026 杰出论文：为 RLVR 设计低秩适配
- 核心问题：LoRA 等 PEFT 方法多在 SFT 场景验证，而 RLVR 更新稀疏、避开预训练主方向，直接套用存在几何错位，效果欠优甚至训练崩溃。
- 方法：GeoRA 用谱先验与欧氏先验定位 RLVR 偏好的稀疏更新区域，再用 SVD 压缩为低秩适配器，并冻结残差权重作为锚点；训练计算图与标准 LoRA 一致。
- 结果：在 1.5B-32B 的 Qwen 与 Llama 上，数学、医学、代码三类 RLVR 任务稳定优于低秩基线；可训练参数降低 99.5%，单步耗时降低 19.9%，显存降低 28.5%，业务 Agentic RL 中相比 LoRA 提升约 12%。
- 行业意义：RLVR 的高效训练需要匹配其优化几何；GeoRA 把几何先验落成稠密低秩计算，为后训练与 Agentic RL 提供更低成本的路径。 🔗 ACL 论文 | 美团技术博客
