Thoughtworks 提出 token 采购九宫格:租用前沿模型,自持核心 IP
- 策略框架:Thoughtworks 同事 Andy Nolan 描述其 token 采购策略:对需要前沿推理的工作租用前沿模型;对承载 IP 或用量大到自持容量更便宜的工作,在自选容量上运行开放权重模型。
- 分类方法:按“领域差异化”与“安全与主权”两个轴对每个 LLM 工作负载分类,放入九宫格;九宫格从随价格切换的最便宜可用 API,到自有基础设施上完全控制与维护的微调开放模型。
- 成本预期:Thoughtworks 预计该策略到 2028 年将其 token 成本从 1600 万–4000 万美元降至 100 万–680 万美元。
- 行业含义:该框架把模型选型从单一“最强模型”转为按负载分配:前沿 API 与开放权重自托管并存,成本、IP 与数据主权分别进入决策。 🔗 Martin Fowler: Fragments: October 28 | Thoughtworks token 策略原文
