Exowatt 用 SageMaker 无服务器微调 Qwen3：边缘分诊与云市场分析均超前沿模型
- 流水线：Exowatt 在 Amazon SageMaker AI 上用 serverless model customization 跑 LoRA/SFT，把训练集、评估、模型注册与部署串成可复用流水线；同一套流程分别产出边缘 Qwen3-1.7B 与云侧 Qwen3-14B。
- 边缘任务：站点报警分诊需要无 GPU、可离线运行；微调 Qwen3-1.7B 在 320 个测试用例上 Macro-F1 0.911，超过 Claude Sonnet 4.6 的 0.698；8-bit 量化后约 1.71 GiB，在 6 GiB llama.cpp pod 的现有 CPU 上运行，单次推理无计量成本。
- 云侧任务：能源市场分析读取约 90 行实时价格与电网通知，Qwen3-14B 微调后 Macro-F1 0.975、事件准确率 0.983，高于 Claude Opus 4.7 的 0.625；成本约 0.60 美元/千次回答，对比 29.26 美元约低 49 倍。
- 训练与数据：边缘模型用 2,522 条样本训练约 32 分钟、成本 20–25 美元；云模型基于 ERCOT 五年约 1.63 亿行数据规则标注 25,000 条，经 Claude Sonnet 4.6 扩写至 86,281 行，单 LoRA epoch 约 8.5 小时。
- 行业意义：案例给出的不是“小模型全面替代大模型”，而是任务边界清晰、数据可校验、输出需引用输入行时，微调小模型可在特定任务上同时取得更高准确率与更低单位成本；边缘与云共用训练流水线，则把部署位置从模型训练中解耦，便于按延迟、连接性与成本选择运行环境。 🔗 AWS Machine Learning Blog
