返回首页

IBM CEO:开放权重模型达到前沿约九成效果,token 成本 10%–25%

  • 核心判断:IBM CEO Arvind Krishna 在季度业绩电话会上表示,开放权重模型与闭源前沿模型的能力差距已显著缩小。他给出的概括是,前者可达到约 90% 的效果,token 成本只有前沿模型的 10%–25%。
  • 应用场景:邮件总结、合同初步检查、客服与文字起草等任务,未必都值得购买最昂贵的闭源模型。
  • 部署障碍:Krishna 认为不少企业只需两三机柜就能建立有用的本地 AI 系统,但真正的障碍在部署和运维——GPU 的网络位置、集群安排、缓存、底层系统和技术人员都可能影响实际效果。
  • 边界:这些比例是高管在电话会中的总体判断,报道没有提供覆盖所有任务的统一质量、硬件和成本对照,不能直接当作本地部署必然节省九成总费用的证明。IBM 同时销售相关软件与基础设施,其商业利益是理解这段表态的背景。
  • 行业观察:开放权重模型的能力提升正在改变企业推理部署的经济性计算;但本地部署总成本仍要计入硬件、电力、利用率与人员,闲置 GPU 加运维支出可能比按量调用更贵。 🔗 The Register | HN 讨论