返回首页

Survival LLM 开源:本地模型搭配应急资料库,断网可查

Survival LLM 将本地语言模型与约 93 万篇维基百科及 FEMA、CDC、MedlinePlus 等应急资料结合,查询过程留在本机。

  • 运行方式:模型通过 SQLite 全文索引检索资料,再调用搜索、读取工具组织回答;回答列出实际读取文章并高亮相关段落,也可加入自有文档。
  • 配置与体积:支持 Apple Silicon、macOS 14+ 和 64 位 Windows 10/11;16—31GB 内存设备用约 6GB 的 Granite 4.2 8B,更高配置可选 Qwen3.8 27B 或 Nemotron;完整资料约 9GB,精简版约 1.3GB。
  • 实测与限制:作者用 22 道停电和急救问题测试,较大模型答对 21 题主要要点,小模型为 14 题;这不是医护专家独立安全认证,README 还记录过虚构来源等问题。
  • 行业含义:离线与附带引用降低了断网场景的检索门槛,但不能把“可读流畅”或“有引用”等同于答案必然正确;应急知识仍需提前学习和实践。 🔗 Survival LLM 项目页 | HN 讨论