开发者近日在 GitHub 开源了一款名为 Ollmo 的大模型应用编排器(RAG 平台)。该项目旨在解决市面上 AI 编排工具过于复杂、配置繁琐的问题,主打“十分钟上手”与“数据不出门”的私有化部署能力。与主流基于 Python 生态的工具不同,Ollmo 后端采用 Go 语言与 Fiber 框架构建,前端则基于 Next.js 15 App Router 和 shadcn/ui,旨在通过高性能技术栈提供生产级的企业级 RAG 服务。
在功能特性上,Ollmo 极大简化了操作流程,将核心收敛为“上传文档、提出问题、获取答案”三步。其核心架构采用了 MySQL、Milvus 2.5+ 向量库与 MinIO 对象存储的组合,支持稠密与稀疏向量的混合检索以及 Rerank 重排序,显著提升了问答准确性。系统内置了完整的文档处理流水线,支持拖拽上传、异步解析与向量化索引。此外,Ollmo 还集成了 GraphRAG 技术,利用 LLM 抽取实体关系以增强检索上下文。
为了解决长对话中的记忆难题,Ollmo 实现了自动摘要机制,将摘要注入后续会话。用户可通过可视化的 Agent 画布编排意图分类、条件分支及 LLM 节点,支持接入 DeepSeek、豆包等各类主流大模型。平台还提供了多租户隔离、团队权限管理、外部 API 编程访问以及中英文国际化支持,适合企业快速搭建专属的 AI 生产力工具。
事件分析
从产品形态来看,Ollmo 试图打破当前“低代码平台”日益臃肿的趋势,通过收敛功能和减少配置项,回归工具提升效率的本质。其对 GraphRAG 和混合检索的支持,显示该项目在技术选型上紧跟 RAG 领域的前沿演进。对于企业用户而言,这种开箱即用、支持纯本地部署且具备多租户能力的解决方案,有效降低了构建私有知识库问答系统的技术门槛与安全合规风险。
核心观点:Ollmo 以 Go 语言的高性能架构切入 RAG 市场,通过极简主义设计平衡了企业级应用的复杂性与私有化部署的安全需求。
原文链接:V2EX 分享发现


评论前必须登录!
立即登录 注册