项目简介
ollmo 是面向私有化、团队协作场景打造的
生产级 RAG (检索增强生成) 平台。上传文档、提出问题、拿到带精准出处的答案。内置混合检索、完整多租户隔离、流式对话、可视化 Agent 画布、GraphRAG、全链路可观测能力,开箱即可搭建私有知识库问答系统。
后端基于 Go + Fiber,前端 Next.js App Router + shadcn‑ui,前后端完整分离,支持 Docker 一键部署、私有化交付与 SaaS 两种模式。
✨ 核心特性
- 混合检索引擎:Milvus 稠密向量 + MySQL 全文检索,RRF 分数融合;知识库独立配置 Rerank,关键词 / 语义权重可视化可调,内置检索调试工具
- 完整多租户隔离:MySQL、Milvus、MinIO 全链路逻辑隔离,所有业务表携带
tenant_id,天然支持 SaaS 多团队运行
- 异步文档流水线:拖拽 / 粘贴批量上传 → MinerU (可选 GPU) 或本地解析 →智能分块 →向量化 →构建索引,基于 Asynq+Redis 异步任务调度,大文件不阻塞
- 流式溯源对话:SSE 实时输出回答,附带文档引用;点击引用直接打开 PDF 原文,高亮命中段落,对话与源文档并排对照
- 知识库人工标注问答:提前录入标准问答库,命中直接返回标准答案,降低幻觉、保证业务答案可控
- 会话自动记忆摘要:后台异步 LLM 长文本摘要,摘要自动注入后续对话,实现跨会话上下文延续
- 分层模型配置:租户全局模型、知识库独立模型双重配置;LLM / Embedding / Rerank 均可单独指定,双栏选择器方便管理模型清单
- Agent 可视化画布:基于 React‑Flow 可视化编排工作流,意图分类→检索→条件分支→LLM 输出,支持单节点调试
- 数据入库 DAG 流水线:可视化配置文档处理链路:数据源→解析器→分块策略→向量化→存储
- GraphRAG 实体抽取:文档入库自动抽取实体、关系构建知识图谱,查询阶段实体匹配增强检索召回
- 用量统计与费用看板:团队维度 Token 消耗、费用明细,支持按用户、模型多维度查看调用数据
- 全链路可观测回溯:Agent 每一次执行完整日志留存,节点路径、耗时、分支决策均可回放,Bad Case 一键溯源
- 团队权限系统:邀请制成员管理、角色权限、用户每日消息配额、知识库私有 / 团队共享
- 管理控制台:用户、团队套餐配额 (免费 / 专业 / 企业版)、系统配置、数据分析、审计日志
- 开放 API:ApiKey 鉴权,可外部程序调用知识库检索、流式问答、文档管理接口
- 国际化:中英文双语界面
🧱 技术栈
后端:Go 1.26+ / Fiber / GORM
前端:Next.js 15 (App Router) / React /shadcn‑ui
数据库:MySQL 8.0
向量库:Milvus 2.5+
对象存储:MinIO (S3 兼容)
任务队列:Asynq + Redis
文档解析:MinerU (GPU 可选)+ 本地解析器
认证:邮箱密码 + JWT
🚀快速上手文档
5 分钟启动:https://ollmo.com/docs/quick‑start
模型接入教程:https://ollmo.com/docs/model‑config
Docker 生产部署:https://ollmo.com/docs/deployment/docker
私有化 & 企业授权:https://ollmo.com/docs/enterprise