WeKnora 断网部署内网机器跑通本地文档问答【免费下载链接】WeKnoraOpen-source LLM knowledge platform: turn raw documents into a queryable RAG, an autonomous reasoning agent, and a self-maintaining Wiki.项目地址: https://gitcode.com/GitHub_Trending/we/WeKnora内网服务器断网时内网那台服务器连不了外网但周五前必须把合同库跑起来文档解析和问答都得在机器上完成。WeKnora 是个开源 LLM 知识平台把原始文档变成可查询的 RAG、一个会推理的 agent 和自维护的 wiki。这篇带你把它在一台断网机器上完整跑起来。它到底干什么一套系统从原始文档到问答答案解析 PDF、Word、Excel、网页等格式切成可检索的 chunk用本地模型做向量化写入 PostgresParadeDB混合检索本地跑 LLM 推理回答带来源 chunk 引用agent 模式调工具、执行技能还能自己写 wiki 页面通过 Web 界面、IM 渠道、MCP、CLI 暴露问答接口跑起来之前先备齐这些硬件底线配置CPU内存磁盘最低配置8 核32 GB200 GBSSD推荐配置16 核64 GB500 GBSSD软件依赖Docker Engine 20.10Docker Compose v2Ollama跑在宿主机从零到跑通前提镜像包和模型文件已提前备进内网在有网机器docker save导出拷过去docker load能通内网源的话这步可以省。1. 拉代码把代码拷进服务器进到项目根目录。git clone https://gitcode.com/GitHub_Trending/we/WeKnora cd WeKnorals能看到docker-compose.yml和.env.example就对了。2. 改几行配置配置模板的默认值基本就是为离线准备的确认三行关键项即可。cp .env.example .env # .env 里确认这三行默认已是该值被改过就改回来 # STORAGE_TYPElocal # OLLAMA_OPTIONALtrue # OLLAMA_BASE_URLhttp://host.docker.internal:11434grep -E STORAGE_TYPE|OLLAMA .env查到的值是 local、true、host.docker.internal:11434 就对了。3. 备好模型在宿主机上把两个模型加载进 Ollama模型文件提前拷入的话解压到模型目录即可跳过 pull。ollama pull bge-m3 # 嵌入模型 ollama pull qwen2.5:7b # 对话模型ollama list里两个模型名都出现就对了。4. 点火用仓库自带的启动脚本拉起全部容器--no-pull让它用本地镜像、不往网上拉。./scripts/start_all.sh --no-pull脚本先尝试启动 Ollama已有服务就复用再经 compose 起 frontend、app、docreader、postgres、redis 等容器首次要等迁移跑完几分钟属正常。5. 确认全绿两条命令一个看容器一个探后端。docker compose ps curl -sf http://localhost:8080/health容器全 Uphealthycurl无报错浏览器开 http://localhost 能看到登录页就对了。第一次用起来部署通过后按最短路径把它用起来打开 http://localhost注册账号初始化向导里选 Ollama 当模型服务填前面拉的两个模型新建知识库拖入第一个文档等解析完成文档列表里能看到 chunk 数和状态在问答框问这份合同的关键点是什么核对回答是否引用了来源 chunk卡住了 / 想更快卡住了现象一条命令或一个动作起不来、报不清./scripts/start_all.sh -c跑一遍环境诊断app 容器反复重启docker compose logs app看最后一条报错找不到模型 / 回答乱ollama list核对模型名与配置一致文档卡在解析中docker compose logs docreader想更快换 4-bit 量化模型内存占用省一大截给机器挂 GPU推理走 CUDA调小 chunk 数向量化完成得更快改.env里的CONCURRENCY_POOL_SIZE控制解析并发下一步可以接上企业微信、飞书等 IM 渠道直接在群里提问可以开启 Langfuse看每次问答的 token 消耗可以用仓库里的 mcp-server 把问答能力暴露给别的工具可以定期备份 contenteditable="false">【免费下载链接】WeKnoraOpen-source LLM knowledge platform: turn raw documents into a queryable RAG, an autonomous reasoning agent, and a self-maintaining Wiki.项目地址: https://gitcode.com/GitHub_Trending/we/WeKnora创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考