为什么要先完成这一步本教程中的 Java 程序不会直接加载大模型文件而是通过 HTTP 调用本机 OllamaJava 程序 - http://localhost:11434 Ollama 服务 - 加载本地模型 模型生成回答如果 Ollama 没有安装、后台服务没有启动或者指定模型尚未下载后面的 Java 示例都无法运行。Ollama 是什么Ollama 是本地大模型运行器主要负责下载和管理模型。在 Mac 上加载模型并完成推理。提供终端聊天功能。在localhost:11434提供 HTTP API。它不是具体模型也不是 RAG 框架或向量数据库。可以把 Ollama 理解为模型的运行环境把 Qwen3 理解为由它加载的模型。第 1 步检查 Mac 配置system_profiler SPHardwareDataType|grep-EChip|Memory这条命令只读取芯片和内存信息不会修改系统。模型越大通常需要越多统一内存。入门时可以参考Mac 内存建议先尝试8 GBqwen3:4b16 GBqwen3:8b24 GB 或更多qwen3:14b实际速度还会受到芯片、上下文长度和同时运行的软件影响。如果电脑频繁使用交换内存应改用更小的模型。本教程当前代码使用qwen3:14b。如果选择其他模型需要让当前示例使用实际模型名称各模块的具体修改位置见**《模型切换指南qwen3 / bge-m3 怎么换》**。第 2 步检查 Homebrewbrew--versionHomebrew 用于在 macOS 上安装和管理命令行软件。如果提示command not found请先按照 Homebrew 官方网站 的说明安装。第 3 步安装 Ollamabrewinstallollama这一步只安装 Ollama 程序不会自动下载任何大模型。确认安装结果ollama--version看到版本号就表示命令已经可用。第 4 步启动后台服务brew services start ollama使用 Homebrew 服务启动后Ollama 在后台运行。关闭当前终端不会停止服务。登录 Mac 后可以自动启动。默认监听127.0.0.1:11434。检查 HTTP APIcurlhttp://localhost:11434/api/tags尚未下载模型时可能看到{models:[]}这表示服务正常只是模型列表为空。常用服务命令brew services list brew services restart ollama brew services stop ollama它们分别用于查看、重启和停止 Ollama 后台服务。第 5 步下载模型本教程使用ollama pull qwen3:14bqwen3是模型系列。14b表示大约 140 亿参数不等于文件大小为 14 GB。下载后的量化模型通常会占用数 GB 磁盘。查看已经下载的模型ollama list列表中应出现qwen3:14b。模型通常由 Ollama 管理在用户目录下的数据目录中。不要手动修改模型文件需要删除时使用ollamarmqwen3:14b第 6 步在终端测试模型ollama run qwen3:14b看到后输入请用三句话解释什么是 RAG。第一次运行需要将模型加载到内存可能比后续请求慢。完成测试后输入/bye这只退出当前聊天不会删除模型或停止后台服务。查看当前加载的模型ollamaps第 7 步验证 Java 将使用的接口curlhttp://localhost:11434/api/chat\-HContent-Type: application/json\-d{ model: qwen3:14b, messages: [ { role: user, content: 请用一句话解释向量检索 } ], stream: false, think: false }成功时会返回 JSON并包含{message:{role:assistant,content:……},done:true}这个接口正是第 1 篇 Java 程序调用的地址。常见问题无法连接localhost:11434查看服务状态brew services list重新启动brew services restart ollama提示模型不存在查看模型名称ollama list确保 Java 代码中的MODEL与列表中的名称完全一致。电脑响应很慢关闭暂时不用的高内存应用。缩短输入和对话历史。改用qwen3:8b或qwen3:4b。使用ollama ps检查当前加载状态。测试类由更高版本 Java 编译如果看到class file version 61.0, this version only recognizes up to 55.0含义是代码由 Java 17 编译但当前测试运行器使用 Java 11。版本对应关系Class file versionJava 版本55Java 1161Java 17先在终端确认java-versionmvn-version两处都应显示 Java 17 或更高版本。如果终端正常但 IntelliJ 测试失败检查Project Structure - Project SDK - 17 Settings - Build Tools - Maven - Importer JDK - 17 Settings - Build Tools - Maven - Runner JRE - 17修改后重新加载 Maven 项目再执行mvn-f01-ollama-basics/pom.xml cleantest如何停止或卸载临时停止后台服务brew services stop ollama卸载 Ollama 程序brew uninstall ollama卸载程序不一定会自动删除已经下载的模型。建议先使用ollama list确认模型再通过ollama rm 模型名逐个删除避免误删其他数据。成功标准完成本篇后应满足ollama --version能显示版本。brew services list显示 Ollama 已启动。ollama list包含qwen3:14b。ollama run qwen3:14b可以正常回答。/api/chat返回包含message.content的 JSON。满足这些条件后再进入《第1-2篇Java 调用 Ollama 与解析模型响应》。本篇小结Java 程序不直接加载大模型文件而是通过http://localhost:11434调用本机 OllamaOllama 只是模型的运行环境。brew install ollamabrew services start ollama让服务常驻后台默认监听127.0.0.1:11434。按内存选模型8 GB 用qwen3:4b16 GB 用qwen3:8b24 GB 及以上用qwen3:14b。ollama pull / list / run / ps / rm覆盖了下载、查看、测试、状态与删除的日常操作。最后用curl调/api/chat验证接口这正是第 1 篇 Java 程序要请求的地址。下一篇完整代码都在 GitHub欢迎 Star ⭐本专栏的全部示例代码都已开源包含 5 个可独立运行的 Maven 模块、自动化测试和完整分篇教程。建议Fork / Clone下来边读边跑 https://github.com/bysbsh/ai-rag-learning-guide代码与教程同步更新对照每一篇动手实践效果最好。如果这份教程帮到了你点个Star就是对我最大的支持也方便你之后找回最新版本。遇到问题或发现错漏欢迎在仓库提 Issue / PR。项目采用 MIT 协议可自由学习与二次创作。