ollama 部署教程

目录

• 安装
• 使用

安装

• 安装压缩包：curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama.tgz
• 解压：tar -xzvf ollama.tgz
• 添加权限：chmod +x bin/ollama
• 修改模型权重存储路径（默认是~/.ollama，其他杂七杂八文件也在这里）：export OLLAMA_MODELS="/data/dingxingd/ollama/models"
  • 所有模型的权重可以放到同一个目录下，ollama通过哈希区分，不用担心会混淆
• 启动服务：./bin/ollama serve
• 测试是否安装成功：在另一个终端运行curl http://localhost:11434，输出ollama is running

使用

• 安装模型：bin/ollama pull qwen3:0.6b
• 进行聊天：bin/ollama run qwen3:0.6b
  • 当然还可以使用其他很多方式，具体见官方文档