大模型管家--Ollama 简单使用教程(下载部署和调用模型--完整代码)---通俗易懂篇

      每次都在调用API,用官网的模型，发现账单消费很快，但是自己学习使用和简单的任务开发能不能本地下载模型调用，答案是肯定可以的。但是每个模型都有自己的用法，不能每个都要自己阅读使用方法，如何创建API，。。。有没有一个类似于管家的角色来管理这些模型，统一调用，答案肯定是有的，Ollama.

1.一键安装部署ollama

（这里只介绍linux），一键运行以下命令。等待部署完毕即可。

更多请参考https://github.com/ollama/ollama

curl -fsSL https://ollama.com/install.sh | sh

输入,查看版本，即可部署成功。

ollama --version

2、下载模型

部署完毕后，我想下载模型，该咋办，打开Vision models · Ollama Search 

打开qwen2.5vl。我选择  qwen2.5vl:7b    ，在终端输入    ollama run  qwen2.5vl:7b

下载完成后 输入  ollama 可以查看有哪些指令可以使用

 例如 ollama list 可以查看有哪些模型。下载了哪些模型。

2、如何快速使用本地模型

调用本地模型使用的是本地的api接口。更多的返回格式参考主数据库的 Ollama/docs/ABMD ·奥拉玛/奥拉玛 ·Kithub --- ollama/docs/api.md at main · ollama/ollama · GitHubhttps://github.com/ollama/ollama/blob/main/docs/api.md

import requests
import jsonOLLAMA_API_URL = "http://localhost:11434/api/chat"  # Ollama API 路径# 请求数据
data = {"model": "qwen2.5vl:7b",  # 使用的模型"messages": [{"role": "user",  # 发送消息的角色"content": "why is the sky blue?"  # 用户的提问内容}],"stream": False          # 关键：关闭流式。想要边生成边显示，用流式。
}# 发送 POST 请求
response = requests.post(OLLAMA_API_URL, json=data)# 打印返回的响应
if response.status_code == 200:print("API 响应:", response.json())
else:print("请求失败，状态码:", response.status_code)

至此，已经完成，能完成模型下载并进行接口调用就ok