本地部署AI

【前言】
一直以来，我都深耕于断网开发环境，与外界“绝缘”成了常态。也因此，始终没能真正拥抱AI浪潮，成为一名高频“吃Token”的开发者。趁着今天得闲，决定把本地部署AI的过程记录下来，算是给自己补上一课。

【为什么还要本地部署AI？】
先别急着说“没必要”——如今在线AI和各类桌面端应用已经足够成熟，ChatGPT、Copilot、Claude等随手可用，为什么还要“折腾”本地部署？

我个人的理解，主要有三点：

1. 数据安全是第一刚需
   工作中涉及内部代码、敏感文档、未公开的算法逻辑，这些数据一旦上传云端，即使厂商承诺“不用于训练”，心理上的“数据出境感”仍然挥之不去。本地部署，数据不出机房，物理隔离，才是真正的“我的数据我做主”。

2. 自主训练，定制专属模型
   在线大模型虽强，但它是“通用大脑”，不懂你的业务术语、代码规范、项目上下文。本地部署后，你可以用自有数据做微调（Fine-tuning）或RAG，让AI真正懂你的项目，成为专属“副驾驶”。

3. 离线可用，永不掉线
   对于我这种长期断网环境的“原住民”，网络波动或断连是家常便饭。本地AI随叫随到，不受网络和API配额限制，开发体验更流畅，也无需为Token计费焦虑。

【记录本地部署AI过程】

1. 一个好看的聊天界面
   我选择的是Ollama
   特别提醒！！！ 选择安装的是时候千万不要直接点击进入安装程序
   通过cmd命令行进入安装程序，这样可以选择安装盘，要不然就会安装在C盘.
   例如你的安装包 在D盘file下面 OllamaSetup.exe，
   1打开cmd WIN+R 输入cmd 回车
   直接输入 D: && cd file 进入安装包目录
   2 输入 OllamaSetup.exe /DIR="D:\Ollama"
   等待一段时间安装好
   安装好之后，界面就是这样的下载链接：https://v4.gh-proxy.org/https://github.com/ollama/ollama/releases/latest/download/OllamaSetup.exe

2. 选择模型
   可根据个人电脑配置选择，我这里选择的是deepseek-r1:7b。
   （本人电脑比较垃圾，勿喷！！！）
   在安装前进入Ollama界面 选择模型存放目录要不然就会默认C盘1打开cmd WIN+R 输入cmd 回车
   输入ollama pull deepseek-r1:7b 等待安装 大概4个多G
   安装好之后
   输入ollama run deepseek-r1:7b
   运行模型 就可以了

3. 当然也可以在聊天界面 select a model 选择安装的模型

【结语】
当然，本地部署也有门槛——硬件成本、模型选型、推理优化都是挑战。但正如当年从物理机迁移到虚拟化一样，早踩坑，早受益。这篇文章就当作我的“本地AI折腾日志”，希望能给同样身处内网或对数据敏感的朋友一些参考。